Python多路復用selector模塊的基本使用
1. IO多路復用
O多路復用技術是使用一個可以同時監(jiān)視多個IO阻塞的中間人去監(jiān)視這些不同的IO對象,這些被監(jiān)視的任何一個或多個IO對象有消息返回,都將會觸發(fā)這個中間人將這些有消息IO對象返回,以供獲取他們的消息。
使用IO多路復用的優(yōu)點在于,進程在單線程的情況下同樣可以同時處理多個IO阻塞。與傳統(tǒng)的多線程/多進程模型比,I/O多路復用系統(tǒng)開銷小,系統(tǒng)不需要創(chuàng)建新的進程或者線程,也不需要維護這些進程和線程的運行,降底了系統(tǒng)的維護工作量,節(jié)省了系統(tǒng)資源,
Python提供了selector模塊來實現(xiàn)IO多路復用。同時,不同的操作系統(tǒng)上,這中間人的可選則的類型是不同的,目前常見的有,epoll, kqueue, devpoll, poll,select等;kqueue(BSD,mac支持),devpoll(solaris支持)和epoll的實現(xiàn)基本相同,epoll在Linux2.5+內(nèi)核中實現(xiàn),Windows系統(tǒng)只實現(xiàn)了select。
1.1. epoll,poll, select的比較
select和poll使用輪詢的方式去檢測監(jiān)視的所有IO是否有數(shù)據(jù)返回,需要不斷的遍歷每一個IO對象,這是一種費時的操作,效率較低。poll優(yōu)于select的一點是select限制了最大監(jiān)視IO數(shù)為1024,這對于需要大量網(wǎng)絡IO連接的服務器來顯然是不夠的;而poll對于這個個數(shù)沒有限制。但是這同樣面臨問題,在使用輪詢的方式監(jiān)視這些IO時,IO數(shù)越大,意味著每一次輪詢消耗的時間越多。效率也就越低,這是輪詢無法解決的問題。
epoll就是為了解決這樣的問題誕生的,首先他沒有最大的監(jiān)視的IO數(shù)的限制,并且沒有使用輪詢的方式去檢測這些IO,而是采用了事件通知機制和回調(diào)來獲取這些有消息返回的IO對象,只有“活躍”的IO才會主動的去調(diào)用callback函數(shù)。這個IO將會直接被處理而不需要輪詢。
2. selector模塊的基本使用
import selectors import socket # 創(chuàng)建一個socketIO對象,監(jiān)聽后將可以接受請求消息了 sock = socket.socket() sock.bind(("127.0.0.1", 80)) sock.listen() slt = selectors.DefaultSelector() # 使用系統(tǒng)默認selector,Windows為select,linux為epoll # 將這個socketIO對象加入到,select中監(jiān)視 slt.register(fileobj=sock, events=selectors.EVENT_READ, data=None) # 循環(huán)處理消息 while True: # select方法:輪詢這個selector,當有至少一個IO對象有消息返回時候,將會返回這個有消息的IO對象 ready_events = slt.select(timeout=None) print(ready_events) # 準備好的IO對象們 break
ready_events
為一個列表(代表注冊到這個select中的所有的有數(shù)據(jù)可接收IO對象),列表中的每一個元組為:
SelectorKey對象:
- fileobj:注冊的socket對象
- fd:文件描述符
- data:注冊時我們傳入的參數(shù),可以是任意值,綁定到一個屬性上,方便之后使用。
mask值
- EVENT_READ : 表示可讀的; 它的值其實是1;
- EVENT_WRITE: 表示可寫的; 它的值其實是2;
- 或者二者的組合
例如:
[(SelectorKey(fileobj=<socket.socket fd=456, family=AddressFamily.AF_INET, type=SocketKind.SOCK_STREAM, proto=0, laddr=('127.0.0.1', 80)>, fd=456, events=1, data=None),
1)]
處理這個請求,只需要使用該socket對應方法即可,該socket用于接收請求的連接,使用accept方法就可以處理這個請求。
當接受請求之后,又將會產(chǎn)生新的客戶端,我們將其放入selector中一并監(jiān)視,當有消息來時,如果是連接請求,handle_request()函數(shù)處理,如果是客戶端的消息,handle_client_msg()函數(shù)處理。
對于select中有兩類socket,所以我們需要判斷被激活后返回的socket是哪一種,再調(diào)用不同的函數(shù)做不同的請求。如果這個select中的socket種類有很多,將無法如此判斷。解決辦法就是將處理函數(shù)綁定到對應的selectkey對象中,可以使用data參數(shù)。
def handle_request(sock:socket.socket, mask): # 處理新連接 conn, addr = sock.accept() conn.setblocking(False) # 設定非阻塞 slt.register(conn, selector.EVENT_READ, data=handle_client_msg) def handle_client_msg(sock:socket.socket, mask) # 處理消息 data = sock.recv() print(data.decode()) sock = socket.socket() sock.bind(("127.0.0.1", 80)) sock.listen() slt = selectors.DefaultSelector() slt.register(fileobj=sock, events=selectors.EVENT_READ, data=handle_request) while True: ready_events = slt.select(timeout=None) for event, mask in ready_events: event.data(event.fileobj, mask) # 不同的socket有不同data函數(shù),使用自己綁定的data函數(shù)調(diào)用,再將自己的socket作為參數(shù)。就可以處理不同類型的socket。
上面使用data很好的解決了上面問題,但是需要注意,綁定到data屬性上函數(shù)(或者說可調(diào)用對象)最終會使用event.data(event.fileobj)的方式調(diào)用,這些函數(shù)接受的參數(shù)應該相同。
到此這篇關于Python多路復用selector模塊的文章就介紹到這了,更多相關Python selector模塊內(nèi)容請搜索本站以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持本站!
版權聲明:本站文章來源標注為YINGSOO的內(nèi)容版權均為本站所有,歡迎引用、轉載,請保持原文完整并注明來源及原文鏈接。禁止復制或仿造本網(wǎng)站,禁止在非www.sddonglingsh.com所屬的服務器上建立鏡像,否則將依法追究法律責任。本站部分內(nèi)容來源于網(wǎng)友推薦、互聯(lián)網(wǎng)收集整理而來,僅供學習參考,不代表本站立場,如有內(nèi)容涉嫌侵權,請聯(lián)系alex-e#qq.com處理。