linux下epoll如何實現高效處理百萬控制程式碼的

ztguang發表於2016-03-30
http://blog.chinaunix.net/space.php?uid=26423908&do=blog&id=3058905

開 發高效能網路程式時,windows開發者們言必稱iocp,linux開發者們則言必稱epoll。大家都明白epoll是一種IO多路複用技術,可以 非常高效的處理數以百萬計的socket控制程式碼,比起以前的select和poll效率高大發了。我們用起epoll來都感覺挺爽,確實快,那麼,它到底為 什麼可以高速處理這麼多併發連線呢?


先簡單回顧下如何使用C庫封裝的3個epoll系統呼叫吧。

  1. int epoll_create(int size);  
  2. int epoll_ctl(int epfd, int op, int fd, struct epoll_event *event);  
  3. int epoll_wait(int epfd, struct epoll_event *events,int maxevents, int timeout);  

使用起來很清晰,首先要呼叫epoll_create建立一個epoll物件。引數size是核心保證能夠正確處理的最大控制程式碼數,多於這個最大數時核心可不保證效果。

epoll_ctl可以操作上面建立的epoll,例如,將剛建立的socket加入到epoll中讓其監控,或者把 epoll正在監控的某個socket控制程式碼移出epoll,不再監控它等等。

epoll_wait在呼叫時,在給定的timeout時間內,當在監控的所有控制程式碼中有事件發生時,就返回使用者態的程式。


從 上面的呼叫方式就可以看到epoll比select/poll的優越之處:因為後者每次呼叫時都要傳遞你所要監控的所有socket給select /poll系統呼叫,這意味著需要將使用者態的socket列表copy到核心態,如果以萬計的控制程式碼會導致每次都要copy幾十幾百KB的記憶體到核心態,非 常低效。而我們呼叫epoll_wait時就相當於以往呼叫select/poll,但是這時卻不用傳遞socket控制程式碼給核心,因為核心已經在 epoll_ctl中拿到了要監控的控制程式碼列表。


所以,實際上在你呼叫epoll_create後,核心就已經在核心態開始準備幫你儲存要監控的控制程式碼了,每次呼叫epoll_ctl只是在往核心的資料結構裡塞入新的socket控制程式碼。


在核心裡,一切皆檔案。所以,epoll向核心註冊了一個檔案系統,用於儲存上述的被監控socket。當你呼叫epoll_create時,就會在這個虛擬的epoll檔案系統裡建立一個file結點。當然這個file不是普通檔案,它只服務於epoll。


epoll 在被核心初始化時(作業系統啟動),同時會開闢出epoll自己的核心高速cache區,用於安置每一個我們想監控的socket,這些socket會以 紅黑樹的形式儲存在核心cache裡,以支援快速的查詢、插入、刪除。這個核心高速cache區,就是建立連續的實體記憶體頁,然後在之上建立slab層, 簡單的說,就是物理上分配好你想要的size的記憶體物件,每次使用時都是使用空閒的已分配好的物件。

  1. static int __init eventpoll_init(void)  
  2. {  
  3.     ... ...  
  4.   
  5.     /* Allocates slab cache used to allocate "struct epitem" items */  
  6.     epi_cache = kmem_cache_create("eventpoll_epi"sizeof(struct epitem),  
  7.             0, SLAB_HWCACHE_ALIGN|EPI_SLAB_DEBUG|SLAB_PANIC,  
  8.             NULL, NULL);  
  9.   
  10.     /* Allocates slab cache used to allocate "struct eppoll_entry" */  
  11.     pwq_cache = kmem_cache_create("eventpoll_pwq",  
  12.             sizeof(struct eppoll_entry), 0,  
  13.             EPI_SLAB_DEBUG|SLAB_PANIC, NULL, NULL);  
  14.   
  15.  ... ...  


epoll 的高效就在於,當我們呼叫epoll_ctl往裡塞入百萬個控制程式碼時,epoll_wait仍然可以飛快的返回,並有效的將發生事件的控制程式碼給我們使用者。這是 由於我們在呼叫epoll_create時,核心除了幫我們在epoll檔案系統裡建了個file結點,在核心cache裡建了個紅黑樹用於儲存以後 epoll_ctl傳來的socket外,還會再建立一個list連結串列,用於儲存準備就緒的事件,當epoll_wait呼叫時,僅僅觀察這個list鏈 表裡有沒有資料即可。有資料就返回,沒有資料就sleep,等到timeout時間到後即使連結串列沒資料也返回。所以,epoll_wait非常高效。


而且,通常情況下即使我們要監控百萬計的控制程式碼,大多一次也只返回很少量的準備就緒控制程式碼而已,所以,epoll_wait僅需要從核心態copy少量的控制程式碼到使用者態而已,如何能不高效?!


那 麼,這個準備就緒list連結串列是怎麼維護的呢?當我們執行epoll_ctl時,除了把socket放到epoll檔案系統裡file物件對應的紅黑樹上 之外,還會給核心中斷處理程式註冊一個回撥函式,告訴核心,如果這個控制程式碼的中斷到了,就把它放到準備就緒list連結串列裡。所以,當一個socket上有數 據到了,核心在把網路卡上的資料copy到核心中後就來把socket插入到準備就緒連結串列裡了。


如 此,一顆紅黑樹,一張準備就緒控制程式碼連結串列,少量的核心cache,就幫我們解決了大併發下的socket處理問題。執行epoll_create時,建立了 紅黑樹和就緒連結串列,執行epoll_ctl時,如果增加socket控制程式碼,則檢查在紅黑樹中是否存在,存在立即返回,不存在則新增到樹幹上,然後向核心注 冊回撥函式,用於當中斷事件來臨時向準備就緒連結串列中插入資料。執行epoll_wait時立刻返回準備就緒連結串列裡的資料即可。


最後看看epoll獨有的兩種模式LT和ET。無論是LT和ET模式,都適用於以上所說的流程。區別是,LT模式下,只要一個控制程式碼上的事件一次沒有處理完,會在以後呼叫epoll_wait時次次返回這個控制程式碼,而ET模式僅在第一次返回。


這 件事怎麼做到的呢?當一個socket控制程式碼上有事件時,核心會把該控制程式碼插入上面所說的準備就緒list連結串列,這時我們呼叫epoll_wait,會把準備 就緒的socket拷貝到使用者態記憶體,然後清空準備就緒list連結串列,最後,epoll_wait幹了件事,就是檢查這些socket,如果不是ET模式 (就是LT模式的控制程式碼了),並且這些socket上確實有未處理的事件時,又把該控制程式碼放回到剛剛清空的準備就緒連結串列了。所以,非ET的控制程式碼,只要它上面還 有事件,epoll_wait每次都會返回。而ET模式的控制程式碼,除非有新中斷到,即使socket上的事件沒有處理完,也是不會次次從 epoll_wait返回的。


<script>window._bd_share_config={"common":{"bdSnsKey":{},"bdText":"","bdMini":"2","bdMiniList":false,"bdPic":"","bdStyle":"0","bdSize":"16"},"share":{}};with(document)0[(getElementsByTagName('head')[0]||body).appendChild(createElement('script')).src='http://bdimg.share.baidu.com/static/api/js/share.js?v=89860593.js?cdnversion='+~(-new Date()/36e5)];</script>
閱讀(536) | 評論(0) | 轉發(0) |
給主人留下些什麼吧!~~
評論熱議

相關文章