epoll編程，如何實(shí)現(xiàn)高并發(fā)服務(wù)器開發(fā)？在epoll事件驅(qū)動(dòng)機(jī)制在linux中實(shí)現(xiàn)之前，我們一般選擇使用select或poll等IO復(fù)用來實(shí)現(xiàn)并發(fā)服務(wù)程序。在大數(shù)據(jù)、高并發(fā)、集群等術(shù)語的時(shí)代，sel

epoll編程，如何實(shí)現(xiàn)高并發(fā)服務(wù)器開發(fā)？

在epoll事件驅(qū)動(dòng)機(jī)制在linux中實(shí)現(xiàn)之前，我們一般選擇使用select或poll等IO復(fù)用來實(shí)現(xiàn)并發(fā)服務(wù)程序。在大數(shù)據(jù)、高并發(fā)、集群等術(shù)語的時(shí)代，select和poll的使用越來越受限，風(fēng)頭已經(jīng)被epoll占領(lǐng)。

本文將介紹epoll的實(shí)現(xiàn)機(jī)制，并附帶說明選擇和輪詢。通過比較其不同的實(shí)現(xiàn)機(jī)制，我們才能真正理解epoll為什么能做到高并發(fā)。

選擇()和輪詢()IO多路復(fù)用模式

選擇的缺點(diǎn):

單個(gè)進(jìn)程可以監(jiān)控的文件描述符的數(shù)量有一個(gè)最大限制，通常是1024個(gè)。當(dāng)然，該數(shù)量可以更改，但是因?yàn)閟elect通過輪詢掃描文件描述符，所以文件描述符越多，性能越差。(在linux內(nèi)核頭文件中，有這樣的定義:#define __FD_SETSIZE 1024)對于內(nèi)核/用戶空間內(nèi)存復(fù)制的問題，select需要復(fù)制大量的句柄數(shù)據(jù)結(jié)構(gòu)，產(chǎn)生巨大的開銷；Select返回一個(gè)包含整個(gè)句柄的數(shù)組，應(yīng)用需要遍歷整個(gè)數(shù)組，找出哪些句柄有事件；select的觸發(fā)模式是水平觸發(fā)。如果應(yīng)用程序未能對就緒文件描述符執(zhí)行IO操作，那么每個(gè)后續(xù)的select調(diào)用仍將通知進(jìn)程這些文件描述符。與select模型相比，poll使用鏈表存儲(chǔ)文件描述符，因此對被監(jiān)控文件的數(shù)量沒有限制，但其他三個(gè)缺點(diǎn)仍然存在。

以精選車型為例。假設(shè)我們的服務(wù)器需要支持100萬個(gè)并發(fā)連接，如果__FD_SETSIZE為1024，我們至少需要打開1k個(gè)進(jìn)程才能實(shí)現(xiàn)100萬個(gè)并發(fā)連接。除了進(jìn)程間上下文切換的時(shí)間消耗，來自內(nèi)核/用戶空間的大量無腦內(nèi)存拷貝和數(shù)組輪詢也是系統(tǒng)無法承受的。因此，基于select模型的服務(wù)器程序要實(shí)現(xiàn)10萬級并發(fā)訪問是一項(xiàng)艱巨的任務(wù)。

因此，它 s epoll 輪到我們玩了。

epoll IO復(fù)用模型的實(shí)現(xiàn)機(jī)制

由于epoll的實(shí)現(xiàn)機(jī)制與select/poll完全不同，所以上面提到的select的缺點(diǎn)在epoll上已經(jīng)不存在了。

想象以下場景:同時(shí)有一百萬個(gè)客戶端通過TCP連接到一個(gè)服務(wù)器進(jìn)程。在任何時(shí)刻，通常只有數(shù)百或數(shù)千個(gè)TCP連接處于活動(dòng)狀態(tài)(事實(shí)上，大多數(shù)情況下都是這樣)。如何實(shí)現(xiàn)如此高的并發(fā)？

在select/poll時(shí)代，服務(wù)器進(jìn)程每次都會(huì)把這100萬個(gè)連接(從用戶狀態(tài)到回復(fù))告訴操作系統(tǒng)把句柄數(shù)據(jù)結(jié)構(gòu)控制到內(nèi)核態(tài))，讓操作系統(tǒng)內(nèi)核查詢這些套接字上是否有事件，輪詢后再把句柄數(shù)據(jù)復(fù)制到用戶態(tài)，這樣服務(wù)器應(yīng)用就可以輪詢和處理已經(jīng)發(fā)生的網(wǎng)絡(luò)事件。這個(gè)過程消耗了大量的資源。因此，select/poll只能處理數(shù)千個(gè)并發(fā)連接。

epoll的設(shè)計(jì)和實(shí)現(xiàn)與select完全不同。Epoll適用于Linux內(nèi)核中的簡單文件系統(tǒng)(文件系統(tǒng)一般用什么數(shù)據(jù)結(jié)構(gòu)來實(shí)現(xiàn)？b樹)。最初的選擇/輪詢調(diào)用分為三個(gè)部分:

1)調(diào)用epoll_create()創(chuàng)建一個(gè)epoll對象(在epoll文件系統(tǒng)中為此句柄對象分配資源)。

2)調(diào)用epoll_ctl將這100萬個(gè)連接的套接字添加到epoll對象中。

3)調(diào)用epoll_wait收集發(fā)生的事件的連接。

這樣，要實(shí)現(xiàn)上述場景，我們只需要在流程啟動(dòng)時(shí)創(chuàng)建一個(gè)epoll對象，然后在需要時(shí)添加或刪除到這個(gè)epoll對象的連接。同時(shí)，epoll_wait的效率也很高，因?yàn)檎{(diào)用epoll_wait時(shí)，這100萬個(gè)連接的句柄數(shù)據(jù)并沒有復(fù)制到操作系統(tǒng)中，內(nèi)核也不需要遍歷所有的連接。

讓 讓我們來看看epoll機(jī)制在Linux內(nèi)核中的具體實(shí)現(xiàn)思路。

當(dāng)一個(gè)進(jìn)程調(diào)用epoll_create方法時(shí)，Linux內(nèi)核會(huì)創(chuàng)建一個(gè)eventpoll結(jié)構(gòu)，該結(jié)構(gòu)中的兩個(gè)成員與epoll的用法密切相關(guān)。eventpoll結(jié)構(gòu)如下:

[CPP]查看純文本結(jié)構(gòu)事件輪詢{.../*紅黑樹的根節(jié)點(diǎn)，此樹存儲(chǔ)所有需要監(jiān)控的事件添加到epoll */ struct rb_root rbr /*雙向鏈表存儲(chǔ)將通過epoll _ wait */struct list _ head rd list返回給用戶的事件...}每個(gè)epoll對象都有一個(gè)獨(dú)立的eventpoll結(jié)構(gòu)，用于存儲(chǔ)通過epoll_ctl方法添加到epoll對象的事件。這些事件會(huì)被掛載到紅黑樹中，這樣就可以通過紅黑樹高效的識(shí)別出重復(fù)添加的事件(紅黑樹的插入時(shí)間效率為lgn，其中n為樹的高度)。

添加到epoll中的所有事件都將與設(shè)備(網(wǎng)卡)驅(qū)動(dòng)程序建立回調(diào)關(guān)系，也就是說，當(dāng)相應(yīng)的事件發(fā)生時(shí)，將調(diào)用這個(gè)回調(diào)方法。這個(gè)回調(diào)方法在內(nèi)核中稱為ep_poll_callback，它會(huì)將發(fā)生的事件添加到。在rdlist雙向鏈表中。

在epoll中，為每個(gè)事件創(chuàng)建一個(gè)epitem結(jié)構(gòu)，如下所示:

[CPP]view plain copy struct EP item { structrb _ noderbn//紅黑樹節(jié)點(diǎn)struct list _ heardlink//雙向鏈表節(jié)點(diǎn)struct epoll_filefd ffd //事件處理程序信息struct eventpoll * Ep //指向其所屬的eventpoll對象，struct epoll _ event預(yù)期事件類型}調(diào)用epoll_wait檢查是否有事件時(shí)，只需要檢查eventpoll對象中的rdlist雙向鏈表中是否有EP item元素，如果rdlist不為空，事件將被復(fù)制到用戶模式，事件數(shù)將返回給用戶。

epoll數(shù)據(jù)結(jié)構(gòu)示意圖

從上面的解釋我們可以知道，epoll的效率是通過紅黑樹和雙鏈表數(shù)據(jù)結(jié)構(gòu)，結(jié)合回調(diào)機(jī)制實(shí)現(xiàn)的。

好了，解釋完epoll的機(jī)理，我們就可以輕松掌握Epoll的用法了。一句話的描述就是:三部曲。

步驟1: epoll_create()系統(tǒng)調(diào)用。這個(gè)調(diào)用返回一個(gè)句柄，所有后續(xù)的使用都在這個(gè)句柄上被標(biāo)識(shí)。

第二步:epoll_ctl()系統(tǒng)調(diào)用。通過此調(diào)用添加、刪除和修改epoll對象感興趣的事件。返回0表示成功，返回-1表示失敗。

第三部分:epoll_wait()系統(tǒng)調(diào)用。通過此調(diào)用收集epoll監(jiān)控中發(fā)生的事件。

最后，附上一個(gè)epoll編程實(shí)例。

[CPP]查看plain copy///Linux///2009-11-05//2013-03-22:一個(gè)使用poll的簡單echo服務(wù)器修改了幾個(gè)問題，1是/n格式問題，2是去掉了原代碼不小心添加的ET模式//原來只是一個(gè)簡單的原理圖程序。通過sparking/# include SLT sys/socket . HGT # include SLT sys/epoll . HGT # include SLT inet/in . HGT # include SLT arpa/inet . HGT # include SLT fcntl . HGT # include SLTnistd . HGT # include ltstdio . HGT # include lter no . HGT # include ltostreamgt使用命名空間STD # define MAX _ EVENTS 500 struct my event _ s { int FD void(* call _ back)(int FD，int :在epoll等待列表中，0不在char buff中[128] // recv數(shù)據(jù)緩沖區(qū)int len，s _ offset long last _ active//last active time }//設(shè)置事件void EventSet(myevent_s *ev void * arg){ ev-gtfd FD ev-gt call _ back call _ back ev-gt events 0 ev-gt arg ev-gt status 0 b zero(ev-gt buff，sizeof(ev-gt buff))ev-GTS _ offset 0 ev-gt len 0 ev-gt last _ active time(NULL)}//向epoll void EventAdd(int epollFd，int events，my Event _ s * ev){ struct

如何解決網(wǎng)站大規(guī)模高并發(fā)訪問？

優(yōu)雅降級是指網(wǎng)站為了應(yīng)對突如其來的訪問高峰，主動(dòng)關(guān)閉部分功能，釋放部分系統(tǒng)資源。一種保證正常訪問網(wǎng)站核心功能的手段。淘寶 美國年度 "雙十一 "推廣是突然爆發(fā)的非常規(guī)訪問。淘寶 s的工程師每年都會(huì)關(guān)閉一些非核心功能，比如評估和確認(rèn)收貨，以保證交易功能的正常運(yùn)行。

基于移動(dòng)計(jì)算實(shí)現(xiàn)自動(dòng)優(yōu)雅降級是網(wǎng)站柔性架構(gòu)的理想狀態(tài)。監(jiān)控系統(tǒng)實(shí)時(shí)監(jiān)控所有服務(wù)器的運(yùn)行狀態(tài)，并根據(jù)監(jiān)控參數(shù)判斷應(yīng)用訪問負(fù)載。如果發(fā)現(xiàn)有的應(yīng)用負(fù)載過高，有的應(yīng)用負(fù)載過低，就會(huì)適當(dāng)卸載一些低負(fù)載的應(yīng)用服務(wù)器，重新安裝一些高負(fù)載的應(yīng)用，平衡應(yīng)用負(fù)載。如果所有應(yīng)用負(fù)載都很高，負(fù)載壓力持續(xù)增加，會(huì)自動(dòng)關(guān)閉一些不重要的功能，以保證核心功能。