最近很多Golang小夥伴面試居然被問到epoll?很是頭疼?
猜測面試官應該是一個古老的C/C++ Coder吧
那麼,對於Gopher來說,或者後端開發者來說,尤其是做伺服器開發,不管從事什麼程式語言,epoll確實都應該是一個必備的知識領域。
本篇文章就是可以讓你快速瞭解什麼是epoll以及它的作用?
一、流?I/O操作? 阻塞?
(1) 流
- 可以進行I/O操作的核心物件
- 檔案、管道、套接字……
- 流的入口:檔案描述符(fd)
(2) I/O操作
所有對流的讀寫操作,我們都可以稱之為IO操作。
當一個流中, 在沒有資料read的時候,或者說在流中已經寫滿了資料,再write,我們的IO操作就會出現一種現象,就是阻塞現象,如下圖。
(3) 阻塞
阻塞場景: 你有一份快遞,家裡有個座機,快遞到了主動給你打電話,期間你可以休息。
非阻塞,忙輪詢場景: 你性子比較急躁, 每分鐘就要打電話詢問快遞小哥一次, 到底有沒有到,快遞員接你電話要停止運輸,這樣很耽誤快遞小哥的運輸速度。
- 阻塞等待
空出大腦可以安心睡覺, 不影響快遞員工作(不佔用CPU寶貴的時間片)。
- 非阻塞,忙輪詢
浪費時間,浪費電話費,佔用快遞員時間(佔用CPU,系統資源)。
很明顯,阻塞等待這種方式,對於通訊上是有明顯優勢的, 那麼它有哪些弊端呢?
二、解決阻塞死等待的辦法
阻塞死等待的缺點
也就是同一時刻,你只能被動的處理一個快遞員的簽收業務,其他快遞員打電話打不進來,只能乾瞪眼等待。那麼解決這個問題,家裡多買N個座機, 但是依然是你一個人接,也處理不過來,需要用影分身術建立都個自己來接電話(採用多執行緒或者多程式)來處理。
這種方式就是沒有多路IO複用的情況的解決方案, 但是在單執行緒計算機時代(無法影分身),這簡直是災難。
那麼如果我們不借助影分身的方式(多執行緒/多程式),該如何解決阻塞死等待的方法呢?
辦法一:非阻塞、忙輪詢
while true {
for i in 流[] {
if i has 資料 {
讀 或者 其他處理
}
}
}
非阻塞忙輪詢的方式,可以讓使用者分別與每個快遞員取得聯絡,宏觀上來看,是同時可以與多個快遞員溝通(併發效果)、 但是快遞員在於使用者溝通時耽誤前進的速度(浪費CPU)。
辦法二:select
我們可以開設一個代收網點,讓快遞員全部送到代收點。這個網店管理員叫select。這樣我們就可以在家休息了,麻煩的事交給select就好了。當有快遞的時候,select負責給我們打電話,期間在家休息睡覺就好了。
但select 代收員比較懶,她記不住快遞員的單號,還有快遞貨物的數量。她只會告訴你快遞到了,但是是誰到的,你需要挨個快遞員問一遍。
while true {
select(流[]); //阻塞
//有訊息抵達
for i in 流[] {
if i has 資料 {
讀 或者 其他處理
}
}
}
辦法三:epoll
epoll的服務態度要比select好很多,在通知我們的時候,不僅告訴我們有幾個快遞到了,還分別告訴我們是誰誰誰。我們只需要按照epoll給的答覆,來詢問快遞員取快遞即可。
while true {
可處理的流[] = epoll_wait(epoll_fd); //阻塞
//有訊息抵達,全部放在 “可處理的流[]”中
for i in 可處理的流[] {
讀 或者 其他處理
}
}
三、epoll?
- 與select,poll一樣,對I/O多路複用的技術
- 只關心“活躍”的連結,無需遍歷全部描述符集合
- 能夠處理大量的連結請求(系統可以開啟的檔案數目)
四、epoll的API
(1) 建立EPOLL
/**
* @param size 告訴核心監聽的數目
*
* @returns 返回一個epoll控制程式碼(即一個檔案描述符)
*/
int epoll_create(int size);
使用
int epfd = epoll_create(1000);
建立一個epoll控制程式碼,實際上是在核心空間,建立一個root根節點,這個根節點的關係與epfd相對應。
(2) 控制EPOLL
/**
* @param epfd 用epoll_create所建立的epoll控制程式碼
* @param op 表示對epoll監控描述符控制的動作
*
* EPOLL_CTL_ADD(註冊新的fd到epfd)
* EPOLL_CTL_MOD(修改已經註冊的fd的監聽事件)
* EPOLL_CTL_DEL(epfd刪除一個fd)
*
* @param fd 需要監聽的檔案描述符
* @param event 告訴核心需要監聽的事件
*
* @returns 成功返回0,失敗返回-1, errno檢視錯誤資訊
*/
int epoll_ctl(int epfd, int op, int fd,
struct epoll_event *event);
struct epoll_event {
__uint32_t events; /* epoll 事件 */
epoll_data_t data; /* 使用者傳遞的資料 */
}
/*
* events : {EPOLLIN, EPOLLOUT, EPOLLPRI,
EPOLLHUP, EPOLLET, EPOLLONESHOT}
*/
typedef union epoll_data {
void *ptr;
int fd;
uint32_t u32;
uint64_t u64;
} epoll_data_t;
使用
struct epoll_event new_event;
new_event.events = EPOLLIN | EPOLLOUT;
new_event.data.fd = 5;
epoll_ctl(epfd, EPOLL_CTL_ADD, 5, &new_event);
建立一個使用者態的事件,繫結到某個fd上,然後新增到核心中的epoll紅黑樹中。
(3) 等待EPOLL
/**
*
* @param epfd 用epoll_create所建立的epoll控制程式碼
* @param event 從核心得到的事件集合
* @param maxevents 告知核心這個events有多大,
* 注意: 值 不能大於建立epoll_create()時的size.
* @param timeout 超時時間
* -1: 永久阻塞
* 0: 立即返回,非阻塞
* >0: 指定微秒
*
* @returns 成功: 有多少檔案描述符就緒,時間到時返回0
* 失敗: -1, errno 檢視錯誤
*/
int epoll_wait(int epfd, struct epoll_event *event,
int maxevents, int timeout);
使用
struct epoll_event my_event[1000];
int event_cnt = epoll_wait(epfd, my_event, 1000, -1);
epoll_wait
是一個阻塞的狀態,如果核心檢測到IO的讀寫響應,會拋給上層的epoll_wait, 返回給使用者態一個已經觸發的事件佇列,同時阻塞返回。開發者可以從佇列中取出事件來處理,其中事件裡就有繫結的對應fd是哪個(之前新增epoll事件的時候已經繫結)。
(4) 使用epoll程式設計主流程骨架
int epfd = epoll_crete(1000);
//將 listen_fd 新增進 epoll 中
epoll_ctl(epfd, EPOLL_CTL_ADD, listen_fd,&listen_event);
while (1) {
//阻塞等待 epoll 中 的fd 觸發
int active_cnt = epoll_wait(epfd, events, 1000, -1);
for (i = 0 ; i < active_cnt; i++) {
if (evnets[i].data.fd == listen_fd) {
//accept. 並且將新accept 的fd 加進epoll中.
}
else if (events[i].events & EPOLLIN) {
//對此fd 進行讀操作
}
else if (events[i].events & EPOLLOUT) {
//對此fd 進行寫操作
}
}
}
9、Golang中的Channel底層深度剖析
首先宣告,本文不介紹channel的基礎語法和使用場景,如果想golang中的channel的基礎語法其他地方有很多地方介紹。這裡只介紹channel的一些底層實現原理的剖析。
(1)Channel特性
首先,我們先複習一下Channel都有哪些特性?
給一個 nil channel 傳送資料,造成永遠阻塞
從一個 nil channel 接收資料,造成永遠阻塞
給一個已經關閉的 channel 傳送資料,引起 panic
從一個已經關閉的 channel 接收資料,如果緩衝區中為空,則返回一個零值
無緩衝的channel是同步的,而有緩衝的channel是非同步的
以上5個特性是死東西,也可以透過口訣來記憶:“空讀寫阻塞,寫關閉異常,讀關閉空零”。
下面以簡單的示例來演示Go如何透過channel來實現通訊。
package main
import (
"fmt"
"time"
)
func goRoutineA(a <-chan int) {
val := <-a
fmt.Println("goRoutineA received the data", val)
}
func goRoutineB(b chan int) {
val := <-b
fmt.Println("goRoutineB received the data", val)
}
func main() {
ch := make(chan int, 3)
go goRoutineA(ch)
go goRoutineB(ch)
ch <- 3
time.Sleep(time.Second * 1)
}
五、epoll的觸發模式
(1) 水平觸發
水平觸發的主要特點是,如果使用者在監聽epoll
事件,當核心有事件的時候,會複製給使用者態事件,但是如果使用者只處理了一次,那麼剩下沒有處理的會在下一次epoll_wait再次返回該事件。
這樣如果使用者永遠不處理這個事件,就導致每次都會有該事件從核心到使用者的複製,耗費效能,但是水平觸發相對安全,最起碼事件不會丟掉,除非使用者處理完畢。
(2) 邊緣觸發
邊緣觸發,相對跟水平觸發相反,當核心有事件到達, 只會通知使用者一次,至於使用者處理還是不處理,以後將不會再通知。這樣減少了複製過程,增加了效能,但是相對來說,如果使用者馬虎忘記處理,將會產生事件丟的情況。
五、簡單的epoll伺服器(C語言)
(1) 服務端
#include <stdio.h>
#include <stdlib.h>
#include <ctype.h>
#include <string.h>
#include <unistd.h>
#include <sys/types.h>
#include <sys/socket.h>
#include <arpa/inet.h>
#include <sys/epoll.h>
#define SERVER_PORT (7778)
#define EPOLL_MAX_NUM (2048)
#define BUFFER_MAX_LEN (4096)
char buffer[BUFFER_MAX_LEN];
void str_toupper(char *str)
{
int i;
for (i = 0; i < strlen(str); i ++) {
str[i] = toupper(str[i]);
}
}
int main(int argc, char **argv)
{
int listen_fd = 0;
int client_fd = 0;
struct sockaddr_in server_addr;
struct sockaddr_in client_addr;
socklen_t client_len;
int epfd = 0;
struct epoll_event event, *my_events;
/ socket
listen_fd = socket(AF_INET, SOCK_STREAM, 0);
// bind
server_addr.sin_family = AF_INET;
server_addr.sin_addr.s_addr = htonl(INADDR_ANY);
server_addr.sin_port = htons(SERVER_PORT);
bind(listen_fd, (struct sockaddr*)&server_addr, sizeof(server_addr));
// listen
listen(listen_fd, 10);
// epoll create
epfd = epoll_create(EPOLL_MAX_NUM);
if (epfd < 0) {
perror("epoll create");
goto END;
}
// listen_fd -> epoll
event.events = EPOLLIN;
event.data.fd = listen_fd;
if (epoll_ctl(epfd, EPOLL_CTL_ADD, listen_fd, &event) < 0) {
perror("epoll ctl add listen_fd ");
goto END;
}
my_events = malloc(sizeof(struct epoll_event) * EPOLL_MAX_NUM);
while (1) {
// epoll wait
int active_fds_cnt = epoll_wait(epfd, my_events, EPOLL_MAX_NUM, -1);
int i = 0;
for (i = 0; i < active_fds_cnt; i++) {
// if fd == listen_fd
if (my_events[i].data.fd == listen_fd) {
//accept
client_fd = accept(listen_fd, (struct sockaddr*)&client_addr, &client_len);
if (client_fd < 0) {
perror("accept");
continue;
}
char ip[20];
printf("new connection[%s:%d]\n", inet_ntop(AF_INET, &client_addr.sin_addr, ip, sizeof(ip)), ntohs(client_addr.sin_port));
event.events = EPOLLIN | EPOLLET;
event.data.fd = client_fd;
epoll_ctl(epfd, EPOLL_CTL_ADD, client_fd, &event);
}
else if (my_events[i].events & EPOLLIN) {
printf("EPOLLIN\n");
client_fd = my_events[i].data.fd;
// do read
buffer[0] = '\0';
int n = read(client_fd, buffer, 5);
if (n < 0) {
perror("read");
continue;
}
else if (n == 0) {
epoll_ctl(epfd, EPOLL_CTL_DEL, client_fd, &event);
close(client_fd);
}
else {
printf("[read]: %s\n", buffer);
buffer[n] = '\0';
#if 1
str_toupper(buffer);
write(client_fd, buffer, strlen(buffer));
printf("[write]: %s\n", buffer);
memset(buffer, 0, BUFFER_MAX_LEN);
#endif
/*
event.events = EPOLLOUT;
event.data.fd = client_fd;
epoll_ctl(epfd, EPOLL_CTL_MOD, client_fd, &event);
*/
}
}
else if (my_events[i].events & EPOLLOUT) {
printf("EPOLLOUT\n");
/*
client_fd = my_events[i].data.fd;
str_toupper(buffer);
write(client_fd, buffer, strlen(buffer));
printf("[write]: %s\n", buffer);
memset(buffer, 0, BUFFER_MAX_LEN);
event.events = EPOLLIN;
event.data.fd = client_fd;
epoll_ctl(epfd, EPOLL_CTL_MOD, client_fd, &event);
*/
}
}
}
END:
close(epfd);
close(listen_fd);
return 0;
}
(2) 客戶端
#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#include <strings.h>
#include <sys/types.h>
#include <sys/socket.h>
#include <arpa/inet.h>
#include <unistd.h>
#include <fcntl.h>
#define MAX_LINE (1024)
#define SERVER_PORT (7778)
void setnoblocking(int fd)
{
int opts = 0;
opts = fcntl(fd, F_GETFL);
opts = opts | O_NONBLOCK;
fcntl(fd, F_SETFL);
}
int main(int argc, char **argv)
{
int sockfd;
char recvline[MAX_LINE + 1] = {0};
struct sockaddr_in server_addr;
if (argc != 2) {
fprintf(stderr, "usage ./client <SERVER_IP>\n");
exit(0);
}
// 建立socket
if ( (sockfd = socket(AF_INET, SOCK_STREAM, 0)) < 0) {
fprintf(stderr, "socket error");
exit(0);
}
// server addr 賦值
bzero(&server_addr, sizeof(server_addr));
server_addr.sin_family = AF_INET;
server_addr.sin_port = htons(SERVER_PORT);
if (inet_pton(AF_INET, argv[1], &server_addr.sin_addr) <= 0) {
fprintf(stderr, "inet_pton error for %s", argv[1]);
exit(0);
}
// 連結服務端
if (connect(sockfd, (struct sockaddr*) &server_addr, sizeof(server_addr)) < 0) {
perror("connect");
fprintf(stderr, "connect error\n");
exit(0);
}
setnoblocking(sockfd);
char input[100];
int n = 0;
int count = 0;
// 不斷的從標準輸入字串
while (fgets(input, 100, stdin) != NULL)
{
printf("[send] %s\n", input);
n = 0;
// 把輸入的字串傳送 到 伺服器中去
n = send(sockfd, input, strlen(input), 0);
if (n < 0) {
perror("send");
}
n = 0;
count = 0;
// 讀取 伺服器返回的資料
while (1)
{
n = read(sockfd, recvline + count, MAX_LINE);
if (n == MAX_LINE)
{
count += n;
continue;
}
else if (n < 0){
perror("recv");
break;
}
else {
count += n;
recvline[count] = '\0';
printf("[recv] %s\n", recvline);
break;
}
}
}
return 0;
}
關於作者:
mail: danbing.at@gmail.com
github: github.com/aceld
原創書籍gitbook: legacy.gitbook.com/@aceld
創作不易, 共同學習進步, 歡迎關注作者, 回覆”zinx”有好禮
文章推薦
開源軟體作品
(原創開源)Zinx-基於Golang輕量級伺服器併發框架-完整版(附教程影片)
(原創開源)Lars-基於C++負載均衡遠端排程系統-完整版
精選文章
典藏版-Golang排程器GMP原理與排程全分析
最常用的除錯 golang 的 bug 以及效能問題的實踐方法?
Golang中的區域性變數“何時棧?何時堆?”
使用Golang的interface介面設計原則
深入淺出Golang的協程池設計
Go語言構建微服務一站式解決方案
本作品採用《CC 協議》,轉載必須註明作者和本文連結