前言
Netty系列索引:
IO相關:
上文提到,早期基於執行緒的網路模型,處理高併發的能力非常差,隨著請求數量的增多,必須不斷新建執行緒,隨之帶來的問題就是伺服器資源被佔滿、上下文切換成本過高以及IO阻塞導致的CPU浪費。
而Netty則使用了經典Reactor模型,並重新進行了封裝,包括EventLoop、EventGroup等。
EventLoopGroup
EventLoopGroup是一個介面,繼承自執行緒池EventExecutorGroup,並允許註冊channel到自身所持有的EventLoop,同時支援按一定規則獲取下一個EventLoop。
EventLoopGroup的具體實現有很多,下面以DefaultEventLoopGroup為例,簡述一下我的理解
1.ScheduledExecutorService
JDK介面,一個延遲或定時任務的執行器,其實現類ScheduledThreadPoolExecutor主要是利用了延時佇列及設定下次執行時間來實現的,這裡不再贅述(可以單獨開個專題0.0)
2.EventExecutorGroup
介面,Netty自定義的一個執行緒池,負責複用EventExecutor和執行任務
3.EventLoopGroup
核心介面,EventLoopGroup繼承自EventExecutorGroup,代表他是一個執行緒池。同時他具備將channel註冊到EventExecutorGroup的功能,代表他是一個能夠真正處理Channel的特殊執行緒池
4.MultithreadEventExecutorGroup(AbstractEventExecutorGroup)
抽象類,實現自EventExecutorGroup介面,提供了一個簡易執行緒池的實現,其只有一個抽象方法newChild(建立EventExecutor)供子類實現
protected MultithreadEventExecutorGroup(int nThreads, Executor executor, EventExecutorChooserFactory chooserFactory, Object... args)
4.1 nThreads
private final EventExecutor[] children;
該執行緒池通過陣列儲存執行緒,入參nThreads指定陣列大小,並迴圈呼叫newChild建立執行緒。當建立過程中有異常時,會自動呼叫已建立完成執行緒的shutdownGracefully方法,進行優雅關閉
for (int i = 0; i < nThreads; i ++) {
boolean success = false;
try {
children[i] = newChild(executor, args);
success = true;
} catch (Exception e) {
// TODO: Think about if this is a good exception type
throw new IllegalStateException("failed to create a child event loop", e);
} finally {
if (!success) {
for (int j = 0; j < i; j ++) {
children[j].shutdownGracefully();
}
for (int j = 0; j < i; j ++) {
EventExecutor e = children[j];
try {
while (!e.isTerminated()) {
e.awaitTermination(Integer.MAX_VALUE, TimeUnit.SECONDS);
}
} catch (InterruptedException interrupted) {
// Let the caller handle the interruption.
Thread.currentThread().interrupt();
break;
}
}
}
}
}
4.2 EventExecutorChooserFactory
EventExecutorChooserFactory是一個工廠介面,負責建立EventExecutorChooser
其預設實現DefaultEventExecutorChooserFactory會判斷當前執行緒數是否2的n次冪,如果是則返回PowerOfTwoEventExecutorChooser,否則返回GenericEventExecutorChooser
4.3 EventExecutorChooser
private final EventExecutorChooserFactory.EventExecutorChooser chooser;
EventExecutorChooser負責根據一定規則從執行緒池children陣列中取得下一個執行緒
PowerOfTwoEventExecutorChooser:通過&運算,將超出executors.length的位置為0
public EventExecutor next() {
return executors[idx.getAndIncrement() & executors.length - 1];
}
GenericEventExecutorChooser:通過求餘運算,獲取有效index
public EventExecutor next() {
return executors[Math.abs(idx.getAndIncrement() % executors.length)];
}
可以看出當執行緒數是2的n次冪時,Netty通過與運算優化了效率
5.MultithreadEventLoopGroup
抽象類,繼承自MultithreadEventExecutorGroup並實現了EventLoopGroup介面,代表此抽象類是一個可以註冊並處理channel的執行緒池
值得關注的是next方法,他把返回值的型別,進一步限定為EventLoop
public EventLoop next() {
return (EventLoop) super.next();
}
6.DefaultEventLoopGroup
MultithreadEventLoopGroup的一個預設實現
其核心就是實現了newChild方法返回一個EventLoop extends EventExecutor例項
protected EventLoop newChild(Executor executor, Object... args) throws Exception {
return new DefaultEventLoop(this, executor);
}
7.總結
說白了EventLoopGroup核心方法,register負責將channel與執行緒池中某一執行緒繫結,next負責返回下一個執行緒供呼叫方執行任務
EventLoop
EventLoop直譯為事件迴圈,他的職責簡單來說就是繫結一個唯一的執行緒,去執行或排程被分配的任務。
可見一個EventLoop例項可以為多個channel服務,而為了最大化利用資源,Netty使用池化技術將EventLoop放入EventLoopGroup中管理。
EventLoop的具體實現有很多,先看下DefaultEventLoop的類圖,會發現他和DefaultEventLoopGroup的類圖很像,都繼承了EventLoopGroup介面,但其最大的不同是紅框所示,他還繼承了EventExecutor,下面主要講一下多出來的這部分到底是幹了什麼
1.EventExecutor
介面,定義了一個事件執行器,主要方法如下
/**
* 直接返回自身
*/
@Override
EventExecutor next();
/**
* 返回所屬執行緒池
*/
EventExecutorGroup parent();
/**
* 判斷當前執行緒是否是當前EventLoop繫結的執行緒
*/
boolean inEventLoop();
/**
* 判斷傳入執行緒是否是當前EventLoop繫結的執行緒
*/
boolean inEventLoop(Thread thread);
(還涉及一些Future非同步程式設計的一些東西,太複雜了後續再填坑吧0.0)
2.AbstractScheduledEventExecutor (AbstractEventExecutor)
抽象類,簡單定義了一個支援延遲(定時)任務的執行器
//延時佇列
PriorityQueue<ScheduledFutureTask<?>> scheduledTaskQueue;
//下一個任務id
long nextTaskId;
重要方法scheduled
private <V> ScheduledFuture<V> schedule(final ScheduledFutureTask<V> task) {
if (inEventLoop()) {
//如果和執行器繫結的執行緒一致,直接放入延時佇列中
scheduleFromEventLoop(task);
} else {
//獲取任務最晚執行時間
final long deadlineNanos = task.deadlineNanos();
// task will add itself to scheduled task queue when run if not expired
if (beforeScheduledTaskSubmitted(deadlineNanos)) {
//放入執行緒池執行
execute(task);
} else {
//與execute類似,但不保證任務會在執行非延遲任務或執行程式關閉之前執行,預設實現只是委託給execute(Runnable)
lazyExecute(task);
// Second hook after scheduling to facilitate race-avoidance
if (afterScheduledTaskSubmitted(deadlineNanos)) {
execute(WAKEUP_TASK);
}
}
}
return task;
}
3.SingleThreadEventExecutor
抽象類,定義了一個單執行緒順序執行器
private void execute(Runnable task, boolean immediate) {
boolean inEventLoop = inEventLoop();
//新增到任務佇列
addTask(task);
if (!inEventLoop) {
//啟動執行緒
startThread();
//如果執行緒池已經關閉,呼叫拒絕方法
if (isShutdown()) {
boolean reject = false;
try {
if (removeTask(task)) {
reject = true;
}
} catch (UnsupportedOperationException e) {
// The task queue does not support removal so the best thing we can do is to just move on and
// hope we will be able to pick-up the task before its completely terminated.
// In worst case we will log on termination.
}
if (reject) {
reject();
}
}
}
//喚醒執行緒
if (!addTaskWakesUp && immediate) {
wakeup(inEventLoop);
}
}
4.SingleThreadEventLoop
public abstract class SingleThreadEventLoop extends SingleThreadEventExecutor implements EventLoop
EventLoop的抽象基類,負責在單執行緒中執行所有被提交的任務,同時具有註冊和處理channle的能力
5.DefaultEventLoop
單執行緒任務執行器的預設實現,主要就是其實現的run方法
protected void run() {
//迴圈阻塞的獲取任務,知道被通知關閉
for (;;) {
Runnable task = takeTask();
if (task != null) {
task.run();
updateLastExecutionTime();
}
if (confirmShutdown()) {
break;
}
}
}
6.總結
通過以上分析,不難看出Netty首先定義了自己的執行緒池(EventExectorGroup)和執行器(EventExector),然後通過繼承的方式定義了執行緒池(EventLoopGroup)和執行器(EventLoop),從而新增了處理(註冊)channel的能力。
You gotta grab what you can when you can.
機不可失,時不我待。