Netty入門(三):EventLoop

新人十三發表於2021-08-10

前言

Netty系列索引:

1.Netty入門(一):ByteBuf

2.Netty入門(二):Channel

IO相關:

1.Java基礎(一):I/O多路複用模型及Linux中的應用

上文提到,早期基於執行緒的網路模型,處理高併發的能力非常差,隨著請求數量的增多,必須不斷新建執行緒,隨之帶來的問題就是伺服器資源被佔滿、上下文切換成本過高以及IO阻塞導致的CPU浪費。

Netty入門(三):EventLoop

而Netty則使用了經典Reactor模型,並重新進行了封裝,包括EventLoop、EventGroup等。

EventLoopGroup

EventLoopGroup是一個介面,繼承自執行緒池EventExecutorGroup,並允許註冊channel到自身所持有的EventLoop,同時支援按一定規則獲取下一個EventLoop。

EventLoopGroup的具體實現有很多,下面以DefaultEventLoopGroup為例,簡述一下我的理解

Netty入門(三):EventLoop

1.ScheduledExecutorService

JDK介面,一個延遲或定時任務的執行器,其實現類ScheduledThreadPoolExecutor主要是利用了延時佇列及設定下次執行時間來實現的,這裡不再贅述(可以單獨開個專題0.0)

2.EventExecutorGroup

介面,Netty自定義的一個執行緒池,負責複用EventExecutor和執行任務

Netty入門(三):EventLoop

3.EventLoopGroup

核心介面,EventLoopGroup繼承自EventExecutorGroup,代表他是一個執行緒池。同時他具備將channel註冊到EventExecutorGroup的功能,代表他是一個能夠真正處理Channel的特殊執行緒池

Netty入門(三):EventLoop

4.MultithreadEventExecutorGroup(AbstractEventExecutorGroup)

抽象類,實現自EventExecutorGroup介面,提供了一個簡易執行緒池的實現,其只有一個抽象方法newChild(建立EventExecutor)供子類實現

protected MultithreadEventExecutorGroup(int nThreads, Executor executor, EventExecutorChooserFactory chooserFactory, Object... args)

4.1 nThreads

    private final EventExecutor[] children;

該執行緒池通過陣列儲存執行緒,入參nThreads指定陣列大小,並迴圈呼叫newChild建立執行緒。當建立過程中有異常時,會自動呼叫已建立完成執行緒的shutdownGracefully方法,進行優雅關閉

        for (int i = 0; i < nThreads; i ++) {
            boolean success = false;
            try {
                children[i] = newChild(executor, args);
                success = true;
            } catch (Exception e) {
                // TODO: Think about if this is a good exception type
                throw new IllegalStateException("failed to create a child event loop", e);
            } finally {
                if (!success) {
                    for (int j = 0; j < i; j ++) {
                        children[j].shutdownGracefully();
                    }

                    for (int j = 0; j < i; j ++) {
                        EventExecutor e = children[j];
                        try {
                            while (!e.isTerminated()) {
                                e.awaitTermination(Integer.MAX_VALUE, TimeUnit.SECONDS);
                            }
                        } catch (InterruptedException interrupted) {
                            // Let the caller handle the interruption.
                            Thread.currentThread().interrupt();
                            break;
                        }
                    }
                }
            }
        }

4.2 EventExecutorChooserFactory

EventExecutorChooserFactory是一個工廠介面,負責建立EventExecutorChooser

其預設實現DefaultEventExecutorChooserFactory會判斷當前執行緒數是否2的n次冪,如果是則返回PowerOfTwoEventExecutorChooser,否則返回GenericEventExecutorChooser

4.3 EventExecutorChooser

    private final EventExecutorChooserFactory.EventExecutorChooser chooser;

EventExecutorChooser負責根據一定規則從執行緒池children陣列中取得下一個執行緒

PowerOfTwoEventExecutorChooser:通過&運算,將超出executors.length的位置為0

        public EventExecutor next() {
            return executors[idx.getAndIncrement() & executors.length - 1];
        }

GenericEventExecutorChooser:通過求餘運算,獲取有效index

        public EventExecutor next() {
            return executors[Math.abs(idx.getAndIncrement() % executors.length)];
        }

可以看出當執行緒數是2的n次冪時,Netty通過與運算優化了效率

5.MultithreadEventLoopGroup

抽象類,繼承自MultithreadEventExecutorGroup並實現了EventLoopGroup介面,代表此抽象類是一個可以註冊並處理channel的執行緒池

Netty入門(三):EventLoop

值得關注的是next方法,他把返回值的型別,進一步限定為EventLoop

    public EventLoop next() {
        return (EventLoop) super.next();
    }

6.DefaultEventLoopGroup

MultithreadEventLoopGroup的一個預設實現

其核心就是實現了newChild方法返回一個EventLoop extends EventExecutor例項

    protected EventLoop newChild(Executor executor, Object... args) throws Exception {
        return new DefaultEventLoop(this, executor);
    }

7.總結

說白了EventLoopGroup核心方法,register負責將channel與執行緒池中某一執行緒繫結,next負責返回下一個執行緒供呼叫方執行任務

Netty入門(三):EventLoop

EventLoop

EventLoop直譯為事件迴圈,他的職責簡單來說就是繫結一個唯一的執行緒,去執行或排程被分配的任務。

可見一個EventLoop例項可以為多個channel服務,而為了最大化利用資源,Netty使用池化技術將EventLoop放入EventLoopGroup中管理。

EventLoop的具體實現有很多,先看下DefaultEventLoop的類圖,會發現他和DefaultEventLoopGroup的類圖很像,都繼承了EventLoopGroup介面,但其最大的不同是紅框所示,他還繼承了EventExecutor,下面主要講一下多出來的這部分到底是幹了什麼

Netty入門(三):EventLoop

 1.EventExecutor

介面,定義了一個事件執行器,主要方法如下

    /**
     * 直接返回自身
     */
    @Override
    EventExecutor next();

    /**
     * 返回所屬執行緒池
     */
    EventExecutorGroup parent();

    /**
     * 判斷當前執行緒是否是當前EventLoop繫結的執行緒
     */
    boolean inEventLoop();

    /**
     * 判斷傳入執行緒是否是當前EventLoop繫結的執行緒
     */
    boolean inEventLoop(Thread thread);

 (還涉及一些Future非同步程式設計的一些東西,太複雜了後續再填坑吧0.0)

 2.AbstractScheduledEventExecutor (AbstractEventExecutor)

抽象類,簡單定義了一個支援延遲(定時)任務的執行器

    //延時佇列
    PriorityQueue<ScheduledFutureTask<?>> scheduledTaskQueue;
	//下一個任務id
    long nextTaskId;

 重要方法scheduled

    private <V> ScheduledFuture<V> schedule(final ScheduledFutureTask<V> task) {
        if (inEventLoop()) {
        	//如果和執行器繫結的執行緒一致,直接放入延時佇列中
            scheduleFromEventLoop(task);
        } else {
        	//獲取任務最晚執行時間
            final long deadlineNanos = task.deadlineNanos();
            // task will add itself to scheduled task queue when run if not expired
            if (beforeScheduledTaskSubmitted(deadlineNanos)) {
            	//放入執行緒池執行
                execute(task);
            } else {
            	//與execute類似,但不保證任務會在執行非延遲任務或執行程式關閉之前執行,預設實現只是委託給execute(Runnable) 
                lazyExecute(task);
                // Second hook after scheduling to facilitate race-avoidance
                if (afterScheduledTaskSubmitted(deadlineNanos)) {
                    execute(WAKEUP_TASK);
                }
            }
        }

        return task;
    }

 3.SingleThreadEventExecutor

抽象類,定義了一個單執行緒順序執行器

    private void execute(Runnable task, boolean immediate) {
        boolean inEventLoop = inEventLoop();
        //新增到任務佇列
        addTask(task);
        if (!inEventLoop) {
        	//啟動執行緒
            startThread();
            //如果執行緒池已經關閉,呼叫拒絕方法
            if (isShutdown()) {
                boolean reject = false;
                try {
                    if (removeTask(task)) {
                        reject = true;
                    }
                } catch (UnsupportedOperationException e) {
                    // The task queue does not support removal so the best thing we can do is to just move on and
                    // hope we will be able to pick-up the task before its completely terminated.
                    // In worst case we will log on termination.
                }
                if (reject) {
                    reject();
                }
            }
        }
		//喚醒執行緒
        if (!addTaskWakesUp && immediate) {
            wakeup(inEventLoop);
        }
    }

 4.SingleThreadEventLoop

public abstract class SingleThreadEventLoop extends SingleThreadEventExecutor implements EventLoop 

 EventLoop的抽象基類,負責在單執行緒中執行所有被提交的任務,同時具有註冊和處理channle的能力

5.DefaultEventLoop

單執行緒任務執行器的預設實現,主要就是其實現的run方法

    protected void run() {
        //迴圈阻塞的獲取任務,知道被通知關閉
        for (;;) {
            Runnable task = takeTask();
            if (task != null) {
                task.run();
                updateLastExecutionTime();
            }

            if (confirmShutdown()) {
                break;
            }
        }
    }

6.總結

通過以上分析,不難看出Netty首先定義了自己的執行緒池(EventExectorGroup)和執行器(EventExector),然後通過繼承的方式定義了執行緒池(EventLoopGroup)和執行器(EventLoop),從而新增了處理(註冊)channel的能力。

 

You gotta grab what you can when you can.
機不可失,時不我待。

 

相關文章