java多執行緒8:阻塞佇列與Fork/Join框架

讓我發會呆發表於2021-12-17

佇列(Queue),是一種資料結構。除了優先順序佇列和LIFO佇列外,佇列都是以FIFO(先進先出)的方式對各個元素進行排序的。

BlockingQueue

而阻塞佇列BlockingQueue除了繼承佇列的所有方法外,還分別新增了支援阻塞的插入(put)和移除(take)方法。

 

下面我們分別看下JDK提供的七個阻塞佇列

ArrayBlockingQueue

ArrayBlockingQueue是一個用陣列實現的有界阻塞佇列。此佇列按照先進先出(FIFO)的原則對元素進行排序。

看一下它的構造方法

/**
     * Creates an {@code ArrayBlockingQueue} with the given (fixed)
     * capacity and the specified access policy.
     *
     * @param capacity the capacity of this queue
     * @param fair if {@code true} then queue accesses for threads blocked
     *        on insertion or removal, are processed in FIFO order;
     *        if {@code false} the access order is unspecified.
     * @throws IllegalArgumentException if {@code capacity < 1}
     */
    public ArrayBlockingQueue(int capacity, boolean fair) {
        if (capacity <= 0)
            throw new IllegalArgumentException();
        this.items = new Object[capacity];
        lock = new ReentrantLock(fair);
        notEmpty = lock.newCondition();
        notFull =  lock.newCondition();
    }

  預設的構造方法是不保證執行緒公平的訪問佇列,所謂公平訪問佇列是指阻塞的執行緒,可以按照阻塞的先後順序訪問佇列,即先阻塞執行緒先訪問佇列。

非公平性是對先等待的執行緒是非公平的,當佇列可用時,阻塞的執行緒都可以爭奪訪問佇列的資格,有可能先阻塞的執行緒最後才訪問佇列。為了保證公平性,通常會降低吞吐量。

第15行 lock = new ReentrantLock(fair); 可以看出阻塞佇列的公平性也是通過ReentrantLock的公平鎖實現的,

第16行和第17行,我們又看到熟悉的 lock.newCondition(),在之前的一篇部落格《java多執行緒6:ReentrantLock 》中,說到使用condition可以實現等待/通知模型,

也不難理解,如果想要實現支援阻塞的插入(put)和移除(take)方法,就可以通過condition實現執行緒間的通訊。

 

LinkedBlockingQueue

LinkedBlockingQueue是一個用連結串列實現的有界阻塞佇列。此佇列的預設和最大長度為Integer.MAX_VALUE。此佇列按照先進先出的原則對元素進行排序。

offer(E e): 如果佇列滿了,立即返回false,如果佇列沒滿,立即返回true

put(E e):如果佇列滿了,一直阻塞,直到佇列不滿了或者執行緒被中斷

offer(E e, long timeout, TimeUnit unit):在隊尾插入一個元素,如果佇列已滿,則進入等待,直到出現以下三種情況:被喚醒、等待時間超時、當前執行緒被中斷 

poll():如果沒有元素,直接返回null;如果有元素,出隊

take():如果佇列有值,返回取出的值,如果佇列空了,一直阻塞,直到佇列不為空或者執行緒被中斷

poll(long timeout, TimeUnit unit):如果佇列不空,出隊;如果佇列已空且已經超時,返回null;

如果佇列已空且時間未超時,則進入等待,直到出現以下三種情況:被喚醒、等待時間超時、當前執行緒被中斷

 

總結:LinkedBlockingQueue是允許兩個執行緒同時在兩端進行入隊或出隊的操作的,但一端同時只能有一個執行緒進行操作,這是通過兩把鎖來區分的;

為了維持底部資料的統一,引入了AtomicInteger的一個count變數,表示佇列中元素的個數。

count只能在兩個地方變化,一個是入隊的方法(可以+1),另一個是出隊的方法(可以-1),而AtomicInteger是原子安全的,所以也就確保了底層佇列的資料同步。 

 

PriorityBlockingQueue

PriorityBlockingQueue是一個支援優先順序的無界阻塞佇列。預設情況下元素採取自然順序升序排列。

也可以自定義類實現compareTo()方法來指定元素排序規則,或者初始化PriorityBlockingQueue時,指定構造引數Comparator來對元素進行排序。

需要注意的是不能保證同優先順序元素的順序。

 

DelayQueue

DelayQueue是一個支援延時獲取元素的無界阻塞佇列。佇列使用PriorityQueue來實現。

佇列中的元素必須實現Delayed介面,在建立元素時可以指定多久才能從佇列中獲取當前元素。只有在延遲期滿時才能從佇列中提取元素。

使用場景:

  訂單系統,對於30分鐘內未支付的訂單自動取消

  快取系統,可以用DelayQueue儲存快取元素的有效期,使用一個執行緒迴圈查詢DelayQueue,一旦能從DelayQueue中獲取元素時,表示快取有效期到了

  定時任務,使用DelayQueue儲存當天將會執行的任務和執行時間,一旦從DelayQueue中獲取到任務就開始執行,比如TimerQueue就是使用DelayQueue實現的

 

SynchronousQueue

SynchronousQueue是一個不儲存元素的阻塞佇列。每一個put操作必須等待一個take操作,否則不能繼續新增元素。

/**
     * Creates a {@code SynchronousQueue} with the specified fairness policy.
     *
     * @param fair if true, waiting threads contend in FIFO order for
     *        access; otherwise the order is unspecified.
     */
    public SynchronousQueue(boolean fair) {
        transferer = fair ? new TransferQueue<E>() : new TransferStack<E>();
    }

1、公平模式:TransferQueue

採用公平鎖,並配合一個FIFO佇列(Queue)來管理多餘的生產者和消費者

2、非公平模式:TransferStack

採用非公平鎖,並配合一個LIFO棧(Stack)來管理多餘的生產者和消費者,這也是SynchronousQueue預設的模式

 

LinkedTransferQueue

LinkedTransferQueue是一個由連結串列結構組成的無界阻塞TransferQueue佇列。相對於其他阻塞佇列,LinkedTransferQueue多了tryTransfer和transfer方法。

(1)transfer方法如果當前有消費者正在等待接收元素(消費者使用take()方法或帶時間限制的poll()方法時),transfer方法可以把生產者傳入的元素立刻transfer(傳輸)給消費者。

如果沒有消費者在等待接收元素,transfer方法會將元素存放在佇列的tail節點,並等到該元素被消費者消費了才返回。transfer方法的關鍵程式碼如下。

(2)tryTransfer方法tryTransfer方法是用來試探生產者傳入的元素是否能直接傳給消費者。如果沒有消費者等待接收元素,則返回false。

和transfer方法的區別是tryTransfer方法無論消費者是否接收,方法立即返回,而transfer方法是必須等到消費者消費了才返回。

 

LinkedBlockingDeque

LinkedBlockingDeque是一個由連結串列結構組成的雙向阻塞佇列。所謂雙向佇列指的是可以從佇列的兩端插入和移出元素。

雙向佇列因為多了一個操作佇列的入口,在多執行緒同時入隊時,也就減少了一半的競爭。相比其他的阻塞佇列,

LinkedBlockingDeque多了addFirst、addLast、offerFirst、offerLast、peekFirst和peekLast等方法,

以First單詞結尾的方法,表示插入、獲取(peek)或移除雙端佇列的第一個元素。

以Last單詞結尾的方法,表示插入、獲取或移除雙端佇列的最後一個元素。

另外,插入方法add等同於addLast,移除方法remove等效於removeFirst。

但是take方法卻等同於takeFirst,不知道是不是JDK的bug,使用時還是用帶有First和Last字尾的方法更清楚。

在初始化LinkedBlockingDeque時可以設定容量防止其過度膨脹。另外,雙向阻塞佇列可以運用在“工作竊取”模式中。

 

 Fork/Join框架

RecursiveAction:用於沒有返回結果的任務。

RecursiveTask:用於有返回結果的任務。

我們看一下如何用Fork/Join框架實現計算 1+2+3+...+100

public class CountTask extends RecursiveTask<Integer> {
    // 閾值,設定每個子任務將執行多少計算任務
    private static final int THRESHOLD = 2;
    private int start;
    private int end;

    public CountTask(int start, int end) {
        this.start = start;
        this.end = end;
    }

    /**
     * The main computation performed by this task.
     *
     * @return the result of the computation
     */
    @Override
    protected Integer compute() {
        int sum = 0;
        if (end - start > THRESHOLD) {
            int mid = (start + end) / THRESHOLD;
            CountTask leftTask = new CountTask(start, mid);
            CountTask rightTask = new CountTask(mid + 1, end);
            // 執行子任務
            leftTask.fork();
            rightTask.fork();
            // 獲取子任務執行結果
            Integer leftSum = leftTask.join();
            Integer rightSum = rightTask.join();
            sum = leftSum + rightSum;

        } else {
            for (int i = start; i <= end; i++) {
                sum += i;
            }
        }
        return sum;
    }

    public static void main(String[] args) {
        ForkJoinPool forkJoinPool = new ForkJoinPool();
        CountTask countTask = new CountTask(1, 100);

        ForkJoinTask<Integer> submit = forkJoinPool.submit(countTask);

        try {
            System.out.println(submit.get());
        } catch (InterruptedException e) {
            e.printStackTrace();
        } catch (ExecutionException e) {
            e.printStackTrace();
        }
    }
}

  ForkJoinTask與一般任務的主要區別在於它需要實現compute方法,在這個方法裡,首先需要判斷任務是否足夠小,如果足夠小就直接執行任務。

如果不足夠小,就必須分割成兩個子任務,每個子任務在呼叫fork方法時,又會進入compute方法,看看當前子任務是否需要繼續分割成子任務,

如果不需要繼續分割,則執行當前子任務並返回結果。使用join方法會等待子任務執行完並得到其結果。

 

參考文獻

1:《Java併發程式設計的藝術》

相關文章