計算機中的流水線技術到底是個啥?

冰河團隊發表於2021-02-09

寫在前面

流水線技術是計算機中的一種相當重要的技術。簡單的說,流水線技術的出現使得計算機能夠支援平行計算,能夠並行執行任務。儘管流水線技術非常重要,但是很多小夥伴對流水線技術還是一知半解,甚至很多小夥伴根本不知道什麼是流水線技術,今天,我們就一起來說說什麼是流水線技術。

文章已收錄到:

https://github.com/sunshinelyz/technology-binghe

https://gitee.com/binghe001/technology-binghe

流水線概念

流水線是指在程式執行時,多條指令重疊進行操作的一種準並行處理的實現技術。各種部件同時處理是針對不同指令而言的,它們同時為多條指令的不同部分進行工作,以提高各部件的利用率和指令的平均執行速度。

流水線的相關引數計算包括:流水線執行時間計算、流水線吞吐率、流水線加速比、流水線效率。

在計算機中,對於指令的操作主要分為三個部分:取指、分析和執行。如下所示。

如果執行取值、分析和執行各需要1ms的話,則序列執行三條指令的時間總共需要9ms。這是因為一條執行的操作需要經過取指、分析和執行三個步驟,每個步驟需要1ms,執行一條指令的時間為3ms,則序列執行三條指令的時間為9ms。我們可以用下圖來表示這個過程。

在上圖的表示中,貌似執行三條指令使用9ms是沒啥問題的。但是,如果我們把圖形改造一下,我們就會發現相應的問題。我們使用下面的圖形來表示執行三條指令的情況。

此時,我們發現,在上圖執行指令操作的過程中,有很多空白的格子,而空白的格子表示在執行執行的過程中有空餘的時間片資源沒有利用起來。很顯然,沒有必要等待指令1完全執行完畢後再執行指令2,同樣的,沒有必要等待指令2完全執行完畢後再執行指令3。而且,我們發現按照上圖執行完三條指令需要9ms時間。

此時,如果將空餘的時間片利用起來,則可以使用下圖來表示。

此時,在執行三條指令的過程中,取指操作對指令1執行完取指後,馬上對指令2進行取指,然後又馬上對指令3進行取指;分析操作同樣是對指令1執行完分析後,馬上對指令2進行分析,然後又馬上對指令3進行分析;執行操作也是對指令1執行完畢後,馬上對指令2進行執行操作,然後又馬上對指令3進行執行操作。期間,將空餘的時間片資源充分的利用起來了。而且,我們發現,充分利用空餘的時間片後,執行三條指令的時間由原來的9ms變為現在的5ms。

從另一個角度,我們發現執行完第一條指令時,需要3ms,執行完第二條指令時,只需要在執行完第一條指令的基礎上增加1ms。同樣的,執行完第三條指令時,只需要在執行完第二條指令的基礎上增加1ms。以後每增加一條指令,只需要增加1ms的時間便可以執行完此條指令。

這就是計算機中的流水線技術。接下來,我們就說說流水線技術的相關計算問題。

流水線計算

關於流水線計算,我們先來看一個圖。

在上圖中,我們可以看出,執行完第一條指令時,需要3ms時間,執行完第二條指令時,只需要在執行完第一條指令的基礎上增加1ms;執行完第三條指令時,只需要在執行完第二條指令的基礎上增加1ms。以此類推,執行完第n條指令時,只需要在執行第n-1條指令的基礎上增加1ms。說到這裡,不知道小夥伴們有沒有思考這樣一個問題,流水線技術的這種規律就涉及到一個非常重要的概念,叫作 流水線週期

流水線週期為執行時間最長的一段,上圖中的流水線週期為1ms

流水線的計算公式為:

1條指令執行時間 + (指令條數 -1)*  流水線週期

流水線的理論公式如下所示。

(t1 + t2 + ... + tk) + (n-1) * △t

其中t1,t2...tk表示執行一條指令的每個步驟分別需要的時間,n為指令的條數,△t為流水線週期。

流水線的實踐公式如下所示。

k*△t + (n-1) * △t

其中,k為執行一條指令的步驟數,n為指令的條數,△t為流水線週期。

這裡,給小夥伴們舉一個例子。

例如,一條執行的執行過程可以分解為取指,分析和執行三步,在取指時間t取指=3△t,分析時間分析=2△t,執行時間t執行=4△t的情況下,若按照序列方式執行,則10條指令全部執行完需要多少△t?若按照流水線方式執行,流水線週期為多少△t?使用流水線方式時,執行完10條指令需要多少△t?

(1)序列方式比較簡單,就是將每條指令的執行時間進行累加。

(3△t + 2△t + 4△t) * 10 = 90△t。

(2)在執行一條指令的過程中,取指為3△t,分析為2△t,執行為4△t。根據流水線中對於流水線週期的定義:流水線週期為執行時間最長的一段,所以,流水線週期為4△t。

(3)使用流水線方式時,執行完10條指令需要的時間可以使用如下方式進行計算。

這裡,我們分別計算下理論時間和實踐時間。

  • 理論時間

(3△t + 2△t + 4△t) + (10-1) * 4△t = 45△t。

  • 實踐時間

3 * 4△t + (10-1) * 4△t = 48△t。

超標量流水線

關於超標量流水線,我們可以使用下圖來表示。

在超標量流水線中,有一個概念叫作度。度表示在超標量流水線中,由幾條流水線組成。例如上面的圖中,超標量流水線由兩條流水線組成,所以,度為2。此時的超標量流水線可以同時進行2個操作。也就是說,可以同時執行兩個取指操作,可以同時執行兩個分析操作,也可以同時執行兩個執行操作。

如果此時有10條指令需要執行,使用以上超標量流水線的話,只需要10 / 2 = 5 條指令的時間。

流水線吞吐率計算

流水線的吞吐率(TP)是指在單位時間內流水線所完成的任務數量或輸出的結果數量。計算流水線吞吐流程的最基本的公式如下所示。

流水線最大吞吐率計算公式如下所示。

流水線的吞吐率計算問題相對來說還是比較簡單的。

好了,今天就到這兒吧,我是冰河,大家有啥問題可以在下方留言,也可以加我微信:sun_shine_lyz,我拉你進群,一起交流技術,一起進階,一起牛逼~~

相關文章