Greenlet 詳解

發表於2017-07-24

本文內容主要來自對官網文件的翻譯,在其中也加入了很多自己的理解和例子。主要包括以下內容:什麼是greenlet,greenlet的切換與函式呼叫的區別,greenlet的生命週期,以及使用greenlet的注意事項。

greenlet初體驗

Greenlet是python的一個C擴充套件,來源於Stackless python,旨在提供可自行排程的‘微執行緒’, 即協程。generator實現的協程在yield value時只能將value返回給呼叫者(caller)。 而在greenlet中,target.switch(value)可以切換到指定的協程(target), 然後yield value。greenlet用switch來表示協程的切換,從一個協程切換到另一個協程需要顯式指定。

greenlet的安裝很簡單:pip install greenlet 即可,安裝好了之後我們來看一個官方的例子:

輸出為:
12 56 34

當建立一個greenlet時,首先初始化一個空的棧, switch到這個棧的時候,會執行在greenlet構造時傳入的函式(首先在test1中列印 12), 如果在這個函式(test1)中switch到其他協程(到了test2 列印34),那麼該協程會被掛起,等到切換回來(在test2中切換回來 列印34)。當這個協程對應函式執行完畢,那麼這個協程就變成dead狀態。

注意:上面沒有列印test2的最後一行輸出 78,因為在test2中切換到gr1之後掛起,但是沒有地方再切換回來。這個可能造成洩漏,後面細說。

greenlet module與class

我們首先看一下greenlet這個module裡面的屬性:

其中,比較重要的是getcurrent(), 類greenlet、異常類GreenletExit。

getcurrent()返回當前的greenlet例項;

GreenletExit:是一個特殊的異常,當觸發了這個異常的時候,即使不處理,也不會拋到其parent(後面會提到協程中對返回值或者異常的處理)

然後我們再來看看greenlet.greenlet這個類:

比較重要的幾個屬性:

run:當greenlet啟動的時候會呼叫到這個callable,如果我們需要繼承greenlet.greenlet時,需要重寫該方法

switch:前面已經介紹過了,在greenlet之間切換

parent:可讀寫屬性,後面介紹

dead:如果greenlet執行結束,那麼該屬性為true

throw:切換到指定greenlet後立即跑出異常

文章後面提到的greenlet大多都是指greenlet.greenlet這個class,請注意區別。

Switch not call

對於greenlet,最常用的寫法是 x = gr.switch(y)。 這句話的意思是切換到gr,傳入引數y。當從其他協程(不一定是這個gr)切換回來的時候,將值付給x。

輸出:

(‘test2 ‘, ‘hello world’)
(‘test1 ‘, 10)
None

上面的例子,第12行從main greenlet切換到了gr1,test1第3行切換到了gs2,然後gr1掛起,第8行從gr2切回gr1時,將值(10)返回值給了 z。

每一個Greenlet都有一個parent,一個新的greenlet在哪裡創生,當前環境的greenlet就是這個新greenlet的parent。所有的greenlet構成一棵樹,其跟節點就是還沒有手動建立greenlet時候的”main” greenlet(事實上,在首次import greenlet的時候例項化)。當一個協程 正常結束,執行流程回到其對應的parent;或者在一個協程中丟擲未被捕獲的異常,該異常也是傳遞到其parent。學習python的時候,有一句話會被無數次重複”everything is oblect”, 在學習greenlet的呼叫中,同樣有一句話應該深刻理解,“switch not call”。

上述例子可以看到,儘量是從test1所在的協程gr1 切換到了gr2,但gr2的parent還是’main’ greenlet,因為預設的parent取決於greenlet的創生環境。另外 在test2中return之後整個返回值返回到了其parent,而不是switch到該協程的地方(即不是test1),這個跟我們平時的函式呼叫不一樣,記住“switch not call”。對於異常 也是展開至parent。

輸出為:

catch Exception in main

Greenlet生命週期

文章開始的地方提到第一個例子中的gr2其實並沒有正常結束,我們可以借用greenlet.dead這個屬性來檢視:

輸出:

test2 first 1
test1 finished
gr1 is dead?: True, gr2 is dead?: False
test2 back ()
gr1 is dead?: True, gr2 is dead?: True
10

從這個例子可以看出:

  • 只有當協程對應的函式執行完畢,協程才會die,所以第一次Check的時候gr2並沒有die,因為第9行切換出去了就沒切回來。在main中再switch到gr2的時候, 執行後面的邏輯,gr2 die。
  • 如果試圖再次switch到一個已經是dead狀態的greenlet會怎麼樣呢,事實上會切換到其parent greenlet

Greenlet Traceing

Greenlet也提供了介面使得程式設計師可以監控greenlet的整個排程流程。主要是gettrace 和 settrace(callback)函式。下面看一個例子:

輸出:

main id 40604416, gr1 id 40604736, gr2 id 40604816
switch from 40604416 to 40604736
switch from 40604736 to 40604816
throw from 40604816 to 40604416
Exception

其中callback函式event是switch或者throw之一,表明是正常排程還是異常跑出;args是二元組,表示是從協程args[0]切換到了協程args[1]。上面的輸出展示了切換流程:從main到gr1,然後到gr2,最後回到main。

greenlet使用建議:

使用greenlet需要注意一下三點:

第一:greenlet創生之後,一定要結束,不能switch出去就不回來了,否則容易造成記憶體洩露。

第二:python中每個執行緒都有自己的main greenlet及其對應的sub-greenlet ,不能執行緒之間的greenlet是不能相互切換的。

第三:不能存在迴圈引用,這個是官方文件明確說明。

  ”Greenlets do not participate in garbage collection; cycles involving data that is present in a greenlet’s frames will not be detected. “

對於第一點,我們來看一個例子:

在test2函式中 第11行,我們將huge清空,然後再第16行將gr1、gr2的引用計數降到了0。但執行結果告訴我們,第11行並沒有執行,所以如果一個協程沒有正常結束是很危險的,往往不符合程式設計師的預期。greenlet提供瞭解決這個問題的辦法,官網文件提到:如果一個greenlet例項的引用計數變成0,那麼會在上次掛起的地方丟擲GreenletExit異常,這就使得我們可以通過try … finally 處理資源洩露的情況。如下面的程式碼:

上述程式碼的switch流程:main greenlet –> gr1 –> gr2 –> gr1 –> main greenlet, 很明顯gr2沒有正常結束(在第10行颳起了)。第18行之後gr1,gr2的引用計數都變成0,那麼會在第10行丟擲GreenletExit異常,因此finally語句有機會執行。同時,在文章開始介紹Greenlet module的時候也提到了,GreenletExit這個異常並不會丟擲到parent,所以main greenlet也不會出異常。

看上去貌似解決了問題,但這對程式設計師要求太高了,百密一疏。所以最好的辦法還是保證協程的正常結束。

總結:

之前的文章其實已經提到提到了coroutine協程的強大之處,對於非同步非阻塞,而且還需要保留上下文的場景非常適用。greenlet跟強大,可以從一個協程切換到任意其他協程,這是generator做不到的,但這種能力其實也是雙刃劍,前面的注意事項也提到了,必須保證greenlet的正常結束,在協程之間任意的切換很容易出問題。

比如對於服務之間非同步請求的例子,簡化為服務A的一個函式foo需要非同步訪問服務B,可以這樣封裝greenlet:用decorator裝飾函式foo,當呼叫這個foo的時候建立一個greenlet例項,併為這個greenley對應一個唯一的gid,在foo方法發出非同步請求(寫到gid)之後,switch到parent,這個時候這個新的協程處於掛起狀態。當請求返回之後,通過gid找到之前被掛起的協程,恢復該協程即可。More simple More safety,保證旨在main和一級子協程之間切換。需要注意的是處理各種異常 以及請求超時的情況,避免記憶體洩露,gvent對greenlet的使用大致也是這樣的。

參考

  • http://www.cnblogs.com/xybaby/p/6323358.html
  • https://pypi.python.org/pypi/greenlet
  • https://en.wikipedia.org/wiki/Stackless_Python
  • http://greenlet.readthedocs.io/en/latest/
  • http://stackoverflow.com/questions/715758/coroutine-vs-continuation-vs-generator