asyncio模組提供了使用協程構建併發應用的工具。它使用一種單執行緒單程式的的方式實現併發,應用的各個部分彼此合作, 可以顯示的切換任務,一般會在程式阻塞I/O操作的時候發生上下文切換如等待讀寫檔案,或者請求網路。同時asyncio也支援排程程式碼在將來的某個特定事件執行,從而支援一個協程等待另一個協程完成,以處理系統訊號和識別其他一些事件。
非同步併發的概念
對於其他的併發模型大多數採取的都是線性的方式編寫。並且依賴於語言執行時系統或作業系統的底層執行緒或程式來適當地改變上下文,而基於asyncio的應用要求應用程式碼顯示的處理上下文切換。
asyncio提供的框架以事件迴圈(event loop)為中心,程式開啟一個無限的迴圈,程式會把一些函式註冊到事件迴圈上。當滿足事件發生的時候,呼叫相應的協程函式。
事件迴圈
事件迴圈是一種處理多併發量的有效方式,在維基百科中它被描述為「一種等待程式分配事件或訊息的程式設計架構」,我們可以定義事件迴圈來簡化使用輪詢方法來監控事件,通俗的說法就是「當A發生時,執行B」。事件迴圈利用poller物件,使得程式設計師不用控制任務的新增、刪除和事件的控制。事件迴圈使用回撥方法來知道事件的發生。它是asyncio提供的「中央處理裝置」,支援如下操作:
- 註冊、執行和取消延遲呼叫(超時)
- 建立可用於多種型別的通訊的服務端和客戶端的Transports
- 啟動程式以及相關的和外部通訊程式的Transports
- 將耗時函式呼叫委託給一個執行緒池
- 單執行緒(程式)的架構也避免的多執行緒(程式)修改可變狀態的鎖的問題。
與事件迴圈互動的應用要顯示地註冊將執行的程式碼,讓事件迴圈在資源可用時嚮應用程式碼發出必要的呼叫。如:一個套接字再沒有更多的資料可以讀取,那麼伺服器會把控制全交給事件迴圈。
Future
future是一個資料結構,表示還未完成的工作結果。事件迴圈可以監視Future物件是否完成。從而允許應用的一部分等待另一部分完成一些工作。
Task
task是Future的一個子類,它知道如何包裝和管理一個協程的執行。任務所需的資源可用時,事件迴圈會排程任務允許,並生成一個結果,從而可以由其他協程消費。
非同步方法
使用asyncio也就意味著你需要一直寫非同步方法。
一個標準方法是這樣的:
def regular_double(x): return 2 * x複製程式碼
而一個非同步方法:
async def async_double(x): return 2 * x複製程式碼
從外觀上看非同步方法和標準方法沒什麼區別只是前面多了個async。
“Async” 是“asynchronous”的簡寫,為了區別於非同步函式,我們稱標準函式為同步函式,
從使用者角度非同步函式和同步函式有以下區別:
要呼叫非同步函式,必須使用await關鍵字。 因此,不要寫regular_double(3),而是寫await async_double(3).
不能在同步函式裡使用await,否則會出錯。
句法錯誤:
def print_double(x): print(await async_double(x)) # <-- SyntaxError here複製程式碼
但是在非同步函式中,await是被允許的:
async def print_double(x): print(await async_double(x)) # <-- OK!複製程式碼
協程
啟動一個協程
一般非同步方法被稱之為協程(Coroutine)。asyncio事件迴圈可以通過多種不同的方法啟動一個協程。一般對於入口函式,最簡答的方法就是使用run_until_complete(),並將協程直接傳入這個方法。
import asyncioasync def foo(): print("這是一個協程")if __name__ == '__main__': loop = asyncio.get_event_loop() try: print("開始執行協程") coro = foo() print("進入事件迴圈") loop.run_until_complete(coro) finally: print("關閉事件迴圈") loop.close()複製程式碼
輸出
開始執行協程進入事件迴圈這是一個協程關閉事件迴圈複製程式碼
這就是最簡單的一個協程的例子,下面讓我們瞭解一下上面的程式碼.
第一步首先得到一個事件迴圈的應用也就是定義的物件loop。可以使用預設的事件迴圈,也可以例項化一個特定的迴圈類(比如uvloop),這裡使用了預設迴圈run_until_complete(coro)方法用這個協程啟動迴圈,協程返回時這個方法將停止迴圈。
run_until_complete的引數是一個futrue物件。當傳入一個協程,其內部會自動封裝成task,其中task是Future的子類。關於task和future後面會提到。
從協程中返回值
將上面的程式碼,改寫成下面程式碼
import asyncioasync def foo(): print("這是一個協程") return "返回值"if __name__ == '__main__': loop = asyncio.get_event_loop() try: print("開始執行協程") coro = foo() print("進入事件迴圈") result = loop.run_until_complete(coro) print(f"run_until_complete可以獲取協程的{result},預設輸出None") finally: print("關閉事件迴圈") loop.close()複製程式碼
run_until_complete可以獲取協程的返回值,如果沒有給定返回值,則像函式一樣,預設返回None。
協程呼叫協程
一個協程可以啟動另一個協程,從而可以任務根據工作內容,封裝到不同的協程中。我們可以在協程中使用await關鍵字,鏈式的排程協程,來形成一個協程任務流。向下面的例子一樣。
import asyncioasync def main(): print("主協程") print("等待result1協程執行") res1 = await result1() print("等待result2協程執行") res2 = await result2(res1) return (res1,res2)async def result1(): print("這是result1協程") return "result1"async def result2(arg): print("這是result2協程") return f"result2接收了一個引數,{arg}"if __name__ == '__main__': loop = asyncio.get_event_loop() try: result = loop.run_until_complete(main()) print(f"獲取返回值:{result}") finally: print("關閉事件迴圈") loop.close()複製程式碼
輸出
主協程等待result1協程執行這是result1協程等待result2協程執行這是result2協程獲取返回值:('result1', 'result2接收了一個引數,result1')關閉事件迴圈複製程式碼
協程中呼叫普通函式
在協程中可以通過一些方法去呼叫普通的函式。可以使用的關鍵字有call_soon,call_later,call_at。
call_soon
可以通過字面意思理解呼叫立即返回。
loop.call_soon(callback, *args, context=None)複製程式碼
在下一個迭代的時間迴圈中立刻呼叫回撥函式,大部分的回撥函式支援位置引數,而不支援”關鍵字引數”,如果是想要使用關鍵字引數,則推薦使用functools.aprtial()對方法進一步包裝.可選關鍵字context允許指定要執行的回撥的自定義contextvars.Context。當沒有提供上下文時使用當前上下文。在Python 3.7中, asyncio
協程加入了對上下文的支援。使用上下文就可以在一些場景下隱式地傳遞變數,比如資料庫連線session等,而不需要在所有方法呼叫顯示地傳遞這些變數。
下面來看一下具體的使用例子。
import asyncioimport functoolsdef callback(args, *, kwargs="defalut"): print(f"普通函式做為回撥函式,獲取引數:{args},{kwargs}")async def main(loop): print("註冊callback") loop.call_soon(callback, 1) wrapped = functools.partial(callback, kwargs="not defalut") loop.call_soon(wrapped, 2) await asyncio.sleep(0.2)if __name__ == '__main__': loop = asyncio.get_event_loop()try: loop.run_until_complete(main(loop))finally: loop.close()複製程式碼
輸出結果
註冊callback普通函式做為回撥函式,獲取引數:1,defalut普通函式做為回撥函式,獲取引數:2,not defalut複製程式碼
通過輸出結果我們可以發現我們在協程中成功呼叫了一個普通函式,順序的列印了1和2。
有時候我們不想立即呼叫一個函式,此時我們就可以call_later延時去呼叫一個函式了。
call_later
loop.call_later(delay, callback, *args, context=None)複製程式碼
首先簡單的說一下它的含義,就是事件迴圈在delay多長時間之後才執行callback函式.
配合上面的call_soon讓我們看一個小例子
import asynciodef callback(n): print(f"callback {n} invoked")async def main(loop): print("註冊callbacks") loop.call_later(0.2, callback, 1) loop.call_later(0.1, callback, 2) loop.call_soon(callback, 3) await asyncio.sleep(0.4)if __name__ == '__main__': loop = asyncio.get_event_loop() try: loop.run_until_complete(main(loop)) finally: loop.close()複製程式碼
輸出
註冊callbackscallback 3 invokedcallback 2 invokedcallback 1 invoked複製程式碼
通過上面的輸出可以得到如下結果:
1.call_soon會在call_later之前執行,和它的位置在哪無關
2.call_later的第一個引數越小,越先執行。
call_at
loop.call_at(when, callback, *args, context=None)複製程式碼
call_at第一個引數的含義代表的是一個單調時間,它和我們平時說的系統時間有點差異,
這裡的時間指的是事件迴圈內部時間,可以通過loop.time()獲取,然後可以在此基礎上進行操作。後面的引數和前面的兩個方法一樣。實際上call_later內部就是呼叫的call_at。
import asynciodef call_back(n, loop): print(f"callback {n} 執行時間點{loop.time()}")async def main(loop): now = loop.time() print("當前的內部時間", now) print("迴圈時間", now) print("註冊callback") loop.call_at(now + 0.1, call_back, 1, loop) loop.call_at(now + 0.2, call_back, 2, loop) loop.call_soon(call_back, 3, loop) await asyncio.sleep(1)if __name__ == '__main__': loop = asyncio.get_event_loop() try: print("進入事件迴圈") loop.run_until_complete(main(loop)) finally: print("關閉迴圈") loop.close()複製程式碼
輸出
進入事件迴圈當前的內部時間 4412.152849525迴圈時間 4412.152849525註冊callbackcallback 3 執行時間點4412.152942526callback 1 執行時間點4412.253202825callback 2 執行時間點4412.354262512關閉迴圈複製程式碼
因為call_later內部實現就是通過call_at所以這裡就不多說了。
Future
獲取Futrue裡的結果
future表示還沒有完成的工作結果。事件迴圈可以通過監視一個future物件的狀態來指示它已經完成。future物件有幾個狀態:
- Pending
- Running
- Done
- Cancelled
建立future的時候,task為pending,事件迴圈呼叫執行的時候當然就是running,呼叫完畢自然就是done,如果需要停止事件迴圈,就需要先把task取消,狀態為cancel。
import asynciodef foo(future, result): print(f"此時future的狀態:{future}") print(f"設定future的結果:{result}") future.set_result(result) print(f"此時future的狀態:{future}")if __name__ == '__main__': loop = asyncio.get_event_loop() try: all_done = asyncio.Future() loop.call_soon(foo, all_done, "Future is done!") print("進入事件迴圈") result = loop.run_until_complete(all_done) print("返回結果", result) finally: print("關閉事件迴圈") loop.close() print("獲取future的結果", all_done.result())複製程式碼
輸出
進入事件迴圈此時future的狀態:<Future pending cb=[_run_until_complete_cb() at /Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/asyncio/base_events.py:176]>設定future的結果:Future is done!此時future的狀態:<Future finished result='Future is done!'>返回結果 Future is done!關閉事件迴圈獲取future的結果 Future is done!複製程式碼
`
可以通過輸出結果發現,呼叫set_result之後future物件的狀態由pending變為finished
,Future的例項all_done會保留提供給方法的結果,可以在後續使用。
Future物件使用await
future和協程一樣可以使用await關鍵字獲取其結果。
import asynciodef foo(future, result): print("設定結果到future", result) future.set_result(result)async def main(loop): all_done = asyncio.Future() print("呼叫函式獲取future物件") loop.call_soon(foo, all_done, "the result") result = await all_done print("獲取future裡的結果", result)if __name__ == '__main__': loop = asyncio.get_event_loop() try: loop.run_until_complete(main(loop)) finally: loop.close()複製程式碼
Future回撥
Future 在完成的時候可以執行一些回撥函式,回撥函式按註冊時的順序進行呼叫:
import asyncioimport functoolsdef callback(future, n): print('{}: future done: {}'.format(n, future.result()))async def register_callbacks(all_done): print('註冊callback到future物件') all_done.add_done_callback(functools.partial(callback, n=1)) all_done.add_done_callback(functools.partial(callback, n=2))async def main(all_done): await register_callbacks(all_done) print('設定future的結果') all_done.set_result('the result')if __name__ == '__main__': loop = asyncio.get_event_loop() try: all_done = asyncio.Future() loop.run_until_complete(main(all_done)) finally: loop.close()複製程式碼
通過add_done_callback方法給funtrue任務新增回撥函式,當funture執行完成的時候,就會呼叫回撥函式。並通過引數future獲取協程執行的結果。
到此為止,我們就學會了如何在協程中呼叫一個普通函式並獲取其結果。
併發的執行任務
任務(Task)是與事件迴圈互動的主要途徑之一。任務可以包裝協程,可以跟蹤協程何時完成。任務是Future的子類,所以使用方法和future一樣。協程可以等待任務,每個任務都有一個結果,在它完成之後可以獲取這個結果。
因為協程是沒有狀態的,我們通過使用create_task方法可以將協程包裝成有狀態的任務。還可以在任務執行的過程中取消任務。
import asyncioasync def child(): print("進入子協程") return "the result"async def main(loop): print("將協程child包裝成任務") task = loop.create_task(child()) print("通過cancel方法可以取消任務") task.cancel() try: await task except asyncio.CancelledError: print("取消任務丟擲CancelledError異常") else: print("獲取任務的結果", task.result())if __name__ == '__main__': loop = asyncio.get_event_loop() try: loop.run_until_complete(main(loop)) finally: loop.close()複製程式碼
輸出
將協程child包裝成任務通過cancel方法可以取消任務取消任務丟擲CancelledError異常複製程式碼
如果把上面的task.cancel()註釋了我們可以得到正常情況下的結果,如下。
將協程child包裝成任務通過cancel方法可以取消任務進入子協程獲取任務的結果 the result複製程式碼
另外出了使用loop.create_task將協程包裝為任務外還可以使用asyncio.ensure_future(coroutine)建一個task。在python3.7中可以使用asyncio.create_task建立任務。
組合協程
一系列的協程可以通過await鏈式的呼叫,但是有的時候我們需要在一個協程裡等待多個協程,比如我們在一個協程裡等待1000個非同步網路請求,對於訪問次序有沒有要求的時候,就可以使用另外的關鍵字wait或gather來解決了。wait可以暫停一個協程,直到後臺操作完成。
等待多個協程
Task的使用
import asyncioasync def num(n): try: await asyncio.sleep(n*0.1) return n except asyncio.CancelledError: print(f"數字{n}被取消") raiseasync def main(): tasks = [num(i) for i in range(10)] complete, pending = await asyncio.wait(tasks, timeout=0.5) for i in complete: print("當前數字",i.result()) if pending: print("取消未完成的任務") for p in pending: p.cancel()if __name__ == '__main__': loop = asyncio.get_event_loop() try: loop.run_until_complete(main()) finally: loop.close()複製程式碼
輸出
當前數字 1當前數字 2當前數字 0當前數字 4當前數字 3取消未完成的任務數字5被取消數字9被取消數字6被取消數字8被取消數字7被取消複製程式碼
可以發現我們的結果並沒有按照數字的順序顯示,在內部wait()使用一個set儲存它建立的Task例項。因為set是無序的所以這也就是我們的任務不是順序執行的原因。wait的返回值是一個元組,包括兩個集合,分別表示已完成和未完成的任務。wait第二個引數為一個超時值
達到這個超時時間後,未完成的任務狀態變為pending,當程式退出時還有任務沒有完成此時就會看到如下的錯誤提示。
Task was destroyed but it is pending!task: <Task pending coro=<num() done, defined at 11.py:12> wait_for=<Future pending cb=[<TaskWakeupMethWrapper object at 0x1093e0558>()]>>Task was destroyed but it is pending!task: <Task pending coro=<num() done, defined at 11.py:12> wait_for=<Future pending cb=[<TaskWakeupMethWrapper object at 0x1093e06d8>()]>>Task was destroyed but it is pending!task: <Task pending coro=<num() done, defined at 11.py:12> wait_for=<Future pending cb=[<TaskWakeupMethWrapper object at 0x1093e0738>()]>>複製程式碼
此時我們可以通過迭代呼叫cancel方法取消任務。也就是這段程式碼
if pending: print("取消未完成的任務") for p in pending: p.cancel()複製程式碼
gather的使用
gather的作用和wait類似不同的是。
1.gather任務無法取消。
2.返回值是一個結果列表
3.可以按照傳入引數的順序,順序輸出。
我們將上面的程式碼改為gather的方式
import asyncioasync def num(n): try: await asyncio.sleep(n * 0.1) return n except asyncio.CancelledError: print(f"數字{n}被取消") raiseasync def main(): tasks = [num(i) for i in range(10)] complete = await asyncio.gather(*tasks) for i in complete: print("當前數字", i)if __name__ == '__main__': loop = asyncio.get_event_loop() try: loop.run_until_complete(main()) finally: loop.close()複製程式碼
輸出
當前數字 0當前數字 1....中間部分省略當前數字 9複製程式碼
gather通常被用來階段性的一個操作,做完第一步才能做第二步,比如下面這樣
import asyncioimport timeasync def step1(n, start): await asyncio.sleep(n) print("第一階段完成") print("此時用時", time.time() - start) return nasync def step2(n, start): await asyncio.sleep(n) print("第二階段完成") print("此時用時", time.time() - start) return nasync def main(): now = time.time() result = await asyncio.gather(step1(5, now), step2(2, now)) for i in result: print(i) print("總用時", time.time() - now)if __name__ == '__main__': loop = asyncio.get_event_loop() try: loop.run_until_complete(main()) finally: loop.close()複製程式碼
輸出
第二階段完成此時用時 2.0014898777008057第一階段完成此時用時 5.00296092033386252總用時 5.003103017807007複製程式碼
可以通過上面結果得到如下結論:
1.step1和step2是並行執行的。
2.gather會等待最耗時的那個完成之後才返回結果,耗時總時間取決於其中任務最長時間的那個。
任務完成時進行處理
as_complete是一個生成器,會管理指定的一個任務列表,並生成他們的結果。每個協程結束執行時一次生成一個結果。與wait一樣,as_complete不能保證順序,不過執行其他動作之前沒有必要等待所以後臺操作完成。
import asyncioimport timeasync def foo(n): print('Waiting: ', n) await asyncio.sleep(n) return nasync def main(): coroutine1 = foo(1) coroutine2 = foo(2) coroutine3 = foo(4) tasks = [ asyncio.ensure_future(coroutine1), asyncio.ensure_future(coroutine2), asyncio.ensure_future(coroutine3) ] for task in asyncio.as_completed(tasks): result = await task print('Task ret: {}'.format(result))now = lambda : time.time()start = now()loop = asyncio.get_event_loop()done = loop.run_until_complete(main())print(now() - start)複製程式碼
輸出
Waiting: 1Waiting: 2Waiting: 4Task ret: 1Task ret: 2Task ret: 44.004292249679565複製程式碼
可以發現結果逐個輸出。
到此為止第一部分就結束了,對於asyncio入門級學習來說這些內容就夠了。如果想繼續跟進asyncio的內容,敬請期待後面的內容。
參考資料
- The Python 3 Standard Library by Example
- https://docs.python.org/3/library/asyncio.html
更多非同步內容請關注微信公眾號:python學習開發