手把手教你如何使用Python的非同步IO框架:asyncio(下)

Python程式設計時光發表於2018-07-09

作者:MING
個人公眾號:Python程式設計時光
個人微信:mrbensonwon

注:本系列已在微信公眾號更新完成。檢視最新文章,請關注公眾號獲取。

大家好,併發程式設計 進入第十一章。

前面兩節,我們講了協程中的單任務和多工

這節我們將通過一個小實戰,來對這些內容進行鞏固。


在實戰中,將會用到以下知識點:

  • 多執行緒的基本使用
  • Queue訊息佇列的使用
  • Redis的基本使用
  • asyncio的使用

動態新增協程

在實戰之前,我們要先了解下在asyncio中如何將協程態新增到事件迴圈中的。這是前提。

如何實現呢,有兩種方法:

  • 主執行緒是同步的
import time
import asyncio
from queue import Queue
from threading import Thread

def start_loop(loop):
    # 一個在後臺永遠執行的事件迴圈
    asyncio.set_event_loop(loop)
    loop.run_forever()

def do_sleep(x, queue, msg=""):
    time.sleep(x)
    queue.put(msg)

queue = Queue()

new_loop = asyncio.new_event_loop()

# 定義一個執行緒,並傳入一個事件迴圈物件
t = Thread(target=start_loop, args=(new_loop,))
t.start()

print(time.ctime())

# 動態新增兩個協程
# 這種方法,在主執行緒是同步的
new_loop.call_soon_threadsafe(do_sleep, 6, queue, "第一個")
new_loop.call_soon_threadsafe(do_sleep, 3, queue, "第二個")

while True:
    msg = queue.get()
    print("{} 協程執行完..".format(msg))
    print(time.ctime())
複製程式碼

由於是同步的,所以總共耗時6+3=9秒.

輸出結果

Thu May 31 22:11:16 2018
第一個 協程執行完..
Thu May 31 22:11:22 2018
第二個 協程執行完..
Thu May 31 22:11:25 2018
複製程式碼
  • 主執行緒是非同步的,這是重點,一定要掌握。。
import time
import asyncio
from queue import Queue
from threading import Thread

def start_loop(loop):
    # 一個在後臺永遠執行的事件迴圈
    asyncio.set_event_loop(loop)
    loop.run_forever()

async def do_sleep(x, queue, msg=""):
    await asyncio.sleep(x)
    queue.put(msg)

queue = Queue()

new_loop = asyncio.new_event_loop()

# 定義一個執行緒,並傳入一個事件迴圈物件
t = Thread(target=start_loop, args=(new_loop,))
t.start()

print(time.ctime())

# 動態新增兩個協程
# 這種方法,在主執行緒是非同步的
asyncio.run_coroutine_threadsafe(do_sleep(6, queue, "第一個"), new_loop)
asyncio.run_coroutine_threadsafe(do_sleep(3, queue, "第二個"), new_loop)

while True:
    msg = queue.get()
    print("{} 協程執行完..".format(msg))
    print(time.ctime())
複製程式碼

輸出結果

由於是同步的,所以總共耗時max(6, 3)=6

Thu May 31 22:23:35 2018
第二個 協程執行完..
Thu May 31 22:23:38 2018
第一個 協程執行完..
Thu May 31 22:23:41 2018
複製程式碼

實戰:利用redis實現動態新增任務

對於併發任務,通常是用生成消費模型,對佇列的處理可以使用類似master-worker的方式,master主要使用者獲取佇列的msg,worker使用者處理訊息。

為了簡單起見,並且協程更適合單執行緒的方式,我們的主執行緒用來監聽佇列,子執行緒用於處理佇列。這裡使用redis的佇列。主執行緒中有一個是無限迴圈,使用者消費佇列。

先安裝Redis
到 https://github.com/MicrosoftArchive/redis/releases 下載


解壓到你的路徑。

然後,在當前路徑執行cmd,執行redis的服務端。


服務開啟後,我們就可以執行我們的客戶端了。
並依次輸入key=queue,value=5,3,1的訊息。

一切準備就緒之後,我們就可以執行我們的程式碼了。

import time
import redis
import asyncio
from queue import Queue
from threading import Thread

def start_loop(loop):
    # 一個在後臺永遠執行的事件迴圈
    asyncio.set_event_loop(loop)
    loop.run_forever()

async def do_sleep(x, queue):
    await asyncio.sleep(x)
    queue.put("ok")

def get_redis():
    connection_pool = redis.ConnectionPool(host='127.0.0.1', db=0)
    return redis.Redis(connection_pool=connection_pool)

def consumer():
    while True:
        task = rcon.rpop("queue")
        if not task:
            time.sleep(1)
            continue
        asyncio.run_coroutine_threadsafe(do_sleep(int(task), queue), new_loop)


if __name__ == '__main__':
    print(time.ctime())
    new_loop = asyncio.new_event_loop()

    # 定義一個執行緒,執行一個事件迴圈物件,用於實時接收新任務
    loop_thread = Thread(target=start_loop, args=(new_loop,))
    loop_thread.setDaemon(True)
    loop_thread.start()
    # 建立redis連線
    rcon = get_redis()

    queue = Queue()

    # 子執行緒:用於消費佇列訊息,並實時往事件物件容器中新增新任務
    consumer_thread = Thread(target=consumer)
    consumer_thread.setDaemon(True)
    consumer_thread.start()

    while True:
        msg = queue.get()
        print("協程執行完..")
        print("當前時間:", time.ctime())
複製程式碼

稍微講下程式碼

loop_thread:單獨的執行緒,執行著一個事件物件容器,用於實時接收新任務。
consumer_thread:單獨的執行緒,實時接收來自Redis的訊息佇列,並實時往事件物件容器中新增新任務。

輸出結果

Thu May 31 23:42:48 2018
協程執行完..
當前時間: Thu May 31 23:42:49 2018

協程執行完..
當前時間: Thu May 31 23:42:51 2018

協程執行完..
當前時間: Thu May 31 23:42:53 2018
複製程式碼

我們在Redis,分別發起了5s,3s,1s的任務。
從結果來看,這三個任務,確實是併發執行的,1s的任務最先結束,三個任務完成總耗時5s

執行後,程式是一直執行在後臺的,我們每一次在Redis中輸入新值,都會觸發新任務的執行。。


好了,經過這個實戰內容,你應該對asyncio的實際應用有了一個更深刻的認識了,至此,你已經可以使用asyncio來實現任務的併發。快去體驗一下。如果有什麼疑問,請在後臺加我微信與我聯絡。。


關注公眾號,獲取最新文章
關注公眾號,獲取最新文章

相關文章