我們都知道併發(不是並行)程式設計目前有四種方式,多程式,多執行緒,非同步,和協程。
多程式程式設計在python中有類似C的os.fork,當然還有更高層封裝的multiprocessing標準庫,在之前寫過的python高可用程式設計方法http://www.cnblogs.com/hymenz/p/3488837.html中提供了類似nginx中master process和worker process間訊號處理的方式,保證了業務程式的退出可以被主程式感知。
多執行緒程式設計python中有Thread和threading,在linux下所謂的執行緒,實際上是LWP輕量級程式,其在核心中具有和程式相同的排程方式,有關LWP,COW(寫時複製),fork,vfork,clone等的資料較多,這裡不再贅述。
非同步在linux下主要有三種實現select,poll,epoll,關於非同步不是本文的重點。
說協程肯定要說yield,我們先來看一個例子:
#coding=utf-8 import time import sys # 生產者 def produce(l): i=0 while 1: if i < 5: l.append(i) yield i i=i+1 time.sleep(1) else: return # 消費者 def consume(l): p = produce(l) while 1: try: p.next() while len(l) > 0: print l.pop() except StopIteration: sys.exit(0) l = [] consume(l)
在上面的例子中,當程式執行到produce的yield i時,返回了一個generator,當我們在custom中呼叫p.next(),程式又返回到produce的yield i繼續執行,這樣l中又append了元素,然後我們print l.pop(),直到p.next()引發了StopIteration異常。
透過上面的例子我們看到協程的排程對於核心來說是不可見的,協程間是協同排程的,這使得併發量在上萬的時候,協程的效能是遠高於執行緒的。
import stackless import urllib2 def output(): while 1: url=chan.receive() print url f=urllib2.urlopen(url) #print f.read() print stackless.getcurrent() def input(): f=open('url.txt') l=f.readlines() for i in l: chan.send(i) chan=stackless.channel() [stackless.tasklet(output)() for i in xrange(10)] stackless.tasklet(input)() stackless.run()
關於協程,可以參考greenlet,stackless,gevent,eventlet等的實現。