執行緒安全
執行緒安全是多執行緒或多程序程式設計中的一個概念,在擁有共享資料的多條執行緒並行執行的程式中,執行緒安全的程式碼會透過同步機制保證各個執行緒都可以正常且正確的執行,不會出現資料汙染等意外情況。
執行緒安全的問題最主要還是由執行緒切換導致的,比如一個房間(程序)中有10顆糖(資源),除此之外還有3個小人(1個主執行緒、2個子執行緒),當小人A吃了3顆糖後被系統強制進行休息時他認為還剩下7顆糖,而當小人B工作後又吃掉了3顆糖,那麼當小人A重新上崗時會認為糖還剩下7顆,但是實際上只有4顆了。
上述例子中執行緒A和執行緒B的資料不同步,這就是執行緒安全問題,它可能導致非常嚴重的意外情況發生,我們按下面這個示例來進行說明。
下面有一個數值num初始值為0,我們開啟2條執行緒:
-
執行緒1對num進行一千萬次+1的操作
-
執行緒2對num進行一千萬次-1的操作
結果可能會令人咋舌,num最後並不是我們所想象的結果0:
import threading
num = 0
def add():
global num
for i in range(10_000_000):
num += 1
def sub():
global num
for i in range(10_000_000):
num -= 1
if __name__ == "__main__":
subThread01 = threading.Thread(target=add)
subThread02 = threading.Thread(target=sub)
subThread01.start()
subThread02.start()
subThread01.join()
subThread02.join()
print("num result : %s" % num)
# 結果三次採集
# num result : 669214
# num result : -1849179
# num result : -525674
上面這就是一個非常好的案例,想要解決這個問題就必須透過鎖來保障執行緒切換的時機。
需要我們值得留意的是,在Python基本資料型別中list、tuple、dict本身就是屬於執行緒安全的,
所以如果有多個執行緒對這3種容器做操作時,我們不必考慮執行緒安全問題。
鎖的作用
鎖是Python提供給我們能夠自行操控執行緒切換的一種手段,使用鎖可以讓執行緒的切換變的有序。
一旦執行緒的切換變的有序後,各個執行緒之間對資料的訪問、修改就變的可控,所以若要保證執行緒安全,就必須使用鎖。
threading模組中提供了5種最常見的鎖,下面是按照功能進行劃分:
-
同步鎖:lock(一次只能放行一個)
-
遞迴鎖:rlock(一次只能放行一個)
-
條件鎖:condition(一次可以放行任意個)
-
事件鎖:event(一次全部放行)
-
訊號量鎖:semaphore(一次可以放行特定個)
1、Lock() 同步鎖
基本介紹
Lock鎖的稱呼有很多,如:
-
同步鎖
-
互斥鎖
它們是什麼意思呢?如下所示:
-
互斥指的是某一資源同一時刻僅能有一個訪問者對其進行訪問,具有唯一性和排他性,但是互斥無法限制訪問者對資源的訪問順序,即訪問是無序的
-
同步是指在互斥的基礎上(大多數情況),透過其他機制實現訪問者對資源的有序訪問
-
同步其實已經實現了互斥,是互斥的一種更為複雜的實現,因為它在互斥的基礎上實現了有序訪問的特點
下面是threading模組與同步鎖提供的相關方法:
使用方式
同步鎖一次只能放行一個執行緒,一個被加鎖的執行緒在執行時不會將執行權交出去,只有當該執行緒被解鎖時才會將執行權透過系統排程交由其他執行緒。
如下所示,使用同步鎖解決最上面的問題:
import threading
num = 0
def add():
lock.acquire()
global num
for i in range(10_000_000):
num += 1
lock.release()
def sub():
lock.acquire()
global num
for i in range(10_000_000):
num -= 1
lock.release()
if __name__ == "__main__":
lock = threading.Lock()
subThread01 = threading.Thread(target=add)
subThread02 = threading.Thread(target=sub)
subThread01.start()
subThread02.start()
subThread01.join()
subThread02.join()
print("num result : %s" % num)
# 結果三次採集
# num result : 0
# num result : 0
# num result : 0
這樣這個程式碼就完全變成了序列的狀態,對於這種計算密集型I/O業務來說,還不如直接使用序列化單執行緒執行來得快,所以這個例子僅作為一個示例,不能概述鎖真正的用途。
死鎖現象
對於同步鎖來說,一次acquire()必須對應一次release(),不能出現連續重複使用多次acquire()後再重複使用多次release()的操作,這樣會引起死鎖造成程式的阻塞,完全不動了,如下所示:
import threading
num = 0
def add():
lock.acquire() # 上鎖
lock.acquire() # 死鎖
# 不執行
global num
for i in range(10_000_000):
num += 1
lock.release()
lock.release()
def sub():
lock.acquire() # 上鎖
lock.acquire() # 死鎖
# 不執行
global num
for i in range(10_000_000):
num -= 1
lock.release()
lock.release()
if __name__ == "__main__":
lock = threading.Lock()
subThread01 = threading.Thread(target=add)
subThread02 = threading.Thread(target=sub)
subThread01.start()
subThread02.start()
subThread01.join()
subThread02.join()
print("num result : %s" % num)
with語句
由於threading.Lock()物件中實現了enter__()
與__exit()
方法,故我們可以使用with語句進行上下文管理形式的加鎖解鎖操作:
import threading
num = 0
def add():
with lock:
# 自動加鎖
global num
for i in range(10_000_000):
num += 1
# 自動解鎖
def sub():
with lock:
# 自動加鎖
global num
for i in range(10_000_000):
num -= 1
# 自動解鎖
if __name__ == "__main__":
lock = threading.Lock()
subThread01 = threading.Thread(target=add)
subThread02 = threading.Thread(target=sub)
subThread01.start()
subThread02.start()
subThread01.join()
subThread02.join()
print("num result : %s" % num)
# 結果三次採集
# num result : 0
# num result : 0
# num result : 0
2、RLock() 遞迴鎖
基本介紹
遞迴鎖是同步鎖的一個升級版本,在同步鎖的基礎上可以做到連續重複使用多次acquire()後再重複使用多次release()的操作,但是一定要注意加鎖次數和解鎖次數必須一致,否則也將引發死鎖現象。
下面是threading模組與遞迴鎖提供的相關方法:
使用方式
以下是遞迴鎖的簡單使用,下面這段操作如果使用同步鎖則會發生死鎖現象,但是遞迴鎖不會:
import threading
num = 0
def add():
lock.acquire()
lock.acquire()
global num
for i in range(10_000_000):
num += 1
lock.release()
lock.release()
def sub():
lock.acquire()
lock.acquire()
global num
for i in range(10_000_000):
num -= 1
lock.release()
lock.release()
if __name__ == "__main__":
lock = threading.RLock()
subThread01 = threading.Thread(target=add)
subThread02 = threading.Thread(target=sub)
subThread01.start()
subThread02.start()
subThread01.join()
subThread02.join()
print("num result : %s" % num)
# 結果三次採集
# num result : 0
# num result : 0
# num result : 0
with語句
由於threading.RLock()物件中實現了enter__()
與__exit()
方法,故我們可以使用with語句進行上下文管理形式的加鎖解鎖操作:
import threading
num = 0
def add():
with lock:
# 自動加鎖
global num
for i in range(10_000_000):
num += 1
# 自動解鎖
def sub():
with lock:
# 自動加鎖
global num
for i in range(10_000_000):
num -= 1
# 自動解鎖
if __name__ == "__main__":
lock = threading.RLock()
subThread01 = threading.Thread(target=add)
subThread02 = threading.Thread(target=sub)
subThread01.start()
subThread02.start()
subThread01.join()
subThread02.join()
print("num result : %s" % num)
# 結果三次採集
# num result : 0
# num result : 0
# num result : 0
3、Condition() 條件鎖
基本介紹
條件鎖是在遞迴鎖的基礎上增加了能夠暫停執行緒執行的功能。並且我們可以使用wait()與notify()來控制執行緒執行的個數。
注意:條件鎖可以自由設定一次放行幾個執行緒。
下面是threading模組與條件鎖提供的相關方法:
使用方式
下面這個案例會啟動10個子執行緒,並且會立即將10個子執行緒設定為等待狀態。
然後我們可以傳送一個或者多個通知,來恢復被等待的子執行緒繼續執行:
import threading
currentRunThreadNumber = 0
maxSubThreadNumber = 10
def task():
global currentRunThreadNumber
thName = threading.currentThread().name
condLock.acquire() # 上鎖
print("start and wait run thread : %s" % thName)
condLock.wait() # 暫停執行緒執行、等待喚醒
currentRunThreadNumber += 1
print("carry on run thread : %s" % thName)
condLock.release() # 解鎖
if __name__ == "__main__":
condLock = threading.Condition()
for i in range(maxSubThreadNumber):
subThreadIns = threading.Thread(target=task)
subThreadIns.start()
while currentRunThreadNumber < maxSubThreadNumber:
notifyNumber = int(
input("Please enter the number of threads that need to be notified to run:"))
condLock.acquire()
condLock.notify(notifyNumber) # 放行
condLock.release()
print("main thread run end")
# 先啟動10個子執行緒,然後這些子執行緒會全部變為等待狀態
# start and wait run thread : Thread-1
# start and wait run thread : Thread-2
# start and wait run thread : Thread-3
# start and wait run thread : Thread-4
# start and wait run thread : Thread-5
# start and wait run thread : Thread-6
# start and wait run thread : Thread-7
# start and wait run thread : Thread-8
# start and wait run thread : Thread-9
# start and wait run thread : Thread-10
# 批次傳送通知,放行特定數量的子執行緒繼續執行
# Please enter the number of threads that need to be notified to run:5 # 放行5個
# carry on run thread : Thread-4
# carry on run thread : Thread-3
# carry on run thread : Thread-1
# carry on run thread : Thread-2
# carry on run thread : Thread-5
#學習中遇到問題沒人解答?小編建立了一個Python學習交流群:725638078
# Please enter the number of threads that need to be notified to run:5 # 放行5個
# carry on run thread : Thread-8
# carry on run thread : Thread-10
# carry on run thread : Thread-6
# carry on run thread : Thread-9
# carry on run thread : Thread-7
# Please enter the number of threads that need to be notified to run:1
# main thread run end
with語句
由於threading.Condition()物件中實現了enter__()
與__exit()
方法,故我們可以使用with語句進行上下文管理形式的加鎖解鎖操作:
import threading
currentRunThreadNumber = 0
maxSubThreadNumber = 10
def task():
global currentRunThreadNumber
thName = threading.currentThread().name
with condLock:
print("start and wait run thread : %s" % thName)
condLock.wait() # 暫停執行緒執行、等待喚醒
currentRunThreadNumber += 1
print("carry on run thread : %s" % thName)
if __name__ == "__main__":
condLock = threading.Condition()
for i in range(maxSubThreadNumber):
subThreadIns = threading.Thread(target=task)
subThreadIns.start()
while currentRunThreadNumber < maxSubThreadNumber:
notifyNumber = int(
input("Please enter the number of threads that need to be notified to run:"))
with condLock:
condLock.notify(notifyNumber) # 放行
print("main thread run end")
4、Event() 事件鎖
基本介紹
事件鎖是基於條件鎖來做的,它與條件鎖的區別在於一次只能放行全部,不能放行任意個數量的子執行緒繼續執行。
我們可以將事件鎖看為紅綠燈,當紅燈時所有子執行緒都暫停執行,並進入“等待”狀態,當綠燈時所有子執行緒都恢復“執行”。
下面是threading模組與事件鎖提供的相關方法:
使用方式
事件鎖不能利用with語句來進行使用,只能按照常規方式。
如下所示,我們來模擬執行緒和紅綠燈的操作,紅燈停,綠燈行:
# 生成一個事件鎖物件
eve = threading.Event()
# 將事件鎖設定為紅燈狀態
eve.clear()
# 判斷事件鎖的狀態
eve.is_set()
# 將當前執行緒設定’等待‘狀態
eve.wait()
# 將事件鎖設定為綠燈狀態
eve.set()
import time
import threading
def light(eve):
print(f'當前時間:{time.ctime()}, 紅燈還有 5s 結束!')
time.sleep(5)
print(f'當前時間:{time.ctime()}, 綠燈亮!')
eve.set() # 設定事件鎖標誌為 True
def car(eve, name):
print(f'當前時間:{time.ctime()}, 車 {name} 正在等紅燈')
eve.wait() # 將當前執行緒設定為等待狀態,等待事件鎖標誌為 True 再執行
print(f'當前時間:{time.ctime()}, 車 {name} 開始通行')
if __name__ == '__main__':
eve = threading.Event() # 事件鎖預設標誌為 False
t1 = threading.Thread(target=light, args=(eve,))
t1.start()
for each in 'ABCDE':
t2 = threading.Thread(target=car, args=(eve, each))
t2.start()
#學習中遇到問題沒人解答?小編建立了一個Python學習交流群:725638078
# 執行看一下列印結果
當前時間:Fri Jul 29 11:32:58 2022, 紅燈還有 5s 結束!
當前時間:Fri Jul 29 11:32:58 2022, 車 A 正在等紅燈
當前時間:Fri Jul 29 11:32:58 2022, 車 B 正在等紅燈
當前時間:Fri Jul 29 11:32:58 2022, 車 C 正在等紅燈
當前時間:Fri Jul 29 11:32:58 2022, 車 D 正在等紅燈
當前時間:Fri Jul 29 11:32:58 2022, 車 E 正在等紅燈
當前時間:Fri Jul 29 11:33:03 2022, 綠燈亮!
當前時間:Fri Jul 29 11:33:03 2022, 車 C 開始通行
當前時間:Fri Jul 29 11:33:03 2022, 車 B 開始通行
當前時間:Fri Jul 29 11:33:03 2022, 車 E 開始通行
當前時間:Fri Jul 29 11:33:03 2022, 車 A 開始通行
當前時間:Fri Jul 29 11:33:03 2022, 車 D 開始通行
5、Semaphore() 訊號量鎖
基本介紹
訊號量鎖也是根據條件鎖來做的,它與條件鎖和事件鎖的區別如下:
-
條件鎖:一次可以放行任意個處於“等待”狀態的執行緒
-
事件鎖:一次可以放行全部的處於“等待”狀態的執行緒
-
訊號量鎖:透過規定,成批的放行特定個處於“上鎖”狀態的執行緒
下面是threading模組與訊號量鎖提供的相關方法:
使用方式
以下是使用示例,你可以將它當做一段限寬的路段,每次只能放行相同數量的執行緒:
import threading
import time
maxSubThreadNumber = 6
def task():
thName = threading.currentThread().name
semaLock.acquire()
print("run sub thread %s" % thName)
time.sleep(3)
semaLock.release()
if __name__ == "__main__":
# 每次只能放行2個
semaLock = threading.Semaphore(2)
for i in range(maxSubThreadNumber):
subThreadIns = threading.Thread(target=task)
subThreadIns.start()
# run sub thread Thread-1
# run sub thread Thread-2
# run sub thread Thread-3
# run sub thread Thread-4
# run sub thread Thread-6
# run sub thread Thread-5
with語句
由於threading.Semaphore()物件中實現了enter__()
與__exit()
方法,故我們可以使用with語句進行上下文管理形式的加鎖解鎖操作:
import threading
import time
maxSubThreadNumber = 6
def task():
thName = threading.currentThread().name
with semaLock:
print("run sub thread %s" % thName)
time.sleep(3)
if __name__ == "__main__":
semaLock = threading.Semaphore(2)
for i in range(maxSubThreadNumber):
subThreadIns = threading.Thread(target=task)
subThreadIns.start()
鎖關係淺析
上面5種鎖可以說都是基於同步鎖來做的,這些你都可以從原始碼中找到答案。
首先來看RLock遞迴鎖,遞迴鎖的實現非常簡單,它的內部會維護著一個計數器,當計數器不為0的時候該執行緒不能被I/O操作和時間輪詢機制切換。但是當計數器為0的時候便不會如此了:
def __init__(self):
self._block = _allocate_lock()
self._owner = None
self._count = 0 # 計數器
而Condition條件鎖的內部其實是有兩把鎖的,一把底層鎖(同步鎖)一把高階鎖(遞迴鎖)。
低層鎖的解鎖方式有兩種,使用wait()方法會暫時解開底層鎖同時加上一把高階鎖,只有當接收到別的執行緒裡的notfiy()後才會解開高階鎖和重新上鎖低層鎖,也就是說條件鎖底層是根據同步鎖和遞迴鎖的不斷切換來進行實現的:
def __init__(self, lock=None):
if lock is None:
lock = RLock() # 可以看到條件鎖的內部是基於遞迴鎖,而遞迴鎖又是基於同步鎖來做的
self._lock = lock
self.acquire = lock.acquire
self.release = lock.release
try:
self._release_save = lock._release_save
except AttributeError:
pass
try:
self._acquire_restore = lock._acquire_restore
except AttributeError:
pass
try:
self._is_owned = lock._is_owned
except AttributeError:
pass
self._waiters = _deque()
基本練習題
條件鎖的應用
需求:一個空列表,兩個執行緒輪番往裡面加值(一個加偶數,一個加奇數),最終讓該列表中的值為 1 - 100 ,且是有序排列的。
import threading
lst = []
def even():
"""加偶數"""
with condLock:
for i in range(2, 101, 2):
# 判斷當前列表的長度處於2是否能處盡
# 如果能處盡則代表需要新增奇數
# 否則就新增偶數
if len(lst) % 2 != 0:
# 添偶數
lst.append(i) # 先新增值
condLock.notify() # 告訴另一個執行緒,你可以加奇數了,但是這裡不會立即交出執行權
condLock.wait() # 交出執行權,並等待另一個執行緒通知加偶數
else:
# 添奇數
condLock.wait() # 交出執行權,等待另一個執行緒通知加偶數
lst.append(i)
condLock.notify()
condLock.notify()
def odd():
"""加奇數"""
with condLock:
for i in range(1, 101, 2):
if len(lst) % 2 == 0:
lst.append(i)
condLock.notify()
condLock.wait()
condLock.notify()
#學習中遇到問題沒人解答?小編建立了一個Python學習交流群:725638078
if __name__ == "__main__":
condLock = threading.Condition()
addEvenTask = threading.Thread(target=even)
addOddTask = threading.Thread(target=odd)
addEvenTask.start()
addOddTask.start()
addEvenTask.join()
addOddTask.join()
print(lst)
事件鎖的應用
有2個任務執行緒來扮演李白和杜甫,如何讓他們一人一句進行對答?文字如下:
杜甫:老李啊,來喝酒!
李白:老杜啊,不喝了我喝不下了!
杜甫:老李啊,再來一壺?
杜甫:…老李?
李白:呼呼呼…睡著了..
程式碼如下:
import threading
def libai():
event.wait()
print("李白:老杜啊,不喝了我喝不下了!")
event.set()
event.clear()
event.wait()
print("李白:呼呼呼...睡著了..")
def dufu():
print("杜甫:老李啊,來喝酒!")
event.set()
event.clear()
event.wait()
print("杜甫:老李啊,再來一壺?")
print("杜甫:...老李?")
event.set()
if __name__ == '__main__':
event = threading.Event()
t1 = threading.Thread(target=libai)
t2 = threading.Thread(target=dufu)
t1.start()
t2.start()
t1.join()
t2.join()