[轉帖]TLAB(Thread Local Allocation Buffer)

济南小老虎發表於2024-05-10
https://www.cnblogs.com/Chary/p/18034613

TLAB是虛擬機器在堆記憶體的eden劃分出來的一塊專用空間,是執行緒專屬的。在虛擬機器的TLAB功能啟動的情況下,線上程初始化時,虛擬機器會為每個執行緒分配一塊TLAB空間,只給當前執行緒使用,這樣每個執行緒都單獨擁有一個空間,如果需要分配記憶體,就在自己的空間上分配,這樣就不存在競爭的情況,可以大大提升分配效率。這裡值得注意的是,我們說TLAB是執行緒獨享的,但是隻是在“分配”這個動作上是執行緒獨享的,至於在讀取、垃圾回收等動作上都是執行緒共享的。而且在使用上也沒有什麼區別

也就是說,雖然每個執行緒在初始化時都會去堆記憶體中申請一塊TLAB,並不是說這個TLAB區域的記憶體其他執行緒就完全無法訪問了,其他執行緒的讀取還是可以的,只不過無法在這個區域中分配記憶體而已。

並且,在TLAB分配之後,並不影響物件的移動和回收,也就是說,雖然物件剛開始可能透過TLAB分配記憶體,存放在Eden區,但是還是會被垃圾回收或者被移到Survivor Space、Old Gen等。

還有一點需要注意的是,我們說TLAB是在eden區分配的,因為eden區域本身就不太大,而且TLAB空間的記憶體也非常小,預設情況下僅佔有整個Eden空間的1%。所以,必然存在一些大物件是無法在TLAB直接分配。

遇到TLAB中無法分配的大物件,物件還是可能在eden區或者老年代等進行分配的,但是這種分配就需要進行同步控制,這也是為什麼我們經常說:小的物件比大的物件分配起來更加高效。

TLAB帶來的問題

雖然在一定程度上,TLAB大大的提升了物件的分配速度,但是TLAB並不是就沒有任何問題的。

前面我們說過,因為TLAB記憶體區域並不是很大,所以,有可能會經常出現不夠的情況。在《實戰Java虛擬機器》中有這樣一個例子:

比如一個執行緒的TLAB空間有100KB,其中已經使用了80KB,當需要再分配一個30KB的物件時,就無法直接在TLAB中分配,遇到這種情況時,有兩種處理方案:

1、如果一個物件需要的空間大小超過TLAB中剩餘的空間大小,則直接在堆記憶體中對該物件進行記憶體分配。

2、如果一個物件需要的空間大小超過TLAB中剩餘的空間大小,則廢棄當前TLAB,重新申請TLAB空間再次進行記憶體分配。

以上兩個方案各有利弊,如果採用方案1,那麼就可能存在著一種極端情況,就是TLAB只剩下1KB,就會導致後續需要分配的大多數物件都需要在堆記憶體直接分配。

如果採用方案2,也有可能存在頻繁廢棄TLAB,頻繁申請TLAB的情況,而我們知道,雖然在TLAB上分配記憶體是執行緒獨享的,但是TLAB記憶體自己從堆中劃分出來的過程確實可能存在衝突的,所以,TLAB的分配過程其實也是需要併發控制的。而頻繁的TLAB分配就失去了使用TLAB的意義。

為了解決這兩個方案存在的問題,虛擬機器定義了一個refill_waste的值,這個值可以翻譯為“最大浪費空間”。

當請求分配的記憶體大於refill_waste的時候,會選擇在堆記憶體中分配。若小於refill_waste值,則會廢棄當前TLAB,重新建立TLAB進行物件記憶體分配。

前面的例子中,TLAB總空間100KB,使用了80KB,剩餘20KB,如果設定的refill_waste的值為25KB,那麼如果新物件的記憶體大於25KB,則直接堆記憶體分配,如果小於25KB,則會廢棄掉之前的那個TLAB,重新分配一個TLAB空間,給新物件分配記憶體。

TLAB使用的相關引數

TLAB功能是可以選擇開啟或者關閉的,可以透過設定-XX:+/-UseTLAB引數來指定是否開啟TLAB分配。

TLAB預設是eden區的1%,可以透過選項-XX:TLABWasteTargetPercent設定TLAB空間所佔用Eden空間的百分比大小。

預設情況下,TLAB的空間會在執行時不斷調整,使系統達到最佳的執行狀態。如果需要禁用自動調整TLAB的大小,可以使用-XX:-ResizeTLAB來禁用,並且使用-XX:TLABSize來手工指定TLAB的大小。

TLAB的refill_waste也是可以調整的,預設值為64,即表示使用約為1/64空間大小作為refill_waste,使用引數:-XX:TLABRefillWasteFraction來調整。

如果想要觀察TLAB的使用情況,可以使用引數-XX+PringTLAB 進行跟蹤。

總結

為了保證物件的記憶體分配過程中的執行緒安全性,HotSpot虛擬機器提供了一種叫做TLAB(Thread Local Allocation Buffer)的技術。

線上程初始化時,虛擬機器會為每個執行緒分配一塊TLAB空間,只給當前執行緒使用,當需要分配記憶體時,就在自己的空間上分配,這樣就不存在競爭的情況,可以大大提升分配效率。

所以,“堆是執行緒共享的記憶體區域”這句話並不完全正確,因為TLAB是堆記憶體的一部分,它在讀取上確實是執行緒共享的,但是在記憶體分配上,是執行緒獨享的。

TLAB的空間其實並不大,所以大物件還是可能需要在堆記憶體中直接分配。那麼,物件的記憶體分配步驟就是先嚐試TLAB分配,空間不足之後,再判斷是否應該直接進入老年代,然後再確定是再eden分配還是在老年代分配。

摘抄自網路,便於檢索查詢。

相關文章