Spitfire騰訊2021sigmod論文分析
Spitfire:易失和非易失性記憶體的三層buffer管理
Spitfire: A Three-Tier Buffer Manager for Volatile and Non-Volatile Memory
機制
1、cache line page
將page分割成cache line大小,一個cache line為64位元組。由於PM可以位元組定址,所以可以以cache line的粒度進行讀寫page。頁頭結構中有標記哪個cache line為髒的點陣圖表,1表示髒。並且有resident欄位點陣圖標記哪個cache line載入到了記憶體,若無載入,這部分在記憶體中不佔空間,節省記憶體。
2、HYMEM
《managing nvm in database system》分三層架構DRAM-NVM-SSD。
1) SSD上資料頁大小16kb,當事務請求時載入到DRAM
2) 使用時鐘演算法替換DRAM中的資料頁,PM中使用同樣演算法
3) 判斷什麼條件下降DRAM中資料頁持久化到PM?
4) 採用一個准入PM的佇列來協助是否將資料頁持久化到PM。
5) 預設的讀路徑:SSD->NVM->DRAM->CPU
6) 預設的寫路徑:CPU->DRAM->NVM->SSD
7) 讀時首先看是否在DRAM,不在時看是否在NVM,都不在則需要將SSD上全頁直接載入到DRAM
8) DRAM替換資料頁時,首先看他在沒在准入佇列,若在則將其從佇列刪除,並持久化到PM;否則將其標記到准入佇列,將該頁直接持久化到SSD
9) 優點:減少了PM寫,以及不同層級之間資料的移動
缺點:非併發操作,沒有在真實的PM環境上測試。
3、spitfire
使用概率的方法控制不同層級之間資料的遷移,實現冷熱資料分離。確保DRAM中是熱資料,NVM中是溫資料,SSD中是冷資料。
1) Dr:讀時,將NVM移動到DRAM中的概率。比如0.01表示每讀取100次,才將NVM中資料頁遷移到DRAM
2) Dw:寫時需要輔助DRAM的概率
3) Nr:讀操作時,將SSD遷移到NVM的概率
4) Nw:寫的過程中,buffer管理器將DRAM遷移到NVM的概率
5) 資料遷移這些概率依賴於工作負載,自適應調整。
6 )通過對每層加一個 latch ,遷移時用到哪層,就對哪層加鎖,實現併發
原文
https://zxjcarrot.github.io/publication/spitfire/spitfire.pdf
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/31493717/viewspace-2756568/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- EMNLP 2018:騰訊AI Lab解讀16篇入選論文AI
- 騰訊AI Lab入選20篇論文,含2篇SpotlightAI
- ECCV 2018 | 騰訊AI Lab解讀19篇入選論文AI
- 騰訊AI Lab深度解讀文字生成技術相關論文AI
- 全球計算機視覺頂會CVPR 2019論文出爐:騰訊優圖25篇論文入選計算機視覺
- SysML 2019論文解讀:視訊分析系統的提升
- 騰訊58篇論文入選CVPR 2019,兩年增長超200%
- 騰訊天衍實驗室14篇論文獲MICCAI 2020收錄AI
- python 爬取騰訊視訊的全部評論Python
- MNLP2018:騰訊AI Lab深度解讀互動文字理解相關論文AI
- 騰訊混元大模型核心論文曝光:Scaling law、MoE、合成資料以及更多大模型
- CVPR 2018 | 騰訊AI Lab關注的三大方向與55篇論文AI
- 騰訊Turing Lab論文入選ICASSP,影像AI研究成果獲國際認可AI
- 三篇論文入選國際頂會SIGMOD,厲害了騰訊雲資料庫資料庫
- 一文看盡2020上半年阿里、騰訊、百度入選AI頂會論文(附地址)阿里AI
- 【論文】軍事理論課程論文
- 圖學習相關論文快訊
- 大規模圖嵌入 | 論文快訊
- Android 接入騰訊IM即時通訊(詳細圖文)Android
- 騰訊AI Lab 8篇論文入選,從0到1解讀語音互動能力AI
- 4篇論文入選資料庫頂會,騰訊雲突破資料庫效能瓶頸資料庫
- 騰訊電腦管家TAV引擎逆向分析
- 論文
- 阿里、百度、騰訊、滴滴、華為、京東、聯想 KDD2020公司論文大盤點阿里
- 騰訊冷啟動論文閱讀《Enhancing User Interest based on Stream Clustering and Memory Networks in Large-Scale Recommender Systems》REST
- 一文透析騰訊云云上攻防體系
- 一文透析騰訊區塊鏈技術區塊鏈
- 你的論文能否中頂會?這篇分析同行評審結果的論文可幫助你
- 32篇論文、7大事業群,這是騰訊在斯德哥爾摩的AI之夜AI
- [外掛擴充套件]騰訊分析外掛套件
- SysML 2019論文解讀:影片分析系統的提升
- SCI論文的型別以及寫作結構分析型別
- INTERSPEECH2020 語音情感分析論文之我見
- 騰訊IMweb Conf 2017大會圖文筆記 — 下Web筆記
- 阿里、騰訊、位元組系網文戰火重燃阿里
- 騰訊面試八股文12-29面試
- 服務質量分析:騰訊會議&騰訊雲Elasticsearch玩出了怎樣的新操作?Elasticsearch
- 騰訊AI八篇論文入選頂級醫學影像會議MICCAI ,涉及病理癌症影像分類等AI