分散式系統(Distributed System)資料

尹成發表於2018-05-26

分散式系統(Distributed System)資料

介紹:這是一篇介紹在動態網路裡面實現分散式系統重構的paper.論文的作者(導師)是MIT讀博的時候是做分散式系統的研究的,現在在NUS帶學生,不僅僅是分散式系統,還有無線網路.如果感興趣可以去他的主頁瞭解.

介紹:分散式程式設計實驗室,他們發表的很多的paper,其中不僅僅是學術研究,還有一些工業界應用的論文.

介紹:麻省理工的分散式系統理論主頁,作者南希·林奇在2002年證明了CAP理論,並且著《分散式演算法》一書.

介紹:分散式系統搭建初期的一些建議

介紹:分散式計算原理課程

介紹:Google全球分散式資料介紹,中文版

介紹:Algolia的分散式搜尋網路的體系架構介紹

介紹:構建高可用分散式Key-Value儲存系統

介紹:Nanomsg和Bond的分散式搜尋引擎

介紹:使用MongoDB和Mongothon進行分散式處理

介紹:分散式資料庫中把ACID與BASE結合使用.

介紹:理解的Paxos的分散式系統,參考閱讀:關於Paxos的歷史

介紹:There is No Now Problems with simultaneity in distributed systems

介紹:倫敦大學學院分散式系統課程課件.

介紹:分散式系統電子書籍.

介紹:卡內基梅隆大學春季分散式課程主頁

介紹: 電子書,分散式系統概念與設計(第五版)

介紹:這是一位臺灣網友 ccshih 的文字,短短的篇幅介紹了分散式系統的若干要點。pdf

介紹:清華大學分散式系統課程主頁,裡面的schedule欄目有很多寶貴的資源

介紹:免費的線上分散式系統書籍

介紹:Quora上面的一篇關於學習分散式計算的資源.

介紹:這個是第一個全球意義上的分散式資料庫,也是Google的作品。其中介紹了很多一致性方面的設計考慮,為了簡單的邏輯設計,還採用了原子鐘,同樣在分散式系統方面具有很強的借鑑意義.

介紹:Google的統面向鬆散耦合的分散式系統的鎖服務,這篇論文詳細介紹了Google的分散式鎖實現機制Chubby。Chubby是一個基於檔案實現的分散式鎖,Google的Bigtable、Mapreduce和Spanner服務都是在這個基礎上構建的,所以Chubby實際上是Google分散式事務的基礎,具有非常高的參考價值。另外,著名的zookeeper就是基於Chubby的開源實現.推薦The google stack,Youtube:The Chubby lock service for loosely-coupled distributed systems

介紹:這篇論文是SOSP2007的Best Paper,闡述了一種構建分散式檔案系統的正規化方法,個人感覺非常有用。淘寶在構建TFS、OceanBase和Tair這些系統時都充分參考了這篇論文.

介紹:Ebook:Data-Intensive Text Processing with MapReduce.

介紹:Design and Implementation of a Query Processor for a Trusted Distributed Data Base Management System.

介紹:分散式查詢入門.

介紹:分散式系統和api總結.

介紹:分散式系統閱讀論文,此外還推薦github上面的一個論文列表The Distributed Reader

介紹:Replication, atomicity and order in distributed systems

介紹:2017年MIT分散式系統課程主頁,用Golang作為授課語言。6.824 Distributed Systems課程主頁.課程的課堂測試Past Exams可以很好的考察學習的結果。對於學習分散式系統比較推薦這個課程

介紹:免費分散式系統電子書。

介紹:史丹佛開源的分散式檔案系統。

介紹:Google論文:設計一個高可用的全球分散式儲存系統。

介紹:對於分割槽資料庫的分散式事務處理。

介紹:Distributed Systems Building Block: Flake Ids.

介紹:Google Code University課程,如何設計一個分散式系統。

介紹:KVM的分散式儲存系統.

介紹:分散式系統課程列表,包括資料庫、演算法等.

介紹:來自百度的分散式表格系統.

介紹:分散式系統的線上電子書.

介紹:分散式系統資料,此外還推薦Various articles about distributed systems.

介紹:Designs, Lessons and Advice from Building Large Distributed Systems.

介紹:Testing a distributed system can be trying even under the best of circumstances.

介紹: 基於普通伺服器構建超大規模檔案系統的典型案例,主要面向大檔案和批處理系統, 設計簡單而實用。 GFS是google的重要基礎設施, 大資料的基石, 也是Hadoop HDFS的參考物件。 主要技術特點包括: 假設硬體故障是常態(容錯能力強), 64MB大塊, 單Master設計,Lease/鏈式複製, 支援追加寫不支援隨機寫.

介紹:支援PB資料量級的多維非關係型大表, 在google內部應用廣泛,大資料的奠基作品之一 , Hbase就是參考BigTable設計。 Bigtable的主要技術特點包括: 基於GFS實現資料高可靠, 使用非原地更新技術(LSM樹)實現資料修改, 通過range分割槽並實現自動伸縮等.中文版

介紹:面向log-based儲存的強一致的主從複製協議, 具有較強實用性。 這篇文章系統地講述了主從複製系統應該考慮的問題, 能加深對主從強一致複製的理解程度。 技術特點: 支援強一致主從複製協議, 允許多種儲存實現, 分散式的故障檢測/Lease/叢集成員管理方法.

介紹:分散式儲存論文:支援強一直的鏈式複製方法, 支援從多個副本讀取資料,實現code.

介紹:Facebook分散式Blob儲存,主要用於儲存圖片. 主要技術特色:小檔案合併成大檔案,小檔案後設資料放在記憶體因此讀寫只需一次IO.

介紹: 微軟的分散式儲存平臺, 除了支援類S3物件儲存,還支援表格、佇列等資料模型. 主要技術特點:採用Stream/Partition兩層設計(類似BigTable);寫錯(寫滿)就封存Extent,使得副本位元組一致, 簡化了選主和恢復操作; 將S3物件儲存、表格、佇列、塊裝置等融入到統一的底層儲存架構中.

介紹:從工程實現角度說明了Paxo在chubby系統的應用, 是理解Paxo協議及其應用場景的必備論文。 主要技術特點: paxo協議, replicated log, multi-paxo.參考閱讀:關於Paxos的歷史

介紹:Amazon設計的高可用的kv系統,主要技術特點:綜和運用一致性雜湊,vector clock,最終一致性構建一個高可用的kv系統, 可應用於amazon購物車場景.新內容來自分散式儲存必讀論文

介紹:分散式儲存系統中的副本儲存問題.

介紹:分散式儲存系統架構.

介紹:開源分散式檔案系統Chirp,對於想深入研究的開發者可以閱讀文章的相關Papers.

介紹:經典論文分散式時鐘順序的實現原理.

介紹:面向軟體錯誤構建可靠的分散式系統,中文筆記.

介紹:MapReduce:超大叢集的簡單資料處理.

介紹:麻省理工的分散式計算課程主頁,裡面的ppt和閱讀列表很多幹貨.

介紹:分散式系統Styx的架構剖析.

介紹:Quora上面的一個問答:有哪些關於分散式計算學習的好資源.

介紹:下一代分散式k-v儲存資料庫.

介紹:分散式系統歸根結底還是需要作業系統的知識,這是耶魯大學的作業系統概念書籍首頁,裡面有提供了第8版的線上電子版和最新的學習作業系統指南,學習分散式最好先學習作業系統.

介紹:分散式系統Log剖析,非常的詳細與精彩. 中文翻譯 | 中文版筆記.

介紹:分散式系統基礎之作業系統學習指南.

介紹:分散式系統領域經典論文翻譯集.

介紹:分散式系統效能維護.

介紹:電腦科學,自底向上,小到機器碼,大到作業系統內部體系架構,學習作業系統的另一個線上好材料.

介紹:<作業系統:三部曲>線上電子書,虛擬、併發、持續.

介紹:資料庫系統經典論文閱讀列,此外推送github上面的db reading.

介紹:Unix System Administration ebook.

介紹:分散式系統經典論文.

介紹:計算機系統概念,以分散式為主.此外推薦Introduction to Operating Systems筆記

介紹:推薦康奈爾大學的教授EMİN GÜN SİRER的主頁,他的研究專案有分散式,資料儲存。例如HyperDex資料庫就是他的其中一個專案之一.

介紹:來自卡內基梅隆如何構建可擴充套件的、安全、高可用性的分散式檔案系統,其他papers.

介紹:分散式機器學習常用庫.

介紹:介紹瞭如何構建倉儲式資料中心,尤其是對於現在的雲端計算,分散式學習來說很有幫助.本書是Synthesis Lectures on Computer Architecture系列的書籍之一,這套叢書還有 《The Memory System》,《Automatic Parallelization》,《Computer Architecture Techniques for Power Efficiency》,《Performance Analysis and Tuning for General Purpose Graphics Processing Units》,《Introduction to Reconfigurable Supercomputing》,Memory Systems Cache, DRAM, Disk 等

介紹:來自芬蘭赫爾辛基的分散式系統課程課件:什麼是分散式,複製,一致性,容錯,同步,通訊.

介紹:分散式資料庫TiDB,Golang開發.

介紹:課程資料:大規模系統.

介紹:使用MapReduce進行大規模分散式叢集環境下並行L-BFGS.

介紹:Twitter是如何構建高效能分散式日誌的.

介紹:在分散式系統中某個元件徹底死了影響很小,但半死不活(網路/磁碟),對整個系統卻是毀滅性的.

介紹:來自百度的分散式資料庫.

介紹:SequoiaDB分散式文件資料庫開源.

介紹:這個網址裡收集了一堆各TOP大學分散式相關的課程.

介紹:這個網站是Raft演算法的作者為教授Paxos和Raft演算法做的,其中有兩個視訊連結,分別講上述兩個演算法.參考閱讀:關於Paxos的歷史

介紹:A Scalable Content-Addressable Network.

介紹:這個專案其實是一本書( The Architecture of Open Source Applications)的原始碼附錄,是一堆大牛合寫的.

介紹:這只是一個課程主頁,沒有上課的視訊,但是並不影響你跟著它上課:每一週讀兩篇課程指定的論文,讀完之後看lecture-notes裡對該論文內容的討論,回答裡面的問題來加深理解,最後在課程lab裡把所看的論文實現。當你把這門課的作業刷完後,你會發現自己實現了一個分散式資料庫.

介紹:使用go開發的分散式檔案系統.

介紹:Quora上關於學習分散式的資源問答.

介紹:SeaweedFS是使用go開發的分散式檔案系統專案,程式碼簡單,邏輯清晰.

介紹:Codis 是一個分散式 Redis 解決方案, 對於上層的應用來說, 連線到 Codis Proxy 和連線原生的 Redis Server 沒有明顯的區別

介紹:Coordination Avoidance In Distributed Databases.

介紹:本文以TiDB 原始碼為例.

介紹:分散式系統概念梳理,為分散式系統涉及的主要概念進行了梳理.

介紹:使用Redis實現分散式鎖.

介紹: 史丹佛2014年秋季分散式課程.

介紹: 分散式的“讀原子性”.

介紹: 大資料分散式機器學習的策略與原理.

介紹: 分散式CAP法則.

介紹: 新手如何步入分散式儲存系統.

介紹: 分散式儲存系統Cassandra剖析,推薦白皮書Introduction to Apache Cassandra.

介紹: 分散式系統學習資源.

介紹: 一些高效能TCP黑客技巧.

介紹:分散式系統效能提升.

介紹:Benjamin Reed 和 Flavio P.Junqueira 所著論文,對Zab演算法進行了介紹,zab演算法是Zookeeper保持資料一致性的核心,在國內有很多公司都使用zookeeper做為分散式的解決方案.推薦與此相關的一篇文章ZooKeeper’s atomic broadcast protocol: Theory and practice.

介紹:可擴充套件的分散式檔案系統ZFS,The Zettabyte File System,End-to-end Data Integrity for File Systems: A ZFS Case Study.

介紹:分散式Haskell在當前web中的應用.

介紹:POPL2016的論文,關於分散式系統一致性選擇的論述,POPL所接受的論文,github上已經有人整理.

介紹:Paxos讓分散式更簡單.譯文.參考閱讀:關於Paxos的歷史,understanding Paxos part1,Understanding Paxos – Part 2.Quora: What is a simple explanation of the Paxos algorithm?,Tutorial Summary: Paxos Explained from Scratch,Paxos algorithm explained, part 1: The essentials,Paxos algorithm explained, part 2: Insights

介紹:分散式系統一致性協議:Paxos.參考閱讀:關於Paxos的歷史

介紹:事務提交的一致性探討.

介紹:在《The Part-Time Parliament》中描述了基本協議的互動過程。在基本協議的基礎上完善各種問題得到了最終的議會協議。 為了讓人更容易理解《The Part-Time Parliament》中描述的Paxos演算法,Lamport在2001發表了《Paxos Made Simple》,以更平直的口頭語言描述了Paxos,而沒有包含正式的證明和數學術語。《Paxos Made Simple》中,將演算法的參與者更細緻的劃分成了幾個角色:Proposer、Acceptor、Learner。另外還有Leader和Client.參考閱讀:關於Paxos的歷史

介紹:看這篇論文時可以先看看理解Paxos Made Practical.

介紹:PaxosLease:實現租約的無盤Paxos演算法,譯文.

介紹:Paxos演算法實現,譯文,同時推薦42 Paxos Made Moderately Complex.

介紹:Hadoop學習清單.

介紹:Hadoop學習清單.

介紹:NoSQL知識清單,裡面不僅僅包含了資料庫閱讀清單還包含了分散式系統資料.

介紹:aft 是一種用來管理日誌複製的一致性演算法。它和 Paxos 的效能和功能是一樣的,但是它和 Paxos 的結構不一樣;這使得 Raft 更容易理解並且更易於建立實際的系統。中文版

介紹:Raft視覺化圖幫助理解分散式一致性

介紹:Etcd分散式Key-Value儲存引擎

介紹:理解peer-to-peer系統中的可用性究竟是指什麼.同時推薦基於 Peer-to-Peer 的分散式儲存系統的設計

介紹:經典論文

介紹:並行處理的程式設計語音

介紹:此篇論文對HDFS,MooseFS,iRODS,Ceph,GlusterFS,Lustre六個儲存系統做了詳細分析.如果是自己研發對應的儲存系統推薦先閱讀此篇論文

介紹:分散式檔案系統綜述

介紹:並行程式設計的概念,同時推薦卡內基梅隆工程師數字圖書館

介紹:併發控制效能建模:選擇與意義

介紹:ebook分散式系統概念與設計

介紹:分散式系統設計的形式方法

介紹:互斥和選舉演算法

介紹:經典論文

介紹:如何構建一個安全可靠的分散式系統,About the Author,Bibliography:文獻資料,章節訪問把連結最後的01換成01-27即可

介紹:卡內基梅隆大學的分散式系統博士生課程主頁,有很豐富的資料

介紹:Dapper,大規模分散式系統的跟蹤系統,譯文,譯文對照

介紹:伯克利大學計算機系統進階課程,內容有深度,涵蓋分散式,資料庫等內容

介紹:PB級分散式系統構建/擴充套件經驗

介紹:伯克利大學計算機系統課程:作業系統與系統程式設計

介紹:MDCC主要解決跨資料中心的一致性問題中介軟體,一種新的協議

介紹:google公開對外發表的分散式系統與平行計算論文

介紹:分散式檔案系統HDFS架構

介紹:分散式 Key/Value資料庫

介紹:是著名的Ceph的負載平衡策略,文中提出的幾種策略都值得嘗試,比較讚的一點是可以對照程式碼體會和實踐,如果你還需要了解可以看看Ceph:一個 Linux PB 級分散式檔案系統,除此以外,論文的引用部分也挺值得閱讀的,同時推薦Ceph: A Scalable, High-Performance Distributed File System

介紹:Surrento的冷熱平衡策略就採用了延遲寫技術

介紹:對於分散式儲存系統的後設資料管理.

介紹:伺服器端的I/O協調並行檔案系統處理,網路,檔案儲存等都會涉及到IO操作.不過裡面涉及到很多技巧性的思路在實踐時需要斟酌

介紹:分散式檔案系統概念與應用

介紹:加利福尼亞大學的研究生作業系統課程主頁,論文很值得閱讀

介紹:Yahoo出品的流式計算系統,目前最流行的兩大流式計算系統之一(另一個是storm),Yahoo的主要廣告計算平臺

介紹:Google的大規模圖計算系統,相當長一段時間是Google PageRank的主要計算系統,對開源的影響也很大(包括GraphLab和GraphChi)

介紹:CMU基於圖計算的分散式機器學習框架,目前已經成立了專門的商業公司,在分散式機器學習上很有兩把刷子,其單機版的GraphChi在百萬維度的矩陣分解都只需要2~3分鐘;

介紹:這篇論文是Google 2013年發表的,介紹了F1的架構思路,13年時就開始支撐Google的AdWords業務,另外兩篇介紹文章F1 - The Fault-Tolerant Distributed RDBMS Supporting Google's Ad Business .Google NewSQL之F1

介紹:CockroachDB :一個可伸縮的、跨地域複製的,且支援事務的資料儲存,InfoQ介紹,Design and Architecture of CockroachDb

  • 《Multi-Paxos: An Implementation and Evaluation》

介紹:Multi-Paxos實現與總結,此外推薦Paxos/Multi-paxos Algorithm,Multi-Paxos Example,地址:ftp://ftp.cs.washington.edu/tr/2009/09/UW-CSE-09-09-02.PDF

介紹:一致性協議zab分析

介紹:分散式雜湊演算法論文,擴充套件閱讀Introduction to Distributed Hash Tables,Distributed Hash Tables

介紹:分散式hash表效能的Churn問題

介紹:分散式系統的CAP問題,推薦Perspectives on the CAP Theorem.對CAP理論的解析文章,PODC ppt,A plain english introduction to CAP Theorem,IEEE Computer issue on the CAP Theorem

介紹:快閃記憶體儲存檔案系統F2FS

介紹:微軟發表的關於i/o訪問優化論文

介紹:虛擬記憶體檔案系統tmpfs

介紹:Linux B-tree檔案系統.

介紹:Akamai是全球最大的雲端計算機平臺之一,承載了全球15-30%網路流量,如果你是做CDN或者是雲服務,這個裡面的論文會給你很有幫助.例如這幾天看facebook開源的osquery。找到通過db的方式運維,找到Keeping Track of 70,000+ Servers: The Akamai Query System這篇論文,先看論文領會思想,然後再使用工具osquery實踐

介紹:來自eBay 的解決方案,譯文Base: 一種Acid的替代方案,應用案例參考保證分散式系統資料一致性的6種方案

介紹:Jim Waldo和Sam Kendall等人共同撰寫了一篇非常有名的論文“分散式計算備忘錄”,這篇論文在Reddit上被人推薦為“每個程式設計師都應當至少讀上兩篇”的論文。在這篇論文中,作者表示“忽略本地計算與分散式計算之間的區別是一種危險的思想”,特別指出了Emerald、Argus、DCOM以及CORBA的設計問題。作者將這些設計問題歸納為“三個錯誤的原則”: “對於某個應用來說,無論它的部署環境如何,總有一種單一的、自然的物件導向設計可以符合其需求。” “故障與效能問題與某個應用的元件實現直接相關,在最初的設計中無需考慮這些問題。” “物件的介面與使用物件的上下文無關”.

介紹:分散式系統領域經典論文列表.

介紹:Consistent Hashing演算法描述.

介紹:SIGMOD是世界上最有名的資料庫會議之一,最具有權威性,收錄論文稽核非常嚴格.2016年的SIGMOD 會議照常進行,上面收錄了今年SIGMOD收錄的論文,把題目輸入google中加上pdf就能找到,很多論文值得閱讀,SIGMOD 2015

介紹:耶魯大學的分散式系統理論課程筆記

介紹:分散式系統文件資源(可下載)

介紹:資料庫系統剖析,這本書是由伯克利大學的Joseph M. Hellerstein和M. Stonebraker合著的一篇論文.對資料庫剖析很有深度.除此以外還有一篇文章Architecture of a Database System。資料庫系統架構,廈門大學的資料庫實驗室教授林子雨組織過翻譯

介紹:資料庫關係模型論文

介紹:中國人民大學資料研究實驗室推薦的資料庫領域論文

介紹:構建可擴充套件的分散式資訊管理系統

介紹:Haskell中的分散式系統開發

介紹:Google使用Borg進行大規模叢集的管理,伯克利大學ppt介紹,中文版

介紹:併發程式設計(Concurrency Programming)資料,主要涵蓋lock free資料結構實現、記憶體回收方法、memory model等備份連結 密碼: xc5j

介紹:Nancy Lynch's的分散式演算法研究生課程講義

介紹:分散式演算法主題模型.

介紹:世界上非常有名的推薦系統會議,我比較推薦接收的PAPER

介紹:推薦一個部落格,博主是Amazon CTO Werner Vogels,這是一個關注分散式領域的部落格.大部分博文是關於在工業界應用.

介紹:這個Git是由阿里(alibaba)的技術專家何登成維護,主要是分散式資料庫.

介紹:Erlang的作者Joe Armstrong撰寫的論文,面對軟體錯誤構建可靠的分散式系統.中文譯版

介紹:伊利諾伊大學的Advanced Distributed Systems 裡把各個方向重要papers(updated Spring 2015)列舉出來,可以參考一下

介紹:這是一本分散式演算法電子書,作者是Jukka Suomela.講述了多個計算模型,一致性,唯一標示,併發等.

介紹:當時是在閱讀如何設計一個快取系統時看到的,然後通過Google找到了這一篇關於快取策略的論文,它是LFU的改良版,中文介紹.如果有興趣可以看看Golang實現版。結合起來可能會幫助你理解

介紹:史丹佛大學給研究生開的分散式系統課程。教師是 spark 作者 matei. 能把這些內容真正理解透,分散式系統的功力就很強了。

介紹:[怎麼學系列]學習分散式系統需要怎樣的知識?

介紹:分散式系統工程師的分散式系統理論

介紹:分散式系統論文閱讀列表,此外推薦威斯康星大學麥迪遜分校計算機系分散式系統學習推薦閱讀列表

介紹:麻省理工大學分散式系統小組,他們會把平時閱讀到的優秀論文分享出來。雖然有些論文字頁已經收錄,但是裡面的安排表schedule還是挺讚的

介紹:分散式系統、可擴充套件性與系統設計相關報告、論文與網路資源彙總.

介紹:MapReduce&Hadoop相關論文,涉及分散式系統設計,效能分析,實踐,優化等多個方面

介紹:分散式系統原理與範型第二版,課後解答

介紹:分散式系統研討會論文閱讀列表

介紹:這是一篇評論CAP定理的論文,學習CAP很有幫助,推薦閱讀評論文章"A Critique of the CAP Theorem"

介紹:推薦文章《不斷演進的分散式系統》.

介紹:HN上面關於分散式系統相關領域學習的書籍推薦.

介紹:Golang開源專案,分散式檔案儲存系統SeaweedFS

介紹:論文推薦:設計並實現一個日誌結構的檔案系統.

介紹:資料庫系統的設計與實現,卡內基梅隆大學在2016年春季資料庫課程以本書作為教材,並且向外界開放了Schedule.引用一段亞馬遜上面的購書評論:

這本書主要集中在基本的資料庫實現方面。看起來很理論,但實際上作者提到的點都有實際的考慮。這一點在寫完相關程式碼後重新閱讀感觸尤深。但如果不經過自己的思考和實踐,這本書實際上讀起來仍是“看起來就是那麼回事”的感覺。

不得不說,這本書其實應該是所有進行資料庫應用開發的人必讀的一本書。大部分資料庫裡面的概念,書本都有從實際的需求中引匯出,一目瞭然。大部分的教材,在提到資料庫的各種概念時,往往是有定義而無解釋為何有這種定義。

介紹:原文主要講述了CAP理論中C在實踐中的重要性。做分散式系統的都知道CAP只能三選其二。而且目前很多基礎設定服務(雲端儲存,雲資料)都無法保證100%可用,那麼就是間接的丟掉了A,推薦閱讀以下文末推薦的You Can’t Sacrifice Partition Tolerance,分割槽容錯也很重要

介紹:Verdi是一套正規驗證分散式系統,開源的專案中有對raft協議實現。Verdi是通過TLA+ 和Coq 等形式方法對系統進行驗證

介紹:學習分散式系統需要怎樣的知識?

介紹:Facebook設計的分散式資料 圖資料庫

介紹:分散式系統初學者資源.

介紹:從0開始構建一個分散式日誌。第一部分主要是講日誌的儲存,截止到現在已經寫到資料複製擴容之日誌消耗權衡與思考快速實戰。另外推薦作者寫的現實世界中的分散式系統推論

介紹:伊利諾伊大學分散式系統進階課程,涉及內容雲的前世今生,大公司的在分散式計算上的工作(Mapreduce參考)、P2P系統滾、KV儲存、基本的分散式演算法(時鐘同步,鎖)、強一致性、分散式在機器學習上的應用、流處理、認證、事務處理、儲存與複製、最終一致性、圖處理、叢集排程、分散式系統bug跟蹤和效能測試、安全、快取。

介紹:這篇文章沒有理論,適合新手閱讀分散式系統實踐筆記

介紹:基於容器的分散式系統設計模式,文中提到了,單容器模式,所有的服務都整合在一個容器裡面。單節點多容器模式,類似於kubernetes的Pods(任務組)。一個服務跨多個容器。對於這種模式可以分為Sidecar模式:譬如一個Web服務。Web由一個容器提供,日誌處理由一個Logsaver容器提供。Ambassador模式(外交官模式)類似於SLB的設計模式,中間有一個代理容器用來分發功能到子容器。Adapter模式(介面卡模式)主要是目的是想分佈的執行和儲存,統一的監控和管理。有點類似監控系統的設計,日誌資料的輸入不一,但是統一結果輸出。多節點應用模式:這個分為選主模式(核心是選主演算法)。Work Queue模式(工作佇列模式)類似大規模電商系統的訂單處理設計。Scatter/gather模式:有點類似MapRedue架構,分片處理,最後彙總結果。文章推薦容器設計模式

介紹: 在處理分散式系統的時候,很多經驗告訴我們要儘量讓服務無狀態。而在實際分散式系統中,有狀態的服務是一致存在的。例如訊息佇列、資料庫儲存服務。本文介紹瞭如何構建有狀態的服務,如果保證有狀態化服務的高可用。

介紹:使用Maximizing Hit Density提高快取命中.

介紹:混沌工程是在分散式系統上進行實驗的學科, 目的是建立對系統抵禦生產環境中失控條件的能力以及信心。 大規模分散式軟體系統的發展正在改變軟體工程。作為一個行業,我們很快採用了提高開發靈活性和部署速度的實踐。緊跟著這些好處的一個緊迫問題是:我們對投入生產的複雜系統中有多少信心?

介紹:Google SRE 講解分散式系統Paxos演算法。

介紹:Andy Pavlo組織的時序資料庫系列演講分享,InfluxDB儲存引擎、QuasarDB內部剖析、TimescaleDB成長、Two Sigma時序資料庫實踐。

介紹:Andy Pavlo在卡內基梅隆大學的高階資料庫課程,以論文導讀的形式。有視訊。併發控制,樂觀併發控制、多版本併發控制、OLAP索引、資料庫壓縮、儲存模型、日誌協議、檢查點協議、優化器的實現、執行計劃、並行join、查詢編譯、記憶體資料庫

相關文章