Redis
是一個基於記憶體中的資料結構儲存系統,可以用作資料庫、快取和訊息中介軟體。Redis
支援五種常見物件型別:字串(String
)、雜湊(Hash
)、列表(List
)、集合(Set
)以及有序集合(Zset
),我們在日常工作中也會經常使用它們。知其然,更要知其所以然,本文將會帶你讀懂這五種常見物件型別的底層資料結構。
本文主要內容參考自《Redis設計與實現》
物件型別和編碼
Redis
使用物件來儲存鍵和值的,在Redis
中,每個物件都由redisObject
結構表示。redisObject
結構主要包含三個屬性:type
、encoding
和ptr
。
typedef struct redisObject {
// 型別
unsigned type:4;
// 編碼
unsigned encoding:4;
// 底層資料結構的指標
void *ptr;
} robj;
其中type
屬性記錄了物件的型別,對於Redis
來說,鍵物件總是字串型別,值物件可以是任意支援的型別。因此,當我們說Redis
鍵採用哪種物件型別的時候,指的是對應的值採用哪種物件型別。
型別常量 | 物件型別名稱 |
---|---|
REDIS_STRING | 字串物件 |
REDIS_LIST | 列表物件 |
REDIS_HASH | 雜湊物件 |
REDIS_SET | 集合物件 |
REDIS_ZSET | 有序集合物件 |
*ptr
屬性指向了物件的底層資料結構,而這些資料結構由encoding
屬性決定。
編碼常量 | 編碼對應的底層資料結構 |
---|---|
REDIS_ENCODING_INT | long型別的整數 |
REDIS_ENCODING_EMBSTR | emstr編碼的簡單動態字串 |
REDIS_ENCODING_RAW | 簡單動態字串 |
REDIS_ENCODING_HT | 字典 |
REDIS_ENCODING_LINKEDLIST | 雙端連結串列 |
REDIS_ENCODING_ZIPLIST | 壓縮列表 |
REDIS_ENCODING_INTSET | 整數集合 |
REDIS_ENCODING_SKIPLIST | 跳躍表和字典 |
之所以由encoding
屬性來決定物件的底層資料結構,是為了實現同一物件型別,支援不同的底層實現。這樣就能在不同場景下,使用不同的底層資料結構,進而極大提升Redis
的靈活性和效率。
底層資料結構後面會詳細講解,這裡簡單看一下即可。
字串物件
字串是我們日常工作中用得最多的物件型別,它對應的編碼可以是int
、raw
和embstr
。字串物件相關命令可參考:Redis命令-Strings。
如果一個字串物件儲存的是不超過long
型別的整數值,此時編碼型別即為int
,其底層資料結構直接就是long
型別。例如執行set number 10086
,就會建立int
編碼的字串物件作為number
鍵的值。
如果字串物件儲存的是一個長度大於39位元組的字串,此時編碼型別即為raw
,其底層資料結構是簡單動態字串(SDS
);如果長度小於等於39個位元組,編碼型別則為embstr
,底層資料結構就是embstr
編碼SDS
。下面,我們詳細理解下什麼是簡單動態字串。
簡單動態字串
SDS定義
在Redis
中,使用sdshdr
資料結構表示SDS
:
struct sdshdr {
// 字串長度
int len;
// buf陣列中未使用的位元組數
int free;
// 位元組陣列,用於儲存字串
char buf[];
};
SDS
遵循了C字串以空字元結尾的慣例,儲存空字元的1位元組不會計算在len
屬性裡面。例如,Redis
這個字串在SDS
裡面的資料可能是如下形式:
SDS與C字串的區別
C語言使用長度為N+1
的字元陣列來表示長度為N
的字串,並且字串的最後一個元素是空字元\0
。Redis
採用SDS
相對於C字串有如下幾個優勢:
- 常數複雜度獲取字串長度
- 杜絕緩衝區溢位
- 減少修改字串時帶來的記憶體重分配次數
- 二進位制安全
常數複雜度獲取字串長度
因為C字串並不記錄自身的長度資訊,所以為了獲取字串的長度,必須遍歷整個字串,時間複雜度是O(N)
;而SDS
使用len
屬性記錄了字串的長度,因此獲取SDS
字串長度的時間複雜度是O(1)
。
杜絕緩衝區溢位
C字串不記錄自身長度帶來的另一個問題是很容易造成快取區溢位。比如使用字串拼接函式(stract
)的時候,很容易覆蓋掉字元陣列原有的資料。與C字串不同,SDS
的空間分配策略完全杜絕了發生快取區溢位的可能性。當SDS
進行字串擴充時,首先會檢查當前的位元組陣列的長度是否足夠,如果不夠的話,會先進行自動擴容,然後再進行字串操作。
減少修改字串時帶來的記憶體重分配次數
因為C字串的長度和底層資料是緊密關聯的,所以每次增長或者縮短一個字串,程式都要對這個陣列進行一次記憶體重分配:
- 如果是增長字串操作,需要先通過記憶體重分配來擴充套件底層陣列空間大小,不這麼做就導致快取區溢位。
- 如果是縮短字串操作,需要先通過記憶體重分配來來回收不再使用的空間,不這麼做就導致記憶體洩漏。
因為記憶體重分配涉及複雜的演算法,並且可能需要執行系統呼叫,所以通常是個比較耗時的操作。對於Redis
來說,字串修改是一個十分頻繁的操作,如果每次都像C字串那樣進行記憶體重分配,對效能影響太大了,顯然是無法接受的。
SDS
通過空閒空間解除了字串長度和底層資料之間的關聯。在SDS
中,陣列中可以包含未使用的位元組,這些位元組數量由free
屬性記錄。通過空閒空間,SDS
實現了空間預分配和惰性空間釋放兩種優化策略。
- 空間預分配
空間預分配是用於優化SDS
字串增長操作的,簡單來說就是當位元組陣列空間不足觸發重分配的時候,總是會預留一部分空閒空間。這樣的話,就能減少連續執行字串增長操作時的記憶體重分配次數。有兩種預分配的策略:len
小於1MB
時:每次重分配時會多分配同樣大小的空閒空間;len
大於等於1MB
時:每次重分配時會多分配1MB大小的空閒空間。
- 惰性空間釋放
惰性空間釋放是用於優化SDS
字串縮短操作的,簡單來說就是當字串縮短時,並不立即使用記憶體重分配來回收多出來的位元組,而是用free屬性記錄,等待將來使用。SDS
也提供直接釋放未使用空間的API
,在需要的時候,也能真正的釋放掉多餘的空間。
二進位制安全
C字串中的字元必須符合某種編碼,並且除了字串末尾之外,其它位置不允許出現空字元,這些限制使得C字串只能儲存文字資料。但是對於Redis
來說,不僅僅需要儲存文字,還要支援儲存二進位制資料。為了實現這一目標,SDS
的API
全部做到了二進位制安全(binary-safe
)。
raw和embstr編碼的SDS區別
我們在前面講過,長度大於39位元組的字串,編碼型別為raw
,底層資料結構是簡單動態字串(SDS
)。這個很好理解,比如當我們執行set story "Long, long, long ago there lived a king ..."
(長度大於39)之後,Redis
就會建立一個raw
編碼的String
物件。資料結構如下:
長度小於等於39個位元組的字串,編碼型別為embstr
,底層資料結構則是embstr
編碼SDS
。embstr
編碼是專門用來儲存短字串的,它和raw
編碼最大的不同在於:raw
編碼會呼叫兩次記憶體分配分別建立redisObject
結構和sdshdr
結構,而embstr
編碼則是隻呼叫一次記憶體分配,在一塊連續的空間上同時包含redisObject
結構和sdshdr
結構。
編碼轉換
int
編碼和embstr
編碼的字串物件在條件滿足的情況下會自動轉換為raw
編碼的字串物件。
對於int
編碼來說,當我們修改這個字串為不再是整數值的時候,此時字串物件的編碼就會從int
變為raw
;對於embstr
編碼來說,只要我們修改了字串的值,此時字串物件的編碼就會從embstr
變為raw
。
embstr
編碼的字串物件可以認為是隻讀的,因為Redis
為其編寫任何修改程式。當我們要修改embstr
編碼字串時,都是先將轉換為raw
編碼,然後再進行修改。
列表物件
列表物件的編碼可以是linkedlist
或者ziplist
,對應的底層資料結構是連結串列和壓縮列表。列表物件相關命令可參考:Redis命令-List。
預設情況下,當列表物件儲存的所有字串元素的長度都小於64位元組,且元素個數小於512個時,列表物件採用的是ziplist
編碼,否則使用linkedlist
編碼。
可以通過配置檔案修改該上限值。
連結串列
連結串列是一種非常常見的資料結構,提供了高效的節點重排能力以及順序性的節點訪問方式。在Redis
中,每個連結串列節點使用listNode
結構表示:
typedef struct listNode {
// 前置節點
struct listNode *prev;
// 後置節點
struct listNode *next;
// 節點值
void *value;
} listNode
多個listNode
通過prev
和next
指標組成雙端連結串列,如下圖所示:
為了操作起來比較方便,Redis
使用了list
結構持有連結串列。
typedef struct list {
// 表頭節點
listNode *head;
// 表尾節點
listNode *tail;
// 連結串列包含的節點數量
unsigned long len;
// 節點複製函式
void *(*dup)(void *ptr);
// 節點釋放函式
void (*free)(void *ptr);
// 節點對比函式
int (*match)(void *ptr, void *key);
} list;
list結構為連結串列提供了表頭指標head
、表尾指標tail
,以及連結串列長度計數器len
,而dup
、free
和match
成員則是實現多型連結串列所需型別的特定函式。
Redis
連結串列實現的特徵總結如下:
- 雙端:連結串列節點帶有
prev
和next
指標,獲取某個節點的前置節點和後置節點的複雜度都是O(n)
。 - 無環:表頭節點的
prev
指標和表尾節點的next
指標都指向NULL
,對連結串列的訪問以NULL
為終點。 - 帶表頭指標和表尾指標:通過
list
結構的head
指標和tail
指標,程式獲取連結串列的表頭節點和表尾節點的複雜度為O(1)
。 - 帶連結串列長度計數器:程式使用
list
結構的len
屬性來對list
持有的節點進行計數,程式獲取連結串列中節點數量的複雜度為O(1)
。 - 多型:連結串列節點使用
void*
指標來儲存節點值,可以儲存各種不同型別的值。
壓縮列表
壓縮列表(ziplist
)是列表鍵和雜湊鍵的底層實現之一。壓縮列表主要目的是為了節約記憶體,是由一系列特殊編碼的連續記憶體塊組成的順序型資料結構。一個壓縮列表可以包含任意多個節點,每個節點可以儲存一個位元組陣列或者一個整數值。
如上圖所示,壓縮列表記錄了各組成部分的型別、長度以及用途。
屬性 | 型別 | 長度 | 用途 |
---|---|---|---|
zlbytes | uint_32_t | 4位元組 | 記錄整個壓縮列表佔用的記憶體位元組數 |
zltail | uint_32_t | 4位元組 | 記錄壓縮列表表尾節點距離起始地址有多少位元組,通過這個偏移量,程式無需遍歷整個壓縮列表就能確定表尾節點地址 |
zlen | uint_16_t | 2位元組 | 記錄壓縮列表包含的節點數量 |
entryX | 列表節點 | 不定 | 壓縮列表的各個節點,節點長度由儲存的內容決定 |
zlend | uint_8_t | 1位元組 | 特殊值(0xFFF ),用於標記壓縮列表末端 |
雜湊物件
雜湊物件的編碼可以是ziplist
或者hashtable
。
hash-ziplist
ziplist
底層使用的是壓縮列表實現,上文已經詳細介紹了壓縮列表的實現原理。每當有新的鍵值對要加入雜湊物件時,先把儲存了鍵的節點推入壓縮列表表尾,然後再將儲存了值的節點推入壓縮列表表尾。比如,我們執行如下三條HSET
命令:
HSET profile name "tom"
HSET profile age 25
HSET profile career "Programmer"
如果此時使用ziplist
編碼,那麼該Hash
物件在記憶體中的結構如下:
hash-hashtable
hashtable
編碼的雜湊物件使用字典作為底層實現。字典是一種用於儲存鍵值對的資料結構,Redis
的字典使用雜湊表作為底層實現,一個雜湊表裡面可以有多個雜湊表節點,每個雜湊表節點儲存的就是一個鍵值對。
雜湊表
Redis
使用的雜湊表由dictht
結構定義:
typedef struct dictht{
// 雜湊表陣列
dictEntry **table;
// 雜湊表大小
unsigned long size;
// 雜湊表大小掩碼,用於計算索引值
// 總是等於 size-1
unsigned long sizemask;
// 該雜湊表已有節點數量
unsigned long used;
} dictht
table
屬性是一個陣列,陣列中的每個元素都是一個指向dictEntry
結構的指標,每個dictEntry
結構儲存著一個鍵值對。size
屬性記錄了雜湊表的大小,即table
陣列的大小。used
屬性記錄了雜湊表目前已有節點數量。sizemask
總是等於size-1
,這個值主要用於陣列索引。比如下圖展示了一個大小為4的空雜湊表。
雜湊表節點
雜湊表節點使用dictEntry
結構表示,每個dictEntry
結構都儲存著一個鍵值對:
typedef struct dictEntry {
// 鍵
void *key;
// 值
union {
void *val;
unit64_t u64;
nit64_t s64;
} v;
// 指向下一個雜湊表節點,形成連結串列
struct dictEntry *next;
} dictEntry;
key
屬性儲存著鍵值對中的鍵,而v
屬性則儲存了鍵值對中的值。值可以是一個指標,一個uint64_t
整數或者是int64_t
整數。next
屬性指向了另一個dictEntry
節點,在陣列桶位相同的情況下,將多個dictEntry
節點串聯成一個連結串列,以此來解決鍵衝突問題。(鏈地址法)
字典
Redis
字典由dict
結構表示:
typedef struct dict {
// 型別特定函式
dictType *type;
// 私有資料
void *privdata;
// 雜湊表
dictht ht[2];
//rehash索引
// 當rehash不在進行時,值為-1
int rehashidx;
}
ht
是大小為2,且每個元素都指向dictht
雜湊表。一般情況下,字典只會使用ht[0]
雜湊表,ht[1]
雜湊表只會在對ht[0]
雜湊表進行rehash
時使用。rehashidx
記錄了rehash
的進度,如果目前沒有進行rehash,值為-1。
rehash
為了使hash表的負載因子(ht[0]).used
/ht[0]).size
)維持在一個合理範圍,當雜湊表儲存的元素過多或者過少時,程式需要對hash表進行相應的擴充套件和收縮。rehash
(重新雜湊)操作就是用來完成hash表的擴充套件和收縮的。rehash的步驟如下:
- 為
ht[1]
雜湊表分配空間- 如果是擴充套件操作,那麼
ht[1]
的大小為第一個大於ht[0].used*2
的2n。比如`ht[0].used=5`,那麼此時`ht[1]`的大小就為16。(大於10的第一個2n的值是16) - 如果是收縮操作,那麼
ht[1]
的大小為第一個大於ht[0].used
的2n。比如`ht[0].used=5`,那麼此時`ht[1]`的大小就為8。(大於5的第一個2n的值是8)
- 如果是擴充套件操作,那麼
- 將儲存在
ht[0]
中的所有鍵值對rehash到ht[1]
中。 - 遷移完成之後,釋放掉
ht[0]
,並將現在的ht[1]
設定為ht[0]
,在ht[1]
新建立一個空白雜湊表,為下一次rehash做準備。
雜湊表的擴充套件和收縮時機:
- 當伺服器沒有執行
BGSAVE
或者BGREWRITEAOF
命令時,負載因子大於等於1觸發雜湊表的擴充套件操作。 - 當伺服器在執行
BGSAVE
或者BGREWRITEAOF
命令,負載因子大於等於5觸發雜湊表的擴充套件操作。 - 當雜湊表負載因子小於0.1,觸發雜湊表的收縮操作。
漸進式rehash
前面講過,擴充套件或者收縮需要將ht[0]
裡面的元素全部rehash到ht[1]
中,如果ht[0]
元素很多,顯然一次性rehash成本會很大,從影響到Redis
效能。為了解決上述問題,Redis
使用了漸進式rehash技術,具體來說就是分多次,漸進式地將ht[0]
裡面的元素慢慢地rehash到ht[1]
中。下面是漸進式rehash的詳細步驟:
- 為
ht[1]
分配空間。 - 在字典中維持一個索引計數器變數
rehashidx
,並將它的值設定為0,表示rehash正式開始。 - 在rehash進行期間,每次對字典執行新增、刪除、查詢或者更新時,除了會執行相應的操作之外,還會順帶將
ht[0]
在rehashidx
索引位上的所有鍵值對rehash到ht[1]
中,rehash完成之後,rehashidx
值加1。 - 隨著字典操作的不斷進行,最終會在啊某個時刻遷移完成,此時將
rehashidx
值置為-1,表示rehash結束。
漸進式rehash一次遷移一個桶上所有的資料,設計上採用分而治之的思想,將原本集中式的操作分散到每個新增、刪除、查詢和更新操作上,從而避免集中式rehash帶來的龐大計算。
因為在漸進式rehash時,字典會同時使用ht[0]
和ht[1]
兩張表,所以此時對字典的刪除、查詢和更新操作都可能會在兩個雜湊表進行。比如,如果要查詢某個鍵時,先在ht[0]
中查詢,如果沒找到,則繼續到ht[1]
中查詢。
hash物件中的hashtable
HSET profile name "tom"
HSET profile age 25
HSET profile career "Programmer"
還是上述三條命令,儲存資料到Redis
的雜湊物件中,如果採用hashtable
編碼儲存的話,那麼該Hash
物件在記憶體中的結構如下:
當雜湊物件儲存的所有鍵值對的鍵和值的字串長度都小於64個位元組,並且數量小於512個時,使用ziplist
編碼,否則使用hashtable
編碼。
可以通過配置檔案修改該上限值。
集合物件
集合物件的編碼可以是intset
或者hashtable
。當集合物件儲存的元素都是整數,並且個數不超過512個時,使用intset
編碼,否則使用hashtable
編碼。
set-intset
intset
編碼的集合物件底層使用整數集合實現。
整數集合(intset)是Redis
用於儲存整數值的集合抽象資料結構,它可以儲存型別為int16_t
、int32_t
或者int64_t
的整數值,並且保證集合中的資料不會重複。Redis
使用intset
結構表示一個整數集合。
typedef struct intset {
// 編碼方式
uint32_t encoding;
// 集合包含的元素數量
uint32_t length;
// 儲存元素的陣列
int8_t contents[];
} intset;
contents
陣列是整數集合的底層實現:整數集合的每個元素都是contents陣列的一個陣列項,各個項在陣列中按值大小從小到大有序排列,並且陣列中不包含重複項。雖然contents
屬性宣告為int8_t
型別的陣列,但實際上,contents
陣列不儲存任何int8_t
型別的值,陣列中真正儲存的值型別取決於encoding
。如果encoding
屬性值為INTSET_ENC_INT16
,那麼contents
陣列就是int16_t
型別的陣列,以此類推。
當新插入元素的型別比整數集合現有型別元素的型別大時,整數集合必須先升級,然後才能將新元素新增進來。這個過程分以下三步進行。
- 根據新元素型別,擴充套件整數集合底層陣列空間大小。
- 將底層陣列現有所有元素都轉換為與新元素相同的型別,並且維持底層陣列的有序性。
- 將新元素新增到底層陣列裡面。
還有一點需要注意的是,整數集合不支援降級,一旦對陣列進行了升級,編碼就會一直保持升級後的狀態。
舉個例子,當我們執行SADD numbers 1 3 5
向集合物件插入資料時,該集合物件在記憶體的結構如下:
set-hashtable
hashtable
編碼的集合物件使用字典作為底層實現,字典的每個鍵都是一個字串物件,每個字串物件對應一個集合元素,字典的值都是NULL
。當我們執行SADD fruits "apple" "banana" "cherry"
向集合物件插入資料時,該集合物件在記憶體的結構如下:
有序集合物件
有序集合的編碼可以是ziplist
或者skiplist
。當有序集合儲存的元素個數小於128個,且所有元素成員長度都小於64位元組時,使用ziplist
編碼,否則,使用skiplist
編碼。
zset-ziplist
ziplist
編碼的有序集合使用壓縮列表作為底層實現,每個集合元素使用兩個緊挨著一起的兩個壓縮列表節點表示,第一個節點儲存元素的成員(member),第二個節點儲存元素的分值(score)。
壓縮列表內的集合元素按照分值從小到大排列。如果我們執行ZADD price 8.5 apple 5.0 banana 6.0 cherry
命令,向有序集合插入元素,該有序集合在記憶體中的結構如下:
zset-skiplist
skiplist
編碼的有序集合物件使用zset
結構作為底層實現,一個zset
結構同時包含一個字典和一個跳躍表。
typedef struct zset {
zskiplist *zs1;
dict *dict;
}
繼續介紹之前,我們先了解一下什麼是跳躍表。
跳躍表
跳躍表(skiplist)是一種有序的資料結構,它通過在每個節點中維持多個指向其他節點的指標,從而達到快速訪問節點的目的。Redis
的跳躍表由zskiplistNode
和zskiplist
兩個結構定義,zskiplistNode
結構表示跳躍表節點,zskiplist
儲存跳躍表節點相關資訊,比如節點的數量,以及指向表頭和表尾節點的指標等。
跳躍表節點 zskiplistNode
跳躍表節點zskiplistNode
結構定義如下:
typedef struct zskiplistNode {
// 後退指標
struct zskiplistNode *backward;
// 分值
double score;
// 成員物件
robj *obj;
// 層
struct zskiplistLevel {
// 前進指標
struct zskiplistNode *forward;
// 跨度
unsigned int span;
} level[];
} zskiplistNode;
下圖是一個層高為5,包含4個跳躍表節點(1個表頭節點和3個資料節點)組成的跳躍表:
每次建立一個新的跳躍表節點的時候,會根據冪次定律(越大的數出現的概率越低)隨機生成一個1-32
之間的值作為當前節點的"層高"。每層元素都包含2個資料,前進指標和跨度。
1. 前進指標
每層都有一個指向表尾方向的前進指標,用於從表頭向表尾方向訪問節點。
2. 跨度
層的跨度用於記錄兩個節點之間的距離。
2. 後退指標(BW)
節點的後退指標用於從表尾向表頭方向訪問節點,每個節點只有一個後退指標,所以每次只能後退一個節點。
3. 分值和成員
節點的分值(score)是一個double
型別的浮點數,跳躍表中所有節點都按分值從小到大排列。節點的成員(obj)是一個指標,指向一個字串物件。在跳躍表中,各個節點儲存的成員物件必須是唯一的,但是多個節點的分值確實可以相同。
需要注意的是,表頭節點不儲存真實資料,並且層高固定為32,從表頭節點第一個不為NULL
最高層開始,就能實現快速查詢。
跳躍表 zskiplist
實際上,僅靠多個跳躍表節點就可以組成一個跳躍表,但是Redis
使用了zskiplist
結構來持有這些節點,這樣就能夠更方便地對整個跳躍表進行操作。比如快速訪問表頭和表尾節點,獲得跳躍表節點數量等等。zskiplist
結構定義如下:
typedef struct zskiplist {
// 表頭節點和表尾節點
struct skiplistNode *header, *tail;
// 節點數量
unsigned long length;
// 最大層數
int level;
} zskiplist;
下圖是一個完整的跳躍表結構示例:
有序集合物件的skiplist
實現
前面講過,skiplist
編碼的有序集合物件使用zset
結構作為底層實現,一個zset
結構同時包含一個字典和一個跳躍表。
typedef struct zset {
zskiplist *zs1;
dict *dict;
}
zset
結構中的zs1
跳躍表按分值從小到大儲存了所有集合元素,每個跳躍表節點都儲存了一個集合元素。通過跳躍表,可以對有序集合進行基於score
的快速範圍查詢。zset
結構中的dict
字典為有序集合建立了從成員到分值的對映,字典的鍵儲存了成員,字典的值儲存了分值。通過字典,可以用O(1)
複雜度查詢給定成員的分值。
假如還是執行ZADD price 8.5 apple 5.0 banana 6.0 cherry
命令向zset
儲存資料,如果採用skiplist
編碼方式的話,該有序集合在記憶體中的結構如下:
總結
總的來說,Redis
底層資料結構主要包括簡單動態字串(SDS)、連結串列、字典、跳躍表、整數集合和壓縮列表六種型別,並且基於這些基礎資料結構實現了字串物件、列表物件、雜湊物件、集合物件以及有序集合物件五種常見的物件型別。每一種物件型別都至少採用了2種資料編碼,不同的編碼使用的底層資料結構也不同。
原創不易,覺得文章寫得不錯的小夥伴,點個贊? 鼓勵一下吧~