走近原始碼:Redis跳躍列表究竟怎麼跳

面向Google程式設計發表於2019-04-18

在前面介紹壓縮列表ziplist的時候我們提到過,zset內部有兩種儲存結構,一種是ziplist,另一種是跳躍列表skiplist。為了徹底理解zset的內部結構,我們就再來介紹一下skiplist。

skiplist介紹

顧名思義,skiplist本質上是一個有序的多維的list。我們先回顧一下一維列表是如何進行查詢的。

一維有序列表

如上圖,我們要查詢一個元素,就需要從頭節點開始遍歷,直到找到對應的節點或者是第一個大於要查詢的元素的節點(沒找到)。時間複雜度為O(N)。

這個查詢效率是比較低的,如果我們把列表的某些節點拔高一層,例如把每兩個節點中有一個節點變成兩層。那麼第二層的節點只有第一層的一半,查詢效率也就會提高。

雙層列表

查詢的步驟是從頭節點的頂層開始,查到第一個大於指定元素的節點時,退回上一節點,在下一層繼續查詢。

例如我們要在上面的列表中查詢16。

  • 從頭節點的最頂層開始,先到節點7。
  • 7的下一個節點是39,大於16,因此我們退回到7
  • 從7開始,在下一層繼續查詢,就可以找到16。

這個例子中遍歷的節點不比一維列表少,但是當節點更多,查詢的數字更大時,這種做法的優勢就體現出來了。還是上面的例子,如果我們要查詢的是39,那麼只需要訪問兩個節點(7、39)就可以找到了。這比一維列表要減少一半的數量。

為了避免插入操作的時間複雜度是O(N),skiplist每層的數量不會嚴格按照2:1的比例,而是對每個要插入的元素隨機一個層數。

隨機層數的計算過程如下:

  • 每個節點都有第一層
  • 那麼它有第二層的概率是p,有第三層的概率是p*p
  • 不能超過最大層數

Redis中的實現是

/* Returns a random level for the new skiplist node we are going to create.
 * The return value of this function is between 1 and ZSKIPLIST_MAXLEVEL
 * (both inclusive), with a powerlaw-alike distribution where higher
 * levels are less likely to be returned. */
int zslRandomLevel(void) {
    int level = 1;
    while ((random()&0xFFFF) < (ZSKIPLIST_P * 0xFFFF))
        level += 1;
    return (level<ZSKIPLIST_MAXLEVEL) ? level : ZSKIPLIST_MAXLEVEL;
}
複製程式碼

其中ZSKIPLIST_P的值是0.25,存在上一層的概率是1/4,也就是說相對於我們上面的例子更加扁平化一些。ZSKIPLIST_MAXLEVEL的值是64,即最高允許64層。

Redis中的skiplist

Redis中的skiplist是作為zset的一種內部儲存結構

/* ZSETs use a specialized version of Skiplists */
typedef struct zskiplistNode {
    sds ele;
    double score;
    struct zskiplistNode *backward;
    struct zskiplistLevel {
        struct zskiplistNode *forward;
        unsigned long span;
    } level[];
} zskiplistNode;

typedef struct zskiplist {
    struct zskiplistNode *header, *tail;
    unsigned long length;
    int level;
} zskiplist;

typedef struct zset {
    dict *dict;
    zskiplist *zsl;
} zset;
複製程式碼

可以看到zset是由一個hash和一個skiplist組成。

skiplist的結構包括頭尾指標,長度和當前跳躍列表的層數。

而在zskiplistNode,也就是跳躍列表的節點中包括

  • ele,即節點儲存的資料
  • 節點的分數score
  • 回溯指標是在第一層指向前一個節點的指標,也就是說Redis的skiplist第一層是一個雙向列表
  • 節點各層級的指標level[],每層對應一個指標forward,以及這個指標跨越了多少個節點span。span用於計算元素的排名

瞭解了zset和skiplist的結構之後,我們就來看一下zset的基本操作的實現。

插入過程

前面我們介紹壓縮列表的插入過程的時候就有提到過skiplist的插入,在zsetAdd函式中,Redis對zset的編碼方式進行了判斷,分別處理skiplist和ziplist。ziplist的部分前文已經介紹過了,今天就來看一下skiplist的部分。

if (zobj->encoding == OBJ_ENCODING_SKIPLIST) {
    zset *zs = zobj->ptr;
    zskiplistNode *znode;
    dictEntry *de;

    de = dictFind(zs->dict,ele);
    if (de != NULL) {
        /* NX? Return, same element already exists. */
        if (nx) {
            *flags |= ZADD_NOP;
            return 1;
        }
        curscore = *(double*)dictGetVal(de);

        /* Prepare the score for the increment if needed. */
        if (incr) {
            score += curscore;
            if (isnan(score)) {
                *flags |= ZADD_NAN;
                return 0;
            }
            if (newscore) *newscore = score;
        }

        /* Remove and re-insert when score changes. */
        if (score != curscore) {
            znode = zslUpdateScore(zs->zsl,curscore,ele,score);
            /* Note that we did not removed the original element from
             * the hash table representing the sorted set, so we just
             * update the score. */
            dictGetVal(de) = &znode->score; /* Update score ptr. */
            *flags |= ZADD_UPDATED;
        }
        return 1;
    } else if (!xx) {
        ele = sdsdup(ele);
        znode = zslInsert(zs->zsl,score,ele);
        serverAssert(dictAdd(zs->dict,ele,&znode->score) == DICT_OK);
        *flags |= ZADD_ADDED;
        if (newscore) *newscore = score;
        return 1;
    } else {
        *flags |= ZADD_NOP;
        return 1;
    }
}
複製程式碼

首先是查詢對應元素是否存在,如果存在並且沒有引數NX,就記錄下這個元素當前的分數。這裡可以看出zset中的hash字典是用來根據元素獲取分數的。

接著判斷是不是要執行increment命令,如果是的話,就用當前分數加上指定分數,得到新的分數newscore。如果分數發生了變化,就呼叫zslUpdateScore函式,來更新skiplist中的節點,另外還要多一步操作來更新hash字典中的分數。

如果要插入的元素不存在,那麼就直接呼叫zslInsert函式。

zskiplistNode *zslInsert(zskiplist *zsl, double score, sds ele) {
    zskiplistNode *update[ZSKIPLIST_MAXLEVEL], *x;
    unsigned int rank[ZSKIPLIST_MAXLEVEL];
    int i, level;

    serverAssert(!isnan(score));
    x = zsl->header;
    for (i = zsl->level-1; i >= 0; i--) {
        /* store rank that is crossed to reach the insert position */
        rank[i] = i == (zsl->level-1) ? 0 : rank[i+1];
        while (x->level[i].forward &&
                (x->level[i].forward->score < score ||
                    (x->level[i].forward->score == score &&
                    sdscmp(x->level[i].forward->ele,ele) < 0)))
        {
            rank[i] += x->level[i].span;
            x = x->level[i].forward;
        }
        update[i] = x;
    }
    /* we assume the element is not already inside, since we allow duplicated
     * scores, reinserting the same element should never happen since the
     * caller of zslInsert() should test in the hash table if the element is
     * already inside or not. */
    level = zslRandomLevel();
    if (level > zsl->level) {
        for (i = zsl->level; i < level; i++) {
            rank[i] = 0;
            update[i] = zsl->header;
            update[i]->level[i].span = zsl->length;
        }
        zsl->level = level;
    }
    x = zslCreateNode(level,score,ele);
    for (i = 0; i < level; i++) {
        x->level[i].forward = update[i]->level[i].forward;
        update[i]->level[i].forward = x;

        /* update span covered by update[i] as x is inserted here */
        x->level[i].span = update[i]->level[i].span - (rank[0] - rank[i]);
        update[i]->level[i].span = (rank[0] - rank[i]) + 1;
    }

    /* increment span for untouched levels */
    for (i = level; i < zsl->level; i++) {
        update[i]->level[i].span++;
    }

    x->backward = (update[0] == zsl->header) ? NULL : update[0];
    if (x->level[0].forward)
        x->level[0].forward->backward = x;
    else
        zsl->tail = x;
    zsl->length++;
    return x;
}
複製程式碼

函式一開始定義了兩個陣列,update陣列用來儲存搜尋路徑,rank陣列用來儲存節點跨度。

第一步操作是找出要插入節點的搜尋路徑,並且記錄節點跨度數。

接著開始插入,先隨機一個層數。如果隨機出的層數大於當前的層數,就需要繼續填充update和rank陣列,並更新skiplist的最大層數。

然後呼叫zslCreateNode函式建立新的節點。

建立好節點後,就根據搜尋路徑資料提供的位置,從第一層開始,逐層插入節點(更新指標),並其他節點的span值。

最後還要更新回溯節點,以及將skiplist的長度加一。

這就是插入新元素的整個過程。

更新過程

瞭解了插入過程以後我們再回過頭來看更新過程

zskiplistNode *zslUpdateScore(zskiplist *zsl, double curscore, sds ele, double newscore) {
    zskiplistNode *update[ZSKIPLIST_MAXLEVEL], *x;
    int i;

    /* We need to seek to element to update to start: this is useful anyway,
     * we'll have to update or remove it. */
    x = zsl->header;
    for (i = zsl->level-1; i >= 0; i--) {
        while (x->level[i].forward &&
                (x->level[i].forward->score < curscore ||
                    (x->level[i].forward->score == curscore &&
                     sdscmp(x->level[i].forward->ele,ele) < 0)))
        {
            x = x->level[i].forward;
        }
        update[i] = x;
    }

    /* Jump to our element: note that this function assumes that the
     * element with the matching score exists. */
    x = x->level[0].forward;
    serverAssert(x && curscore == x->score && sdscmp(x->ele,ele) == 0);

    /* If the node, after the score update, would be still exactly
     * at the same position, we can just update the score without
     * actually removing and re-inserting the element in the skiplist. */
    if ((x->backward == NULL || x->backward->score < newscore) &&
        (x->level[0].forward == NULL || x->level[0].forward->score > newscore))
    {
        x->score = newscore;
        return x;
    }

    /* No way to reuse the old node: we need to remove and insert a new
     * one at a different place. */
    zslDeleteNode(zsl, x, update);
    zskiplistNode *newnode = zslInsert(zsl,newscore,x->ele);
    /* We reused the old node x->ele SDS string, free the node now
     * since zslInsert created a new one. */
    x->ele = NULL;
    zslFreeNode(x);
    return newnode;
}
複製程式碼

和插入過程一樣,先儲存了搜尋路徑。並且定位到要更新的節點,如果更新後節點位置不變,則直接返回。否則,就要先呼叫zslDeleteNode函式刪除該節點,再插入新的節點。

刪除過程

Redis中skiplist的更新過程還是比較容易理解的,就是先刪除再插入,那麼我們接下來就看看它是如何刪除節點的。

void zslDeleteNode(zskiplist *zsl, zskiplistNode *x, zskiplistNode **update) {
    int i;
    for (i = 0; i < zsl->level; i++) {
        if (update[i]->level[i].forward == x) {
            update[i]->level[i].span += x->level[i].span - 1;
            update[i]->level[i].forward = x->level[i].forward;
        } else {
            update[i]->level[i].span -= 1;
        }
    }
    if (x->level[0].forward) {
        x->level[0].forward->backward = x->backward;
    } else {
        zsl->tail = x->backward;
    }
    while(zsl->level > 1 && zsl->header->level[zsl->level-1].forward == NULL)
        zsl->level--;
    zsl->length--;
}
複製程式碼

刪除過程的程式碼也比較容易理解,首先按照搜尋路徑,從下到上,逐層更新前向指標。然後更新回溯指標。如果刪除節點的層數是最大的層數,那麼還需要更新skiplist的level欄位。最後長度減一。

總結

skiplist是節點有層級的list,節點的查詢過程可以跨越多個節點,從而節省查詢時間。

Redis的zset由hash字典和skiplist組成,hash字典負責資料到分數的對應,skiplist負責根據分數查詢資料。

Redis中skiplist插入和刪除操作都依賴於搜尋路徑,更新操作是先刪除再插入。

推薦閱讀

Skip Lists: A Probabilistic Alternative to Balanced Trees

Redis 深度歷險:核心原理與應用實踐

相關文章