記錄一次生產釋出事件——(簡單的非空驗證也能引發大問題)

道友留步`發表於2019-06-12
事件

歡樂小插曲

​ 時間定格在週四——常規釋出日下午三點，研發任務早已完成、測試也無大礙。這時，辦公室外走廊裡傳來了一陣急促的報警聲——“此大樓發生緊急情況，請各單位抓緊撤離”。像往常一樣刷刷部落格園，坐等釋出生產的我聞聽此聲，虎軀一震正準備要跑路，轉頭看向周圍的同事。大都很淡定的坐在工位上各自擼碼。於是收回我那一隻已經邁向過道的腿，佯裝淡定的坐下，悄悄的問了問隔壁的老大哥：老哥，怎麼沒人跑路？“兄弟，習慣就好，八成又是大樓搞消防演習”老哥扶了扶眼鏡，繼續擼碼。果不其然，半個小時後收到了公司的馬後炮郵件——“近期大樓消防演習，請大家聽到警報聲後無需驚訝，各自工作即可......”

事件經過

​ 下午四點，釋出生產g環境(生產環境m為正式環境，g為內測環境)。這時測試有人提出“伺服器忙”。聽到這裡我趕緊翻了翻內測日誌，發現了最熟悉的老朋友——未將物件引用設定到物件的例項。問題出現在如下程式碼上。(我下面附上了虛擬碼，大家可以看看下面的程式碼有沒有問題，當時我看了很久才發現問題所在)

//獲取賬戶資訊
var accountInfo=GetAccountInfo();
if(accountInfo==null){
    return "xxx";
}
//判斷賬戶資訊中是否包含xx——問題點就出現在下面這行程式碼(未將物件引用設定到物件的例項)
//其中Test欄位為此次釋出新增欄位——線上版本的AccountInfo中並不存在此欄位
bool isTest=accountInfo.Test.Contains("A");
//獲取賬戶資訊方法
public AccountInfo GetAccountInfo(){
    //先讀取Cache
    AccountInfo info=cache.GetCache();
    if(accountInfo!=null)
    {
        return info;             
    }   
    info=SOAService.GetInfo();
    if(info!=null){
        cache.SetCache(info);
        return info;
    }
    return null;
}
//賬戶資訊類
public class SOAService()
{
    //從遠端服務獲取賬戶資訊
    public static AccountInfo GetInfo()
    {  
       //獲取一個服務Client
       SOAClient client=SOAClient.GetClient();
       //獲取賬戶資訊
       Account account= client.GetAccountInfo();     
       if(account!=null){
           AccountInfo info=new AccountInfo();
           info.xx=account.xx;
           //Test為null處理
           info.Test=account.Test??string.empty;
           return info;
       }
       return null;
    }
}

//賬戶資訊實體類
public class AccountInfo{
    
    private string name;   
    //...此處省略n個欄位
    
    //此處新增欄位test
    private string test;
    
    //屬性Name
    public string Name{
        get { return this.name; }
        set { this.name=value; }
    }
     //...此處省略n個屬性
    //屬性Test
    public string Test{
        get { return this.test; }
        set { this.test=value; }
    }
}

​ 在程式碼中觀察許久仍沒有發現問題。這時測試一句話提醒了我，“我看m環境沒有問題”。靈光一閃，原來測試先從m環境登入，瀏覽了一圈頁面後，已經快取了AccountInfo，但是m環境此時是沒有新增欄位Test的，此時切換到g環境(我們的m環境，g環境對應快取資料都是一樣的，區別僅僅是應用伺服器不同)，獲取賬戶資訊時會直接從Cache中讀出來，然後accountInfo.Test在用之前並沒有判空，所以...未將物件引用設定到物件的例項。於是乎得意的跟測試說，你登入後別再m環境操作，直接切到g環境，就可以了，等發m不會有問題的。果不其然，測試按我說的做了不再報錯。

​ 如果你以為事情就這麼結束，那就錯了。請原諒我那豬油蒙了心的傻叉操作。不久，g環境驗證無誤，開始往m環境釋出。起初未見異常，當發了叢集大概三分之一節點的時候，大量異常突然襲來，瞬間監控開始報警。一看日誌滿屏的老朋友。緊急關頭得虧腦子反應快，緊急回滾程式碼。靜下心來腦子一想，生產使用者本身處於登入狀態，有使用快取。剛剛出現問題沒去處理，真是悔之晚矣！於是緊急修復。增加使用前判空，問題終於解決。

事件教訓

  • 對於程式中大量使用快取的系統，開發時一定要考慮好快取。(這個系統一些不合理的快取設計坑的我苦不堪言)
  • 對於測試中的每一個問題都要認真對待
  • 紙上得來終覺淺——背的滾瓜爛熟的，快取穿透、雪崩，快取更新、程式非空驗證。實戰起來還是不夠用
  • 敬畏每一次生產環境的釋出

相關文章