AI技術已經被廣泛應用於各行各業。一方面，AI技術領域火熱的研究趨勢和高效的開發迭代速度可以應對日益劇增的需求。另一方面，技術的頻繁更新和開發的高速迭代對底層的計算框架的安全性帶來了衝擊。如何確保AI計算框架的程式碼開發質量成為了程式碼開發過程中必不可少的一部分。
在剛剛結束的Black Hat Europe 2021上，百度安全提出了一種新型的基於模型變異的模糊測試工具AI Model-Mutator。它將模型檔案作為資料輸入檔案，進行變異來測試底層計算框架的程式碼質量。和功能測試不同的是，它採用的是隨機變異，所以可以覆蓋一些功能測試不能考慮到的邊界問題。和單一API測試不同的是，模型測試是從模型檔案出發，所以它不是針對單一API的，而是針對一組功能路徑的。因此可以覆蓋一些單一API無法測試的路徑，比如Python Binder部分等。
AI Model-Mutator提出了一種基於圖的模型變異方法。更詳細來說，它利用靜態程式碼分析獲取模型相關操作的型別和約束條件，然後根據這些操作型別和約束條件進行隨機的圖遍歷和改寫。最後，利用生成的變異後的模型檔案作為種子對計算框架進行測試。除此以外，AI Model-Mutator提出了一系列針對模型輸入的變異規則來進行有效地模型檔案變異。經驗證，這些變異規則可以有效地重現TensorFlow中已發現的66個漏洞。此外，AI Model-Mutator發現TensorFlow 6個新型漏洞並得到TensorFlow團隊的確認。
百度安全實驗室致力於系統安全研究多年，這次推出的新型AI模型測試工具在Black Hat Europe 2021的亮相只是一個開端。日後會有更多更深層次的研究著眼於AI計算框架，為百度的AI模型框架基礎保駕護航。