Ansys SCADE Vision-感知演算法魯棒性分析測試工具

hirain_md發表於2020-09-29
演算法

        SCADE Vision是ANSYS公司與美國卡內基梅隆大學聯合開發的AI感知演算法驗證套件，基於雲端部署的後臺搜尋引擎和網路前端人機介面的綜合分析，有效降低AI感知演算法的驗證效率並快速定位AI感知演算法的潛在缺陷。


圖1 基於SCADE Vision的主動學習框架
產品介紹
        基於SCADE Vision的主動學習框架要求使用者以經過充分訓練的感知演算法模型作為輸入，針對成熟的感知演算法模型發現有助於提升感知演算法模型安全性的典型樣本，這類樣本代表容易受到人為攻擊、外部環境和演算法本身影響的系統執行場景（SCADE Vision稱之為邊界案例）。基於SCADE Vision的主動學習框架的主要優勢包括：
   ♦  加快模型的訓練速度
   ♦  提高樣本不均勻時的模型精度
   ♦  降低噪聲干擾
        圖2 SCADE Vision技術架構
        SCADE Vision選擇引擎由SCADE Vision分析器和SCADE Vision邊界案例搜尋器兩部分組成，SCADE Vision邊界案例搜尋器負責搜尋更有價值的邊界案例資料樣本，SCADE Vision分析器負責邊界案例樣本潛在危害的根本原因（觸發事件）。
 
ANSYS SCADE Vision Analyzer
       SCADE Vision分析器是一個基於網路的使用者介面，支援使用者以原始資料、網路模型為輸入自動獲取感知演算法模型的邊界案例，並以支援使用者基於預定義或自定義觸發事件列表定位邊界案例的根本原因。SCADE Vision的分析流程遵循以下步驟：
• 連線待測模型
        SCADE Vision分析器是待測試系統（感知軟體）載入到SCADE Vision雲端的埠，待測試系統一般為用於目標檢測的卷積神經網路模型。SCADE Vision分析器支援TensorFlow模型的載入，TensorFlow是目前用於卷積神經網路開發流行的深度學習開源框架。

        圖3 待測試系統列表

• 提交原始影片
        SCADE Vision分析器支援原始影片檔案上傳到SCADE Vision雲端，支援MAP4，AVI和MOV三種影片資料格式。

圖4 原始影片列表


• 觸發事件分析
        完成測試後測試結果被上傳到SCADE Vision資料庫，SCADE Vision分析器介面對測試結果進行圖形化顯示。
圖5 SCADE Vision分析介面
• 生成安全報告
        安全報告是一份SCADE Vision識別出的觸發事件的整體性總結，其目的是為系統安全分析人員對系統工程和軟體開發團隊如何提出安全需求提供指導。
圖6 SCADE Vision安全報告生成
ANSYS SCADE Vision Edge Case Finder
        SCADE Vision Edge Case Finder邊界用例搜尋器支援AI感知演算法模型的缺陷自動檢測，基於原始攝像頭資料不依賴於昂貴的標籤樣本，有效降低資料標註和真實執行環境的測試成本；基於原始攝像頭資料自動生成對抗樣本，透過缺陷檢測和假陰性檢測演算法定位潛在缺陷，有效提升提升AI感知演算法模型的安全性。


來自 “ ITPUB部落格 ” ，連結：http://blog.itpub.net/31535135/viewspace-2725085/，如需轉載，請註明出處，否則將追究法律責任。

相關文章