Ansys SCADE Vision-感知演算法魯棒性分析測試工具
SCADE Vision是ANSYS公司與美國卡內基梅隆大學聯合開發的AI感知演算法驗證套件,基於雲端部署的後臺搜尋引擎和網路前端人機介面的綜合分析,有效降低AI感知演算法的驗證效率並快速定位AI感知演算法的潛在缺陷。
圖1 基於SCADE Vision的主動學習框架
產品介紹
基於SCADE Vision的主動學習框架要求使用者以經過充分訓練的感知演算法模型作為輸入,針對成熟的感知演算法模型發現有助於提升感知演算法模型安全性的典型樣本,這類樣本代表容易受到人為攻擊、外部環境和演算法本身影響的系統執行場景(SCADE Vision稱之為邊界案例)。基於SCADE Vision的主動學習框架的主要優勢包括:
♦ 加快模型的訓練速度
♦ 提高樣本不均勻時的模型精度
♦ 降低噪聲干擾
圖2 SCADE Vision技術架構
SCADE Vision選擇引擎由SCADE Vision分析器和SCADE Vision邊界案例搜尋器兩部分組成,SCADE Vision邊界案例搜尋器負責搜尋更有價值的邊界案例資料樣本,SCADE Vision分析器負責邊界案例樣本潛在危害的根本原因(觸發事件)。
ANSYS SCADE Vision Analyzer
SCADE Vision分析器是一個基於網路的使用者介面,支援使用者以原始資料、網路模型為輸入自動獲取感知演算法模型的邊界案例,並以支援使用者基於預定義或自定義觸發事件列表定位邊界案例的根本原因。SCADE Vision的分析流程遵循以下步驟:
• 連線待測模型
SCADE Vision分析器是待測試系統(感知軟體)載入到SCADE Vision雲端的埠,待測試系統一般為用於目標檢測的卷積神經網路模型。SCADE Vision分析器支援TensorFlow模型的載入,TensorFlow是目前用於卷積神經網路開發流行的深度學習開源框架。
圖3 待測試系統列表
• 提交原始影片
SCADE Vision分析器支援原始影片檔案上傳到SCADE Vision雲端,支援MAP4,AVI和MOV三種影片資料格式。
圖4 原始影片列表
• 觸發事件分析
完成測試後測試結果被上傳到SCADE Vision資料庫,SCADE Vision分析器介面對測試結果進行圖形化顯示。
圖5 SCADE Vision分析介面
• 生成安全報告
安全報告是一份SCADE Vision識別出的觸發事件的整體性總結,其目的是為系統安全分析人員對系統工程和軟體開發團隊如何提出安全需求提供指導。
圖6 SCADE Vision安全報告生成
ANSYS SCADE Vision Edge Case Finder
SCADE Vision Edge Case Finder邊界用例搜尋器支援AI感知演算法模型的缺陷自動檢測,基於原始攝像頭資料不依賴於昂貴的標籤樣本,有效降低資料標註和真實執行環境的測試成本;基於原始攝像頭資料自動生成對抗樣本,透過缺陷檢測和假陰性檢測演算法定位潛在缺陷,有效提升提升AI感知演算法模型的安全性。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/31535135/viewspace-2725085/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- 面向魯棒的系統設計
- 模型攻擊:魯棒性聯邦學習研究的最新進展模型聯邦學習
- 對抗深度學習: 魚 (模型準確性) 與熊掌 (模型魯棒性) 能否兼得?深度學習模型
- SCRDet——對小物體和旋轉物體更具魯棒性的模型模型
- 【機器學習】--魯棒性調優之L1正則,L2正則機器學習
- 軟體相容性測試有什麼作用?相容性測試必備測試工具
- 一種新的UI測試方法:視覺感知測試UI視覺
- 健壯性測試工具-stress-ng
- 可靠性測試-故障注入工具
- LoadRunner效能測試工具---(三)測試結果樣例分析
- API測試工具SoapUI & Postman對比分析APIUIPostman
- Bert文字分類實踐(三):處理樣本不均衡和提升模型魯棒性trick文字分類模型
- 眼圖測試(訊號完整性測試)-材料熱分析 | TMA測試材料的平均線性膨脹係數
- 漫談SCA(軟體成分分析)測試技術:原理、工具與準確性
- 幾款瀏覽器相容性測試工具瀏覽器
- 漫談前端自動化測試演進之路及測試工具分析前端
- [測試工具]
- 心理測試小精靈 3.5演算法分析演算法
- 從使用者感知談軟體效能測試
- 牛津大學&Emotech首次嚴謹評估語義分割模型對對抗攻擊的魯棒性模型
- 史丹佛大學論文通過對抗訓練實現可保證的分散式魯棒性分散式
- 安全性測試AppScan工具使用實戰APP
- 軟體安全性測試要點有哪些?常用軟體安全測試工具分享
- PR效能測試工具升級到全鏈路效能測試與分析平臺
- 介面測試工具
- 安全測試工具
- 【DNS】測試工具DNS
- 測試工具集合
- 效能測試工具
- 2D AR演算法新突破,亮風臺提出基於約束置信度的魯棒跟蹤演算法CCM演算法
- 測試管理及測試工具盒集
- 軟體測試工具之開源測試工具彙總
- 如何編寫高質量的函式 -- 命名/註釋/魯棒篇函式
- XPROG: 簡單實用的魯棒優化(RO, DRO)程式語言優化
- 軟體測試之易用性測試
- 12款很棒的瀏覽器相容性測試工具瀏覽器
- 可靠性測試
- 效能測試之資料庫監控分析工具PMM資料庫