什麼是機器學習治理?

組織為什麼要在機器學習治理上掙扎?當我們要為組織解決機器學習治理時，我們看到客戶面臨五個主要挑戰。

機器學習模型治理是組織如何控制訪問、實現策略和跟蹤模型活動的整個過程。這是降低模型失效、法規遵從性和攻擊風險的必要條件。治理是將組織的底線和品牌風險最小化的基礎。具有有效機器學習治理的組織不僅具有對模型在生產中的執行方式的細粒度控制和可見性，而且透過將AI/ML治理策略與IT策略的其餘部分整合，它們可以釋放運營效率。

透過治理，組織可以瞭解可能影響模型結果的所有變數，從而幫助他們快速識別和緩解可能降低結果準確性和應用程式效能的問題(例如模型漂移)。這些問題會隨著時間的推移，直接影響企業的底線，並隨著時間的流逝削弱客戶對品牌的信任。

在一份有關機器學習治理的白皮書中有提到管理人工智慧治理的7步框架。

首先我們要知道， 組織為什麼要加大力度進行機器學習治理?

機器學習治理是各組織在2021年面臨的最大挑戰，因為它們正競相擴大機器學習能力，以在快速發展的數字化市場中保持競爭力。(資料來源:2021年企業機器學習趨勢報告)

當我們的客戶需要為他們的組織解決機器學習治理時，我們看到了五個主要的挑戰。

●不清楚什麼是最佳實踐：我們仍處於機器學習治理的初期，組織缺乏明確的路線圖或規範性建議，無法在自己特定的環境中進行有效實施。

●相關法規不夠完善：不斷變化和模糊的監管環境導致了不確定性，公司需要投入大量資源來維持合規。那些不能跟上的公司可能會失去競爭優勢。

●現有的解決方案都是手動的且不完整：即使是今天正在實施治理的組織，也是使用各種各樣不同的工具和手動流程拼湊而成。這樣的解決方案不僅需要持續的維護，而且它們還存在覆蓋範圍的關鍵缺口。

●機器學習不容易整合到現有的IT策略中：有效的機器學習治理需要與IT協作，但大多陣列織仍然將機器學習視為精品計劃——這使得它難以整合到更標準化的企業IT流程和技術堆疊中。

●管理不善的機器學習給公司資產帶來風險：實施機器學習的公司面臨著品牌和利潤的風險。這些存在偏差或不被理解的模型可能會侵蝕客戶對品牌的信任，而不被監控的模型可能會在生產中失敗。

組織應採取哪些措施來改善機器學習治理?

組織應該實施一個可以解決上述機器學習治理挑戰的MLOps平臺。否則組織就不得不拼湊起來並維護他們自己的解決方案。無論哪種方式，你都要確保能夠支援以下7個關鍵層面：

●完整的模型目錄，包括模型風險文件，用於訓練和預測模型資料來源的描述以及模型輸出的目標和使用。

● 基於風險梯度的靈活模型風險管理框架：高風險模型得到更多的驗證、測試和監控，而低風險模型得到更輕鬆的接觸，將更多的責任委派給業務單元或模型開發人員;

●擁有一個有效的過程，用於將模型部署並整合到舊系統和資料體系結構中

● IT可以使用工具來操作，管理和監視生產中模型的執行狀況，從而使模型開發人員脫離模型操作

●監控模型準確性和資料一致性的工具，如果模型結果或輸入資料有所偏差或輸入資料質量下降，這些工具將生成警報;

●整合的模型和資料更改管理流程，以便對資料或模型的變更進行適當的測試和溝通，以防止意外情況的發生;

●標準的審計報告和日誌，以便審查人員和稽核員可以審查模型結果、變更歷史、資料錯誤或過去的模型失敗和採取措施的記錄。