可解釋AI（XAI）是人工智慧的一個新興分支，用於解釋人工智慧所做出的每一個決策背後的邏輯，是人工智慧可持續發展核心關注點之一。隨著大模型時代的到來，模型變得越來越複雜，關注可解釋性對於提升人工智慧系統的透明度、安全性和可靠性具有重要意義。
可解釋AI國際標準IEEE P2894釋出，開啟AI“黑匣子”
近期，IEEE標準協會關於可解釋AI體系架構的標準P2894（Guide for an Architectural Framework for Explainable Artificial Intelligence）正式釋出。IEEE是全球最大的非營利性專業技術學會，在學術及國際標準等領域具有公認權威性，已經制定了900多個現行工業標準。
標準原文連結：https://standards.ieee.org/ieee/2894/11296/
此次釋出的可解釋AI體系架構標準為行業提供了構建、部署和管理機器學習模型的技術藍圖，同時透過採用各種可解釋AI方法滿足透明和可信賴AI的要求。標準定義了可解釋 AI 的架構框架和應用指南，包括可解釋AI的描述和定義、可解釋AI方法的型別和每種型別適用的應用場景，以及可解釋AI系統在準確性、隱私和安全方面的效能評估方法。
據瞭解，早在2020年6月，微眾銀行、華為、京東、百度、依圖、海信、中電科大資料研究院、中科院計算所、中國電信、中國移動、中國聯通、上海計算機軟體技術開發中心、新奧集團、華夏基金、創新工場等20餘家企業和機構基於金融、零售、智慧城市等多領域業務場景中對AI技術安全合規、可解釋性的深刻理解，在IEEE標準協會共同成立可解釋AI標準工作小組，並於當年7月組織了第一次標準工作組會議，微眾銀行人工智慧首席科學家範力欣博士擔任標準工作組主席，美國華盛頓大學教授陳一昕博士擔任副主席。此後，標準工作組召開多次會議，就標準檔案的起草和修改進行了多次討論，最終標準草案於2024年2月由IEEE標準協會透過正式釋出。
標準工作組主席範力欣博士表示：“可解釋性是當前AI技術發展階段中不可忽視的重要議題，但是相關的行業標準和規範檔案仍然不夠完善，此次的標準制定吸納了來自金融、通訊、零售、網際網路等各個領域的頭部企業和研究機構的前沿實踐經驗，相信能為AI的更廣泛落地提供具有價值的參考。”
可信聯邦學習與可信AI相關標準將陸續出臺，聚焦AI資料安全與隱私保護
據範力欣博士介紹，此次釋出的可解釋AI體系架構標準也是“可信聯邦學習”新正規化研究與落地的重要里程碑。“可信聯邦學習”是能夠滿足使用者和監管等各方面需求的分散式機器學習正規化。在此正規化中，隱私保護、模型效能、演算法效率是核心的三角基石，與模型的決策可解釋性和模型的可監管性兩大支柱，共同構成了更加安全可信的聯邦學習。
據瞭解，可信聯邦學習對於推動資料要素的安全流通具有關鍵性作用。國家資料局印發的《“資料要素×”三年行動計劃（2024—2026年）》提出“打造安全可信流通環境，深化隱私計算、聯邦學習等技術應用，增強資料利用可信、可控、可計量能力，促進資料合規高效流通使用。”
隨著工業界和學術界對聯邦學習和可信賴人工智慧的關注，IEEE標準協會批准立項的多個可信聯邦學習和可信賴人工智慧標準也將陸續出臺。其中，關於聯邦學習的隱私和安全架構的標準IEEE P2986 （Recommended Practice for Privacy and Security for Federated Machine Learning）草案已完成，預計不久將正式釋出。該標準在業界首次提出聯邦學習的隱私風險等級和安全風險等級評估方法。具體包括聯邦機器學習中的常見故障及對抗方法、聯邦機器學習的隱私和安全要求、及聯邦機器學習隱私和安全評估指南。
此外，以IEEE P2986為基礎，更加聚焦聯邦學習的可信賴、可解釋、可最佳化、可監管的可信聯邦學習標準IEEE P3187（Guide for Framework for Trustworthy Federated Machine Learning）也已完成初步稽核。該標準提出了可信聯邦學習的框架和特性，對實現這些特性做了具體約束，並對實現可信聯邦學習的方案進行了介紹。
大模型AI Agent+聯邦學習，打造大模型時代的可信賴人工智慧
近期，中國電信和微眾銀行還聯合發起成立了關於語義資訊智慧體的聯邦學習標準IEEE P3427（Standard for Federated Machine Learning of Semantic Information Agents）工作組。該標準計劃討論議題包括基於聯邦機器學習的語義認知網路中不同語義智慧體的角色定義、激勵機制、語義通訊，語義智慧體上便於人類理解的語義資訊表徵，以及語義智慧體之間的聯邦資訊保安、高效互動等。該標準工作組計劃於2024年3月底開展標準研製，目前正廣泛吸納各行業的相關專家加入，共同完善標準，促進行業發展。
相關行業標準的陸續釋出將進一步推動跨行業、跨領域的技術合作與創新，開啟AI的“黑匣子”，推動資料要素的安全高效流通，高準確性和高可解釋性的人工智慧將有助於實現技術廣泛、負責任、有效地應用，為人類帶來福祉。