Trust AI@TUV SUD專欄：人工智慧在工業4.0中的應用及其安全問題

廣州 2022年11月1日 /美通社/ --  歐盟人工智慧（ Artificial Intelligence ，簡稱 AI 。）法案將於 2024 年強制執行，  為協助中國人工智慧相關企業提前應對即將到來的國際監管， TU V 南德意志集團（以下簡稱 "TU V 南德 " ）已推出人工智慧評估服務： AI 質量架構評估方案。

本文為 Trust AI@T U V SU D 系列專欄的第八篇：人工智慧在工業 4.0 中的應用及其安全問題。

人工智慧在工業 4.0 中的應用

隨著電子商務的發展，傳統以產品為導向的工業生產形式正在被以解決方案和以客戶為導向的理念所取代。工廠收到的生產訂單批次越來越小，差異越來越大，直至完全的個性化生產。但是由於成本、速度、精度等因素，或者問題的解決超出人類能力範圍，完全的個性化生產需要生產過程具有更高水平的自主性，而這需要提升生產系統的認知能力，只能透過AI技術來實現。以定製化的客戶需求為出發點，生產系統將從"自動"轉為"自主"，生產和物流策略將在AI的幫助下進行自我最佳化。

AI的使用旨在提高工業流程的效率和有效性。從工業的角度來看，AI技術可以被理解為能夠幫助製造系統感知環境、處理所感知的事物、獨立解決問題、尋找解決問題的新方法、做出決策的方法和程式，尤其是從經驗中學習，以便製造系統更熟練地完成動作和任務。過程中對人工干預的需求減少了。

在工業4.0的語境下，在工業流程中實施AI的關鍵是資產管理殼(Asset Administration Shell)，它可以連線資料來源、學習機制、系統邊界和人工干預。工業4.0的參考模型架構 (RAMI 4.0) 的結構化網路元件和標準化功能介面也為將 AI技術整合到工業生產過程中提供了基礎。

AI在工業環境中廣泛應用的一個領域是對感測器資料的分析和解釋，這些資料分佈在機器和生產設施中。 它記錄機器各個不同方面的狀態，並據此執行動作。其核心目的是識別不明顯的相關性，比如實現預測性維護工作。AI還可以用於工業生產過程中的流程、物流和能耗最佳化，例如，為了響應環境中的波動，必須調整複雜的相互關聯的機械設定引數。"物聯網"，即分散式資料提供者和資料使用者的相互通訊，是AI的基礎。

人類定義系統邊界

AI包括一系列應用程式和技術。這些應用程式和技術能夠使系統實現自主功能，並使資產增值。 " 自主 " 的能力必須控制在人類定義的系統邊界內。由人類定義整體系統要達到哪一等級的自主能力，並決定允許AI執行的區域和功能。一個系統的自主程度不一定由AI的技術限制決定，還可能受到法律框架、人類行為的預估或資料保護要求等方面的影響。

自主等級定義了所使用的AI技術的系統邊界，即允許執行哪些任務。舉一個大眾更加熟悉的例子，自主等級3的自動駕駛汽車可以獨立在高速公路上行駛，但不能獨立的離開高速公路。等級3以上的自主系統必須能夠獨立感知環境並在指定的系統邊界內做出"真正的"自主決策，而無需進一步的人工干預。這引發了重要的法律問題，例如關於決策的責任和可理解性。這些是整個社會需要討論的問題，超越了工業和政治領域，無論是自動駕駛還是工業生產過程中AI的使用。

與簡單自動化過程的經典程式相比，在流程更復雜、決策要求更高的情況下，AI的使用意味著不能每次都獲得完全相同的結果。這是因為學習過程使用了大量的資料和資訊。 使用AI追求的是不斷最佳化流程並在出現問題時做出"正確"的決策。 允許AI系統提出的並非完全符合預期的方案建議， 但是做出的決定必須始終是合理的，並且儘可能符合預期。

AI對工業過程的衝擊可以分為兩個階段：決策（規則建立/設計）和執行（規則執行），可以認為分別是決策所需的技能（在程式設計時確定）和執行決策的動作（在執行時產生影響）。在採用了AI輔助技術的工業系統設計中，系統透過初始學習過程進行訓練，並與部分經典程式設計一起執行工業過程。在初始"設計"階段，扮演"監督者"角色的人類需要提前決定學習過程的許可程度，即哪些資料可以用於第一個學習階段。以及允許AI系統在過程控制期間接收哪些資料以進行進一步的學習。儘管最佳化過程需要資料，但必須避免過擬合。這是因為資料分析的過擬合會對現有的問題解決模型產生負面影響。規則的執行可以按自主等級分類。如下圖所示。

人工智慧在工業應用中的倫理討論

工業生產，特別是工業4.0中使用AI，有很多倫理方面的問題，但是一般來說"強人工智慧"不在討論範圍。可以一般性的認為，用於工業過程的AI旨在透過自動化流程擴充套件人類的能力。工業AI應用在本質上主要是技術性的應用程式，不會對人類生活產生重大沖擊。然而，這並不意味著這些應用程式不用受制於工業法規，例如職業安全法規或功能安全法規。這些法規，無論是在歐洲或世界各地，都是基於人類社會長期發展而來的基本的倫理原則。

關於"自主原則"，值得一提的是，機器的決策傳統上是基於預先程式設計的演算法做出的，因而是確定性的。但是儘管深度神經網路可以被人類將引數設定在非常狹小的範圍內，仍然可能以不確定的方式行動。因此，現代AI研究人員將"可解釋性"視為人類增強對自主AI的信任的重要領域之一。

人工智慧對機械安全的衝擊

隨著AI，物聯網和機器人技術的發展，越來越多的不依賴於人類操作員的先進機械投放市場。特別是協作機器人，由於可以在環境中學習新的動作而變得更加自主。這些先進機械可以實時處理資訊，自學習，自主規劃移動路線，根據環境動態調整或改進動作，因此給傳統的基於考慮"最壞可能"的風險評估並固定安全保護設定的機械安全理念提出了新的挑戰。

新版機械指令草案對於採用AI的機械產品及其控制系統增加了很多具體的要求:例如：

在核心職業健康安全要求(EHSR)中，製造商或其歐盟代理需要執行的風險分析和風險降低流程的c)條修改如下:

確定機械產品生命週期內可能產生的危險及其關聯的危險場景，包括在機器投放市場的時刻起可以預見的，機器設計達到的自主等級決定的，全部或部分介入的行為或邏輯可能產生危險。就此而言，當機械產品整合了 AI 系統，機械產品的風險評估必須考慮為滿足歐洲議會和歐盟理事會提出的 AI 法案所執行的風險評估。

高風險機械產品清單中增加了兩項與AI相關的產品(軟體):

24. 保證安全功能的軟體，包括 AI 系統 

25. 嵌入了保證安全功能的 AI 系統的機械 

人工智慧在工業 4.0 中的資訊保安

• 人工智慧與邊緣計算

由於電子產業的飛速發展，AI的應用也逐漸邊緣化（邊緣計算）。大部分AI只有在訓練的時候需要大量計算能力，而在使用時，小型裝置即可滿足其運算要求，比如手機。在工業4.0中，AI的應用也逐漸從雲中轉移到公司內部執行維護，這樣也可減少遠端的成本和風險。但是，雖然在邊緣計算中的AI應用可以極大地提高產業效率和智慧化，但同時其本身也存在資訊保安風險，需要以最新的標準來建立和維護基於AI的產品可信度。

"Zero Trust Concept"--零信任理念的提出和使用是為了構建可信任的、安全的AI系統應用。這一理念是在大量迅速且不斷變化的資料通訊中，這些參與者最初應被分配零信任值，隨後在信任評分系統中"贏得"其他參與者的信任，任何元件都將在資料訪問之前先檢查所涉及的身份認證和授權。

同時，AI的設計也應提高互操作性，這樣在整個工業4.0的流程中獲得更快的速度和更高的穩定性。

 

 

• 人工智慧與工業4.0價值鏈

AI也可以為公司價值鏈提供重要貢獻，可以評估價值鏈參與者的各方面，如交付可靠性，支付行為，公司狀態，產品質量，市場定位，定價策略，經濟形勢，環境保護，等等。在所有生產參與者執行期間，杜絕任何異常情況，迅速採取行動並更換參與者。但在此類大資料互聯互通的過程中，各資料鏈參與者的資料訪問以及資料保護的問題便顯露出來。嚴格的資料分離才可以提高此部分的安全性：嚴格的設定許可權，只有確切相關方才可以訪問或修改資料。

• 安全數字身份

在工業4.0中，會有大量分散式的智慧裝置參與共建整體智慧製造的生產流程。也由於這些去中心化的架構，裝置數字身份的分配和管理也變得複雜。在大規模生產中，出於成本原因，可能很難要求每個產品或元件在整個價值鏈中都有唯一不可偽造的身份證明。但是AI可以透過一些其他的資料來評估安全身份，如：使用軟硬體、工牌、生物特徵來確認身份真實性；要求通訊參與者的安全通訊屬性（如加密和通訊的方式和級別）；資料的可審查性和可追溯性。AI也可以透過學習行為模式來檢測偽造身份的攻擊，如：溝通頻率的變化，通訊時的安全屬性區別，響應速度的區別，網路地址的異常，資料非常規變化等。

• 信任基礎設施

目前工業4.0相關工作組仍在討論應如何建造全球AI信任基礎設施（Trust infrastructure）。但這個信任基礎設施是對全球價值鏈安全執行的先決條件，可以提供必要的安全功能從而使各價值鏈來建立安全的身份認證和通訊，同時保護網路攻擊。在現有設施，如PKI（Public Key Infrastructures）和CA（Certificate Authorities）中，AI可以透過識別異常通訊來保護此類設施，如：非常規通訊路徑，異常證書組合，首次認證後的異常行為等。

• 基於特性的訪問控制

可以對每個元件設定在不同生產狀態下基於不同條件的規則集（如時間、資料型別、天氣、溫溼度、功耗轉速、依賴關係等）。對於如此龐大的規則集，使用AI可以對其模擬進行復雜測試，並在使用過程中迭代更新，而且可以實時監控分析出現的任何異常情況。

• 協同狀態監控

協同狀態監控(Collaborative Condition Monitoring)可以應用在以上元件的協作場景。在一條價值鏈中，兩個安全元件透過安全通訊相互溝通，基於信任基礎設施確保認證安全，並透過基於特性的訪問控制讀取資料。AI可以在其中檢測未經授權或異常的訪問和任何異常資料流，監控人員也可以透過AI的彙總報告檢索所有資訊。

• 資產管理殼

資產管理殼在工業4.0中的應用是極其重要的，不只因為其負責了整體系統的資訊保安，更因為它包含了各種生產資料和商業機密。AI在監控資料間諜活動和資料篡改操縱方面非常有用，而人類很難對這些不同屬性的龐大資料進行實時分析和管理。但AI的分析結果很難用同一AI軟體進行解釋，因此也同時需要輔助工具，以便人類對其警報進行最終分析和做出決定。

結語

AI的應用可以極大的提高工廠的智慧化程度，如：自動化、驅動控制、生產維護、生產最佳化、異常及殘次品檢測。但同時AI方案在工廠的應用中也有很多侷限性因素：不能達到100%的覆蓋率，很難分析錯誤原因，資料質量難以保證，在實施中太過專業性，先進機械日益提升的自主性和協作性給機械安全帶來的挑戰，邊緣計算帶來的資訊保安等問題。

在選擇適合工業4.0的AI應著重考慮以下屬性：基於產線機械及感測器資料的應用；使用遷移學習的方法以更容易適應新工廠環境；適用複雜的感測器資料網路；易用性；資訊保安。

對於日益採用AI實現自主和協作功能的智慧機械裝置，其製造商，系統整合商和終端業主都必須執行全面的，覆蓋機械安全和資訊保安的風險評估，並向歐盟公告機構申請合規性評定。