解密美國五角大樓人工智慧中心

選自 I thebulletin 

編譯 I 網易智慧 

參與 I Rosie

2016年10月，新成立的國防創新委員會首次提出了一系列建議（該委員會是美國國防部高階領導的顧問機構，成員包括來自私營部門、學術界和非營利組織的代表）。其中一項建議是，在國防部內部建立一個“集中、專注、資源充足的組織”，以推動人工智慧（AI）和機器學習的應用研究。

距離建議的提出還不到兩年，五角大樓已經將這一想法轉變為現實。6月27日，國防部副部長帕特里克·沙納漢釋出了一份備忘錄，正式成立國防部新的聯合人工智慧中心（JAIC）。根據這份備忘錄，JAIC的首要目標是加快國防部交付人工智慧的能力，擴大人工智慧對整個部門的影響，並使國防部的人工智慧活動與之同步。為此，JAIC將指導被稱為“國家使命計劃”的大規模人工智慧專案的實施，這一專案“旨在解決一系列緊迫的、相關的挑戰。”此外，“國家使命計劃”——以及國防部對雲技術的採用——將被用於使整個國防部具有能夠快速交付人工智慧的能力。JAIC還將作為一個平臺，改善國防部與包括私營企業和學術界在內的外部各方在與人工智慧相關的專案上的合作。

值得注意的是，JAIC的工作重點還將包括倫理、人道主義方面的考慮，以及短期和長期的人工智慧安全。根據五角大樓國防創新單元實驗的機器學習負責人布倫丹麥科德的說法，這些問題將反映在建立人工智慧防禦原則的過程中，這些原則將在多個利益攸關方的共同參與之下才能制定。儘管JAIC的工作範圍目前尚不清楚，但它的這個特殊維度在實現五角大樓的人工智慧目標方面可能扮演著重要的角色。

以透明的方式開發、制度化和交流人工智慧防禦原則不僅可以降低人工智慧系統的操作風險，還可以通過使五角大樓更好地訪問和整合美國的人工智慧創新資源，來提高美國的國家安全。如果五角大樓此前打算建立透明的指導方針，併為開發和部署人工智慧系統制定紅線，人工智慧研究人員和公司可能更願意與之合作。在全球範圍內，如果JAIC證明自己對人工智慧的安全意識和倫理方法不會危及國家安全，而是更好地維護國家安全，JAIC可以作為其他尋求類似技術的國家的重要模式。

為什麼華盛頓需要JAIC？自冷戰結束以來，美國在國際秩序中享有幾乎無可匹敵的超級大國地位，美國國力的一個重要支柱是其遙遙領先的軍事技術優勢。然而，過去支撐美國軍事優勢的技術，如精確制導武器，已經通過全球化技術轉移的力量擴散到了競爭國家手中。這些競爭國家隨後發展出了越來越多的能力，挑戰美國的軍事霸權。

為了保護和擴大美國在未來的軍事優勢，美國防部已經把賭注押在了人工智慧上。該部門的第三個抵消策略中提出了一種方法，旨在“利用人工智慧和自主性的所有發展，並將它們嵌入到國防部的戰鬥網路中。”（美國認為自身軍事優勢正在被逐步削弱。為奪取新一輪大國軍事競爭的絕對優勢地位，從2012年逐步走出伊拉克和阿富汗反恐戰爭泥潭的美國，於2014年推出以“創新驅動”為核心、以發展“改變未來戰局”的顛覆性技術群為重點的第三次“抵消戰略”。）人工智慧在軍事領域的潛在應用是多種多樣的，從提高物流系統的效率到比如先進武器系統的自動化指揮和控制這樣更敏感的任務。2018年國防戰略預測人工智慧可能會改變戰爭的性質。因此，用沙納漢的話來說，美國“必須大膽果敢地追求人工智慧應用”。

美國國防部在人工智慧方面的雄心壯志所面臨的一個主要挑戰是，目前開發和部署尖端人工智慧技術的能力幾乎完全被私營科技公司所壟斷。目前，美國的商業化人工智慧產業在全球都處於領先地位，這一地位的衡量標準包括硬體設計和最優秀的人工智慧研究人員的集中程度。反過來，五角大樓一直在努力發展自己的研發能力，即將趕上私營企業的發展腳步。美國國防部逐漸意識到了適應現實的必要性，在歷史上，軍方一直是改變遊戲規則的技術的搖籃，而現在，國防部不再是美國這一技術基地取得進展的焦點。相反，軍方的技術戰略越來越依賴於由商業參與者開創和控制的技術基礎。

對於國防部來說，由於矽谷和華盛頓之間的“文化衝突”，國防部對私營企業的人工智慧資源的獲取變得複雜。這種關係的一個因素是，“矽谷價值觀”會因為與軍方的接觸而受到影響，因為他們是客戶、出資人，甚至是支持者。這種對抗的力量令人驚訝——考慮到在矽谷的早期，國防部既是高科技公司的主要投資者同時也是客戶。事實上，與國防部的關係是科技公司在競爭中獲取勝券的必要動力。雖然早期採取這樣的合作形式，今天的分歧仍然存在。

美國國防部最近努力讓谷歌參與人工智慧的部署，這也突顯了矽谷與華盛頓之間的這一鴻溝。當谷歌參與的專案Maven——一項旨在對無人機收集的視訊進行自動化分析的計劃——在今年早些時候公開時，這一訊息在公司內外引發了一場重大爭議。數千名谷歌員工在一封公開信中抗議該公司參與“戰爭業務”，並呼籲該公司退出該專案。幾名員工就此辭職。谷歌最終決定不再續簽合同，並迅速釋出了一套人工智慧原則，以平息公眾對此的強烈反對。這一失敗預示了一場可能會持續的衝突——在這種衝突中，像谷歌這樣的私營企業被夾在與人工智慧的武器化不一致公共的價值觀，和他們想要從國防部身上尋求更多商業機會的動機之間。

文化衝突的第二個維度涉及到矽谷和國防部在創新和運營上的不同速度。顯然，私營部門研發週期的加速與傳統的軍事採購過程在速度上形成了鮮明的對比，傳統的軍事採購過程往往持續數年。更具體地說，要想跳過國防部冗長的官僚程式所需要的大量時間和資源，是許多公司不願承擔的成本。這就是說，國防部已經多次嘗試在收購中表現得更加靈活，以增加與私人企業合作的機會。迄今為止，這些努力取得的結果好壞參半。

最近的一項倡議是2015年國防創新單元實驗的基礎——這是前國防部長阿什頓·卡特的心血結晶，其辦公場所位於美國關鍵的創新中心。國防創新試驗單元的目標是重建國防部和商業技術公司之間的關係，並迅速滿足部門的需求，並提供適當的技術解決方案。為此，該部門引入了所謂的“商業解決方案開放獎勵機制”，這是一個快速、靈活的合同程式，允許國防部以私營企業的速度工作。雖然有些人質疑該部門的有效性和必要性，但也有人讚揚了該計劃，稱這正在改變部門的商業行為，並改善與私營企業的合作。

那麼，JAIC能幫助克服目前美國的挑戰嗎？雖然五角大樓對JAIC的具體計劃和行動只公佈了有限的細節，但從該計劃的高階命令來看，它可以為人工智慧防禦戰略奠定基礎，從而解決目前在結構和文化上阻礙國防部的挑戰。JAIC的主要職責似乎集中於組織和簡化基礎設施，以便美國軍方能夠更有效、更有力地調動人工智慧的力量。JAIC將領導執行國家使命計劃——在各軍事部門和服務部門、參謀長聯席會議、作戰司令部和國防部的其他幾個部門之間進行協調。JAIC目前建立的備忘錄強調，需要開發全部門的工具、技術和流程，為實現國家的人工智慧目標建立一個共同的基礎，而該部門正在發出訊號，表明JAIC將是領導這類努力的實際機構。

在這種情況下，JAIC似乎至少在一定程度上是為了在美國眾多的聯邦機構之間建立一種更一致、更協調的努力，這些機構均致力於人工智慧的整合。通過集中和標準化對人工智慧應用程式的核心輸入，例如共享資料和協議，JAIC可以大大降低開發和部署人工智慧的成本。此外，如果這些改進延伸到進一步改革技術收購的過程中，理論上來說，JAIC可以降低與政府合作的私人人工智慧公司的交易成本，從而使這些商業主張更具吸引力。

然而，效率的提高不足以完全解決美國政府在實現人工智慧巨集圖偉業的路上的障礙。為了鼓勵聯邦機構和領先的人工智慧公司和研究人員之間的富有成效的關係，JAIC——以及國防部更廣泛的人工智慧戰略所涉及到的其他機構和部門——將需要可靠地承諾以不違背倫理和安全的方式來處理人工智慧的發展和部署。這對於確保私營企業和學術界的合作至關重要，也對於美國軍方在國際舞臺上保持信譽和誠信至關重要。

在與私營企業合作的過程中，最近的爭議突顯了一個事實，即人工智慧研究人員和私營企業領導人將道德和安全視為不可逾越的底線。Maven專案只是表明私營企業與政府機構的緊張關係還遠未得到解決的眾多跡象之一。亞馬遜和微軟最近因向移民和執法機構出售支援人工智慧的面部識別軟體而受到抨擊。最近，未來生命研究所（Future of Life Institute）在一封信中呼籲各國政府禁止使用致命的自動武器，它獲得了包括Element AI和谷歌旗下的DeepMind在內的幾家領先的人工智慧公司的支援。這封信還得到了眾多人工智慧研究人員的簽署支援。

人工智慧公司和研究人員正面臨著一個決定性的挑戰——何時與國家安全部門合作？又要如何與之合作？一些人認為，全面抵制是唯一的出路。另一些人則認為，人工智慧與軍方的整合是不可避免的，因此，他們的任務是在道德的基礎上實現人工智慧的整合。如果美國政府未能在道德和安全方面闡明原則立場，國防部和人工智慧私人企業將無法實現合作。然而，如果JAIC成為了對道德和安全進行承諾的先驅，它可能會帶來新一波與私營企業進行的合作——這基於對人工智慧應該和不應該被美國部署利用的一種常見理解。

在國際舞臺上，JAIC同樣提供了一個重要的機會，讓美國向其他國家發出訊號，表明其在開發和部署的人工智慧系統的可靠性和安全性方面的承諾。在美國軍事機構中還存在著強大的安全規範的先例，尤其是在海軍潛艇、航母甲板操作員和宙斯盾武器系統操作人員中。因此，以安全為導向的人工智慧整合方法是美國軍事行為的自然延伸——而且將是必要的，儘管這具有挑戰性。領先的人工智慧研究人員已經發現了許多現代機器學習系統仍然缺乏穩定性——因此，它們很容易導致人類設計者無法預見的事故。使用者是美國軍方的情況下，這種風險有時會產生嚴重的後果。而這種錯誤可能會隨著部署技術系統的複雜性的提高而變得更加普遍。

因此，美國軍方應該優先考慮減輕與人工智慧支援的系統的意外後果相關的風險，併為追求採用其他類似技術的軍隊設定一個標準。很有可能的是，在安全意識上的要求會普遍為其他國家所接受，並將有助於與加拿大和歐盟等國家建立富有成效的聯盟，他們在各自的人工智慧戰略中都強調了倫理和安全的重要性。這種做法也可以降低美國和各國之間的競爭態勢將演變為“競相爭先”的風險，即每個國家都在加強其人工智慧系統的安全性和穩定性方面走捷徑，以獲得相對於另一方的優勢，從而引發重大的意外傷害的風險。

就目前而言，JAIC是一個很好的平臺，它可以作為一種工具，表明美國在實現人工智慧的過程中對道德和安全的可靠承諾。事實上，JAIC的核心任務之一就是與國防部長辦公室合作，為人工智慧的開發和交付制定標準和治理框架。在建立JAIC的過程中，國防部已經發出了確保“堅守對軍事倫理和人工智慧安全的承諾”的訊號，因此JAIC作為美國國防部的一個重要組成部分，成為推動人工智慧向前發展的一個焦點，這為美國提供了一個及時的機會，使其能夠清晰地闡述其符合道德倫理和其安全的人工智慧實現之道。

未來智慧實驗室是人工智慧學家與科學院相關機構聯合成立的人工智慧，網際網路和腦科學交叉研究機構。

未來智慧實驗室的主要工作包括：建立AI智慧系統智商評測體系，開展世界人工智慧智商評測；開展網際網路（城市）雲腦研究計劃，構建網際網路（城市）雲腦技術和企業圖譜，為提升企業，行業與城市的智慧水平服務。

  如果您對實驗室的研究感興趣，歡迎加入未來智慧實驗室線上平臺。掃描以下二維碼或點選本文左下角“閱讀原文”