作為擁有先進技術的科技巨頭，谷歌這樣的公司不免會與軍事計劃產生聯絡。在有侵犯隱私、違背倫理的風險下，是否應該接下鉅額合同？最近，聽聞公司正在參與美國國防部「Project Maven」AI 軍事計劃，很多谷歌員工發起了抵制，他們上書 CEO Sundar Pichai 的公開信現在已經獲得了數千人的聯名簽署。
五角大樓專案「Project Maven」主要應用深度學習計算機視覺技術，旨在幫助國防部門從影象和視訊中提取值得注意的物件。該專案是在 2017 年 4 月由時任副國防部長 Bob Work 在一份備忘錄中首次披露的。目前，美國已經成立了一個演算法戰爭混合任務團隊（Algorithmic Warfare Cross-Functional Team），由國防情報局副部長監督。
數千名谷歌員工簽署了一封致 CEO Sundar Pichai 的信函，抗議谷歌參與一個旨在提高無人機打擊能力的專案。（圖源：Michael Short/Bloomberg）
近日，數千名谷歌員工（包括數十名高階工程師）簽署了一份聯名信函，抗議該公司參與五角大樓的一個專案，該專案利用人工智慧解讀視訊影象，旨在提高無人機打擊的精準度。
該信函在谷歌內部迅速流傳開來，已有超過 3100 人簽名，反映了矽谷與聯邦政府之間的文化衝突。隨著人工智慧前沿技術越來越多地用於軍事領域，這種衝突可能會愈演愈烈。
信是寫給谷歌 CEO Sundar Pichai 的。信中寫道：「我們認為谷歌不應捲入戰爭。」信中要求谷歌撤出五角大樓的試點專案 Project Maven，並宣佈永遠不會「發展戰爭技術」。
當然，這種理想主義的想法並不是所有谷歌員工都認同的，但對於一家以「不作惡」（信中也有引用）為座右銘的公司來說，提出這種想法是很正常的。但這顯然與華盛頓龐大的國防工業不同，當然也與五角大樓不同。現任美國國防部長 Jim Mattis 經常說，五角大樓的中心目標是提高美國軍隊的「殺傷力」。
從早期開始，谷歌就鼓勵員工就涉及公司的問題發表意見。該公司提供了內部留言板和社交網路，員工可以在這些平臺上就公司的產品和政策向管理層或同事提出意見。最近，圍繞谷歌努力打造一支更加多元化的員工隊伍的激烈辯論日益公開化。
谷歌員工已就一系列問題發出了抗議請願書，包括該公司落後於 Facebook 的社交網站 Google Plus 以及谷歌對保守政治行動會議（CPAC）的贊助。
在最近的一次公司會議上，員工就谷歌參與 Project Maven 提出質疑。當時，谷歌雲基礎設施業務主管 Diane Greene 為這一專案辯護，並試圖安撫相關員工。公司發言人表示，抗議信上的大多數簽名是在公司對此情況進行解釋之前收集的。
該公司隨後將 Project Maven 的工作描述為「非攻擊性的」，儘管五角大樓的視訊分析通常用於反暴動和反恐行動，國防部也曾發文表示該專案用於支援這些行動。谷歌和五角大樓都表示，谷歌的產品不會創造出無需人類操作者就能開火的自主武器系統，自主武器系統在人工智慧應用中也有很大爭議。
對無人機視訊做進一步分析，可以挑選出人類目標並實施襲擊，換個角度來說，這也有助於更好地分辨出平民，以減少無辜者被意外殺害的風險。
谷歌週二釋出的一項宣告並未直接提及這份致 CEO Sundar Pichai 的信函，宣告中提到：「任何機器學習的軍事化應用都會導致人們的合理擔憂，這是自然的。我們正在公司內部積極鼓勵對該重要議題進行充分討論。」谷歌稱這種交流「非常重要，也非常有益」，而熟知信件內容的多名谷歌員工僅在匿名條件下發聲，並表示這是因為擔心被報復。
該宣告稱谷歌在 Project Maven 中所參與的部分「僅限於非攻擊性的目的」，雖然官方拒絕提供相關的合同內容。美國國防部稱由於谷歌是主承包商 ECS Federal 在 Project Maven 的分包商，它不能提供谷歌合同或合同內容。ECS Federal 尚未迴應該詢問。
谷歌稱五角大樓在使用基於未分類資料且「對任何谷歌雲客戶開放的開源目標識別軟體」。谷歌表示，「這項技術用於標記影象，以幫助人工審查，其目的是把人們從高度單調的工作中解放出來。」
谷歌部分高管和五角大樓有密切聯絡。該公司前執行董事長 Eric Schmidt（目前仍是谷歌母公司 Alphabet 的執行董事會成員）為五角大樓顧問團 Defence Innovation Board 的成員，該顧問團還包括谷歌副總裁 Milo Medin。
在 11 月份的一個採訪中，Mr. Schmidt 承認「技術社群普遍擔心軍工行業會使用他們的成果去錯誤地傷害人類」。他說他將在董事會中「至少起到交流作用」，並且建議軍方「使用這些技術來幫助保護國家安全」。
谷歌這一小部分對軍事合同感到不安的員工（超過 70000 名）也許並不能對公司的發展造成大的阻礙。但在人工智慧研究領域中，谷歌正忙於和其它技術公司激烈「搶人」，因此如果某些候選者被谷歌的辯解所推遲，這將會造成人事聘用上的麻煩。
谷歌在內部異議中為國防合同辯護，但與此同時它的競爭對手並不羞於宣傳自己的國防專案。亞馬遜向國防部大力宣傳其影象識別研究成果，而微軟則表示他們的雲技術已經與美國政府簽訂合同，為軍事和國防機構處理機密資訊。
當前的爭論由 Gizmodo 首次報導，主要集中在 Project Maven。該試點專案於去年開始，旨在找到加速軍方應用最新 AI 技術的方式。五角大樓發言人表示，預計該專案第一年花費不到 7000 萬美元。但谷歌公開信的簽名者明確希望阻止谷歌參與更大規模的五角大樓合同（人工智慧國防應用不斷髮展）。
外界普遍認為，目前谷歌正與其他科技巨頭（如亞馬遜和微軟）競爭一份為期多年、價值數十億美元的國防部雲服務合同。國防部首席管理官 John Gibson 在三月份的一次講話中提到：「聯合企業國防基礎設施雲（Joint Enterprise Defense Infrastructure Cloud）」採購計劃的部分目的是「提升殺傷力和做好準備」，這凸顯了將軟體、雲服務等相關服務與實際商業戰爭之間分開的難度。
谷歌員工寫給 Pichai 的公開信已經在谷歌內部通訊系統中傳播了數週，信中認為，參與軍事專案可能會疏遠使用者，甚至影響未來的人才引進。
「這一計劃將不可挽回地損害谷歌的品牌和人才吸引力，」信中提到，「由於人們越來越擔心人工智慧的偏見與武器化，谷歌爭取使用者信任的道路已經越來越難走了。」在未來，谷歌或許會被視為加入雷神、通用動力以及 Palantir 這樣的國防承包商行列。
「其他大型科技公司如微軟和亞馬遜也參與了這一專案，但這並不會讓谷歌承擔的風險變小。」信中說，「谷歌擁有獨特的歷史，它的座右銘是『不作惡』（Don't Be Evil），谷歌直接觸及數十億使用者的生活，這讓它與眾不同。」
和其它新貴最終成為了強大的矽谷巨人一樣，谷歌也正被迫面對早年引導公司的理念。Facebook 開始時的使命是連線世界上所有的人，但是最近因為虛假訊息渠道和被俄羅斯用來影響 2016 年的選舉而受到抨擊，此外，它同樣還被指控在美國選民中傳播異議。
考慮到谷歌的歷史和五角大樓目前在軍事方面對 AI 的強烈需求，前五角大樓的官員和「Army of None」的作者 Paul Scharre 表示，這在谷歌內部是不可避免的。
華盛頓新國家安全中心的高階成員 Scharre 說：「技術開發者之間存在著強烈的自由主義精神，並且對政府使用技術會感到擔憂。目前，人工智慧突然且快速地從實驗室走出來，邁進了現實生活，這尤其加劇他們的擔憂。」
公開信原文：
親愛的 Sundar：
我們認為谷歌不應捲入戰爭。因此，我們請求公司撤銷 Project Maven，同時起草、公佈並執行一項明確的決策：谷歌及其合約商永不發展戰爭科技。
谷歌目前正在實施 Project Maven，這是一個定製的 AI 監控引擎，它使用美國政府獲取的「廣域運動影象（Wide Area Motion Imagery）」來檢測汽車和其他物體並追蹤其運動，檢測和追蹤結果提交給國防部。
最近，谷歌員工在公司內部表示了對 Maven 的擔憂。Diane Greene 在迴應中保證該技術不會「在無人機上執行」，也「不會被用於武器開發」。雖然這排除了極小部分的直接應用，但該技術是為軍事用途而開發，一旦交付，就會輕易被用於這些任務的輔助工作。
這一計劃將對谷歌的品牌及人才吸引力造成不可挽回的傷害。隨著對 AI 偏見化和武器化的恐懼日益加劇，谷歌谷歌爭取使用者信任的道路已經越來越難走了。而簽署這份協議，谷歌將加入 Palantir、雷神、通用動力等公司的行列。其他大型科技公司如微軟和亞馬遜也參與了這一專案，但這並不會讓谷歌承擔的風險變小。谷歌擁有獨特的歷史，它的座右銘是『不作惡』，谷歌直接觸及數十億使用者的生活，這讓它與眾不同。
我們不能把技術的道德責任外包給第三方。谷歌宣揚的價值觀清晰地表明：每一個使用者都在給予我們信任，永遠不要辜負這一點。這個合同使谷歌的名譽受到威脅，而且與我們的核心價值觀相悖。發展一項技術協助美國政府進行軍事監控，而且該技術可能造成致命結果，這是不可接受的。
考慮到谷歌的道德倫理責任，以及這對谷歌名譽的潛在危害，我們請求你：
1. 立即取消這一專案。
2. 起草、公佈並執行一項明確的策略，宣告谷歌及其合約商永遠不會染指軍事技術。
參考原文：https://www.nytimes.com/2018/04/04/technology/google-letter-ceo-pentagon-project.html
感興趣的讀者可以檢視hacker news上對此事的熱烈討論：https://news.ycombinator.com/item?id=16755530