李杉 李林 發自 凹非寺
量子位 出品 | 公眾號 QbitAI

“Google不應該成為一家戰爭公司。”

一封聯名信在Google內部流傳著，已經有3100多人在上面簽了名，其中包括數十名高階工程師，抗議該公司為五角大樓提供人工智慧力量。

他們想要通過這封聯名信，向Google CEO劈柴哥（Sundar Pichai）施加壓力，讓Google退出五角大樓的代號為Maven的專案，並宣佈一項“永不開發戰爭技術”的政策。

這家矽谷巨頭和美國政府之間的文化衝突就這樣凸顯了出來。

一封公開信

這封聯名信幾周前就開始在Google內部傳遞，簽名的員工們認為，參與軍事任務會疏遠客戶和人才。

《紐約時報》將聯名信的內容釋出了出來，信中清晰的寫明瞭這些Google員工的訴求：

1. 退出Maven專案；

2. 起草、公佈並執行一項清晰的政策，宣告Google及其承包商都永遠不會開發戰爭技術。

在聯名員工的心目中，與國防部合作，開發“幫美國政府進行軍事監控、甚至還有潛可能奪取生命的技術”，完全違背了這家公司的核心價值，還會威脅到Google的名譽。

他們擔心，一向以“不作惡”為信條的Google參與到五角大樓的專案中，會“對Google及其人才競爭力構成不可挽回的破壞”。

同時，這也會影響Google的公眾形象。“由於人們越來越擔心存在偏見的人工智慧以及武器化人工智慧，Google已經很難贏得公眾信任。”這些員工擔心Google會被人看成是跟雷神、General Dynamics和Palantir一樣的大型軍工企業。

“微軟和亞馬遜等其他公司也參與其中，不會降低Google的風險。Google有著獨特的歷史，還有著‘不作惡’的信條，而且它直接滲透到數十億人的生活之中。”

信中說：“我們不能把我們所開發技術的道德責任外包給第三方。”

聯名信完整PDF版在這裡：
https://static01.nyt.com/files/2018/technology/googleletter.pdf

Google員工最近在一次內部會議上，就已經公開對這家公司與Maven專案的關係提出了異議。當時，Google雲基礎設施業務負責人戴安·格林尼（Diane Greene）為該交易辯護，希望能夠緩解員工的擔憂。

該公司發言人表示，公開信中的多數簽名都是在公司對此作出解釋前收集的。

對自己開發的程式負責，不僅Google員工這麼想，在程式設計師中這其實是一種比較主流的思潮。

Stack Overflow的一份調查顯示，有47.8%的程式設計師認為，自己的孩子自己管，如果一個AI出了問題，應該是開發者負責，也有27.9%的人認為責任在於政府或者監管機構。

Project Maven

這個讓Google員工如此擔心的Maven專案，究竟要幹什麼？

美國國防部的Maven專案2017年4月開始試點，目的是加快軍方的人工智慧技術發展速度。這個專案第一年計劃花費7000萬美元，將人工智慧、機器學習方法用到國防領域。

Maven的第一個努力方向，是要用機器來自動處理MQ-9和MQ-19無人機上感測器收集的海量動態視訊資料。

Google參與到這個專案中，向國防部提供了一些TensorFlow API，用來幫軍方自動識別影像中的物體，於是引發了不少員工的擔心，說這種技術有可能用於提升無人機襲擊的瞄準能力。

作為一個最收歡迎、誰都能用的開源機器學習框架，美國國防部用上TensorFlow似乎也合情合理，也實在用不著誰來“提供”。

不過，據知情人士透露，除了貢獻了開源軟體之外，Google還在“積極幫助國防部配置軟體”。

蒼白的辯護

Google週二發表了一份宣告，說“機器學習在軍事領域的任何使用都會引發擔憂”。他們還補充道，“我們與整個公司展開了積極互動，就這一重要話題進行了全面溝通。”

之前，這家公司也一再為自己辯護，說他們在Maven專案中從事的工作是“非攻擊性的”。五角大樓也說，不會用Google的技術來開發無需人類操作員的自動化武器系統。

△ 美國中央司令部聯合空戰中心

五角大樓所用的Google技術，和其他客戶也並沒有什麼兩樣，正是“向所有Google雲端計算客戶開放的開源物體識別軟體”，使用的資料也都是未歸類的。“這項技術用於標記圖片，以便人工稽核，而且目的是拯救生命，讓人們不必從事冗長乏味的工作。”

但是他們拒絕列出相關的合同條款。美國國防部表示，由於Google是Project Maven主承包商ECS Feddral的分包商，所以他們無法提供具體合同金額或合同條款。ECS Federal並未對此置評。

五角大樓的視訊分析經常用於鎮壓叛亂和反恐行動，而美國國防部也曾經明確表示，該專案將用於支援這些行動。

但是，不見得是以攻擊為目的。提升無人機視訊分析能力，也能在襲擊行動中自動分辨出人類目標，從而更好地識別平民，降低無辜平民的受害概率。

不過國防部官員們的態度，卻讓Google員工們的道德擔憂雪上加霜。

美國國防部長吉姆·馬蒂斯（Jim Mattis）經常表示 ，他們的核心目標就是提高美國的軍事“殺傷力”。

首席管理官約翰·吉布森（John Gibson）上個月在談到Joint Enterprise Defense Infrastructure Cloud採購專案的時候說，他們的部分目的，就是為了“提升殺傷力和敏捷度”，因此很難將軟體、雲端計算和相關服務與真正的戰爭企業區分開來。

△ 施密特與美國前國防部長Ash Carter

Google的部分高管與五角大樓關係密切。該公司前執行董事長埃裡克·施密特（Eric Schmidt）就曾經擔任五角大樓顧問，Google副總裁汨羅·梅丁（Milo Medin）同樣擔任這一職位。

去年11月接受採訪時，施密特承認“科技界普遍擔心軍工機構會利用這項技術濫殺無辜。”他表示，之所以擔任顧問，一定程度上是為了“至少能展開溝通”。他還表示，軍方使用這項技術的目的是“保護國家安全。”

由於Google員工總數超過7萬，所以抗議者只佔少數，可能不會對其發展構成太大障礙。但在人工智慧研究領域，Google卻要與其他科技公司爭奪人才，所以如果一些人才不認同它的做法，就會對其人才吸引力構成傷害。

矽谷與五角大樓

正當Google因為國防合同而遭到內部反對時，其競爭對手卻主動宣傳自己參與的國防專案。

亞馬遜就公開宣傳該公司與國防部簽訂的影像識別協議，微軟也表示，該公司的雲端計算技術幫助軍事和國防機構處理資訊分類工作。

而整個矽谷，其實都有著和五角大樓糾纏不清的歷史。我們熟悉的網際網路、人工智慧、無人車，最初都有一個機構在背後推動：美國國防部高階研究計劃局，DARPA。

One More Thing

量子位一直在想，不知道簽署聯名信的3100人中，有沒有身在加拿大的Geoffrey Hinton。

20世紀80年代，博士剛剛畢業的Hinton在卡耐基梅隆大學（CMU）找了份工作。

可是他很快意識到，他所在院系、甚至全美國的大部分AI研究都是由國防部（DoD）資助的。於是，他決定辭職以表抗議，並隨後搬到了加拿大。

“離開的時候，我影印了一枚硬幣，然後把它貼在辦公室的門上，”他說，“但是我把硬幣上的‘G’改成了‘D’，於是上面那就話就變成了：IN DOD WE TRUST。”

— 完 —

誠摯招聘

量子位正在招募編輯/記者，工作地點在北京中關村。期待有才氣、有熱情的同學加入我們！相關細節，請在量子位公眾號(QbitAI)對話介面，回覆“招聘”兩個字。

量子位 QbitAI · 頭條號簽約作者

վ'ᴗ' ի 追蹤AI技術和產品新動態