在美國新澤西州澤西市區的哈德遜河上空,一位名叫 Peter Cavicchia 三世的美國前特工為 J.P. 摩根運營著一項特殊業務。
大多數金融集團都有這樣的機構,它們使用計算機演算法來監控銀行員工,防止公司受到內部背信棄義者或其它不法分子的損害。
Palantir Technologies 是一家從事資料探勘的公司,2009 年,摩根大通成為其首家非政府客戶。
它曾派遣 120 名現場工程師,幫助的 Cavicchia 團隊收集摩根大通員工的資訊,包括電子郵件、瀏覽器歷史記錄、公務相關智慧手機的 GPS 定位、印表機的 GPS 定位、下載活動的 GPS 定位、通話錄音的文字記錄。
Palantir 利用軟體對這些記錄進行了彙總、搜尋、分類和分析,找出 Cavicchia 團隊認為可能濫用公司資產的關鍵字和行為模式。
例如,Palantir 的演算法會提醒 Cavicchia 的團隊,當員工比平常更晚開始上班時,意味著一種潛在的不滿情緒。銀行保安人員可能會在數小時後對該員工進行進一步審查並有可能對其進行人身監視。
然而,隨著時間的推移,Cavicchia 自己也開始變得流氓起來。當時供職摩根大通的同事們將公司環境描述為華爾街版的《現代啟示錄》,其中,Cavicchia 扮演著 Kurtz 上校的角色,他的辦公室套房比銀行其他安全團隊高八層,他從那裡俯視一切。
他團隊內部的人們感到無比的震驚,因為整個摩根大通竟然沒有任何人設定任何資料訪問的限制。他們暗地開玩笑說,Cavicchia 正在監聽他們的通話、檢視他們的電子郵件、監視著他們的一舉一動。一些人故意在通話中放出一些假資訊,看看卡維奇亞是否會在會議上提到它,而他的確這樣做了。
當銀行的高階管理人員瞭解到他們也被監視時,這一切都結束了,而大資料的專家和全球金融本來很有前景的一次聯姻最後卻變成了監視的醜聞。
這次從未有過的失敗事件,也標誌著 Palantir 這個作為矽谷最具有價值的創業公司之一將出現逆轉。為全球反恐戰爭設計的情報平臺卻被用來監視普通的美國人民眾。
2004 年,Peter Thiel 和一些 PayPal 的同事成立了 Palantir,公司乾的第一件事就是在阿富汗和伊拉克為五角大樓和中央情報局工作。該公司的工程師和產品並不涉及任何間諜活動;他們更像是一個間諜的大腦,收集並分析從手,眼睛,鼻子和耳朵收到的各種資訊。
該軟體透過不同的資料來源 - 財務檔案,航班預訂,手機記錄,社交媒體訊息的仔細搜尋 - 尋找人類分析師可能會錯過的聯絡。然後,將分析的結果透過色彩豐富,易於解讀的圖形呈現出來,整個分析結果看起來如同一個蜘蛛網。
美國的間諜和特種部隊很快就喜歡上了這家公司;他們委任 Palantir 對戰場情報的風險進行蒐集整理。它幫助規劃者避開路邊炸彈,追蹤暗殺叛亂分子,甚至被用於追捕本拉登。
軍事上的成功為公司帶來了有關平民監視的聯邦合同。美國衛生及公共服務部利用 Palantir 檢測醫療保險欺詐。聯邦調查局利用其進行刑事調查。美國國土安全域性部署它來篩選航空旅客並對移民進行密切關注。
紐約、新奧爾良、芝加哥和洛杉磯的警察和治安部門也使用了它,一些並沒有被懷疑犯下任何罪行的人也經常被這種數字拉網式搜尋所監控。
在 Palantir 螢幕上,人員和物體會基於關係打上各種標籤:「某某同事」,「與...... 一起生活」,「[電話號碼] 的所有人」,「車輛所有者」,「某某的兄弟姐妹」,甚至「某某的情人」。如果當局有一張照片,其餘的一切就會很容易。透過檢視駕照和身份證照片資料庫,執法機構目前可以找出美國成年人一半以上的人。
摩根大透過去曾算是 Palantir 的研發實驗室,透過一個名為 Metropolis 的產品成為了 Palantir 在金融領域的一個測試平臺。
這兩家公司的合作看起來很奇怪。Palantir 的軟體工程師經常踩著滑板就出現在了銀行。領帶和髮型沒有太多的過問,但摩根大通對 T 恤衫進行了限制。程式設計師必須同意穿待領子的襯衫,並且儘可能將襯衫塞到褲子裡。
隨著 Metropolis 的安裝和完善,摩根大通對 Palantir 進行了股權投資,並將該公司引入其 Hall of Innovation,而其高管在媒體上也是對 Palantir 大肆宣揚。
當時的摩根大通資訊長 Guy Chiarello 在 2011 年告訴彭博商業週刊,該軟體將「資料垃圾填埋場變為金礦」。
Cavicchia 負責銀行的法庭證據調查。透過 Palantir,他獲得了企業所有的安全資料庫的管理訪問許可權,而這些資料庫以前需要單獨授權和特定商業理由才能獲得。
透過一個分析平臺,他可以隨時隨地訪問所有內容,可以說是史無前例。他是由一個人組成的國家安全域性,Palantir 工程師為其提供保駕護航,這些工程師每人每天花費銀行高達 3000 美元。
高階調查人員偶然發現了間諜活動的全部範圍。2013 年 5 月,該銀行的領導層下令進行內部調查,以瞭解誰向《紐約時報》洩露了一份關於摩根大通可能操縱美國電力市場而受到聯邦調查的檔案。
有證據表明,洩密者可能是 Frank Bisignano,他最近辭去了摩根大通聯合營運長的職位,成為 First Data Corp(大型支付處理商)的執行長。
Cavicchia 曾使用 Metropolis 獲得有關洩密調查的電子郵件,其中一些調查是部分高層管理人員撰寫。銀行相信,他在 Bisignano 離開銀行後與 Bisignano 分享了這些電子郵件和其他通訊的內容。(在 JPMorgan 內部,Bisignano 被認為是 Cavicchia 的支持者,Bisignano 是一位保護他,給他升職的高階管理人員。)
摩根大通的高層間也曾就這一問題有過討論,究竟是否要向銀行監管機構提交內部安全違規的可疑交易報告,而依照法律,當銀行懷疑企業有監管違規行為時,企業要向銀監機構遞交上述材料。從銀行多個渠道獲得的訊息稱,摩根大通高層決定不遞交這份報告——這項決定在摩根大通內部也是頗有爭議。
Cavicchia 與公司協商了離職協議,被迫辭職。隨後 Cavicchia 加入了 First Data 與 Frank Bisignano 一起工作,現在是高階副總裁。Chiarello 同樣也加入了 First Data,任總裁一職。
據一位堅持匿名的摩根大通高管透露,在 Cavicchia 與 Chiarello 雙雙離職之後,摩根大通大幅削減了 Palantir 的使用,其中部分原因是「Palantir 未達到其承諾的潛力。」
銀行、First Data 以及 Bisignano、Chiarello 和 Cavicchia 等人未對針對本文郵件傳送的問題作出回應。Palantir 在回答有關摩根大通等如何使用軟體的問題的宣告中,拒絕對具體問題作出答覆。宣告寫道,
「我們意識到強大的技術有被濫用的風險,我們耗費大量的時間精力來確保我們的產品被積極的力量所使用。」
然而好/壞很大程度上是由公司來定義的。
今年 3 月,前劍橋分析(一家政治諮詢公司,曾在 2016 的美國大選中為川普工作)計算機工程師在英國議會上作證時表示,Palantir 的員工曾為了協助劍橋分析開發單獨選民的心理統計檔案而使用了多達 8700 百萬 Facebook 使用者的私人資料。
Palantir 表示,公司有嚴格的政策,明令禁止參與包括競選活動在內的政治問題,Palantir 還向彭博社出示了一些郵件證明公司曾多次拒絕劍橋分析的合作請求。至於那個與劍橋分析合作的員工,Palantir 解釋道,他是在自己的時間中與劍橋分析進行的合作。
但是,這並不影響理解此次事件造成的影響:在網際網路時代,所有的人際關係均被記錄在案,並且隨時可以被智慧的演算法事無鉅細地揭露出來。每個人都代表著一幅人際關係的蛛網圖。
今年十月即將年逾半百 Thiel 長期以來一直被視為左傾的矽谷中自由主義的害群之馬。他為美國總統川普的大選勝利貢獻了 125 萬美元,並曾在共和黨大會上發言,還與川普在白宮共進晚餐。
但是,Thiel 告訴朋友,他已經受夠了灣區「單一文化」的自由主義。他放棄了長期以來在舊金山的基地,並且今年把個人的投資公司搬到了洛杉磯。他計劃在洛杉磯建立他的下一個專案,一個保守的媒體帝國。
隨著 Thiel 財富的增長,他變得愈發強硬。
在 2009 年一篇寫給卡託(Cato)研究所的文章中,Thiel 怒斥稅收、政府、女性、窮人以及社會默許死亡的必然性等(Thiel 並不接受死亡無法阻擋這一說法。)
他在文章中表達了他的激進結論:
「最重要的是,我不再認為自由和民主是可以相容的。」20 世紀 20 年代,那是美國人民最後一次懷揣著「真正的樂觀」來看待美國民主,他如是寫道。此後,
「社會福利收益者的大量增加以及特許經營權向女性的擴張——對自由主義者而言這兩個選擇難以割捨——使得『資本主義民主』的概念成為了矛盾混合體。」
Thiel 從史丹佛法學院畢業之後沒能在最高法院謀得職位,隨即 Thiel 進軍科技行業。他與其他人聯合創立了 Paypal,隨後在 2002 年 Thiel 將其出售給 eBay 公司,一舉增加勝利的資本並由此邁向風險投資的領域。
他早早就在 Facebook 上押注(現在他仍然是董事會的一員),他把大部分身家(據彭博社估計,Thiel 身價 33 億美元)都投在了 Facebook 上,並且開始了其作為大型創意投資人的職業生涯——包括私人太空旅行(透過對 SpaceX 進行投資),酒店替代方案(Airbnb)和浮島國度(海洋家園協會)。
Thiel 在「911」事件發生三年後開始了創立了 Palantir 公司——他以 J.R.R. 托爾金所著小說指環王三部曲中那個無所不知的水晶球 Palantir 來為公司命名。中央情報局下屬的科技創投公司 In-Q-Tel 就是一個種子投資者。對於執行長的角色,Thiel 選擇了一位法學院的老朋友,自稱新馬克思主義者的 Alex Karp。
Thiel 在 2011 年彭博社的採訪中表示,民權自由主義者應該歡迎 Palantir 的出現,畢竟資料探勘可不像 911 事件後借反恐之名提出的「瘋狂濫用和嚴厲政策」那麼壓抑。
Thiel 辯稱道,既不想成為極權國家,又要預防另一次災難性的襲擊,那麼最好的方法就是給政府提供最好的監控工具,並同時建立防止濫用的保護措施。
坊間傳說稱,Thile 的聯合創始人之一 Stephen Cohen 僅在兩週內就寫出了 Palantir 的程式原型。但是之後,公司卻花了數年的時間勸說客戶遠離情報分析市場的長期領導者,軟體公司 I2。
在 Palantir 早期興起時輝煌矚目的成就下卻隱藏著一個汙點,I2 公司曾指責 Palantir 透過 Palantir 高管家族成員註冊的皮包公司盜取其智慧財產權。
一家自稱是 private eye 的公司在獲得 I2 軟體和開發工具的授權,隨即就將這些工具推送給 Palantir 長達 4 年之久。I2 表示,這家空殼公司的註冊人是 Palantir 商業發展負責人 Shyam Sankar 的家人。
這次 Facebook 和劍橋分析的隱私洩露事件帶給我們一些啟示——對科技公司以資料獲利等不當行為施加的壓力將永不停歇。
I2 在聯邦法庭起訴了 Palantir,指控其存在欺詐、陰謀和版權侵犯。在其法律回應函中,Palantir 認為它有權為了更大的善而使用 I2 的程式碼。
Palantir 在駁回 I2 的訴訟中表示:
「這裡關鍵的是國家安全,國防和情報機構可以獲取他們自己的資料,並選擇在任何平臺上使用它們,從而最有效地保護公民。」
該指控被否決。Palantir 同意向 I2 支付約 1000 萬美元來解決訴訟。2011 年 I2 被 IBM 收購。
Palantir 的 13 號員工,現擔任公司高階管理人員的 Sankar 也在 Palantir 的另一個醜聞中出現:
該公司 2010 年提議美國商會對其自由派陣營的反對分子進行秘密破壞活動。駭客組織 Anonymous 釋出的電子郵件指出,Palantir 和另外兩個國防承包商為組織外聘了律師,計劃窺探進步積極分子的家屬,製造假身份滲透左傾群體,利用機器人程式破壞社交媒體,在自由派組織中植入虛假資訊,隨後對其進行詆譭。
新聞釋出之後,Palantir 給出了一個類似於它在三月份為其英國員工對 Cambridge Analytica 提供幫助時的解釋:這是一個流氓僱員做的事情。該公司從未解釋 Sankar 的參與。
Karp 釋出了公開的道歉宣告,表示他和 Palantir 致力於進步的事業。Palantir 成立了一個由前 CIA 律師領導的隱私和公民自由問題諮詢小組,並由一個叫做隱私和公民自由的工程團隊予以支援。
公司現在大約有 10 位 PCL(隱私與公民自由團隊)工程師隨時準備審查客戶訪問資料庫的請求,並提供有關法律、道德和機器的建議。
作為一家成立了 14 年的創業公司,Palantir 為那些想要解決恐怖主義和人口販賣等重大問題的傑出工程師打造了一個神秘的避風港,他們不受一般觀念(如賺錢)的束縛。Palantir 的高管吹噓說,他們不聘用一個銷售人員,僅僅依靠口碑宣傳。
公司早期的資料探勘令風險投資者眼花繚亂,2015 年公司估值 200 億美元。但 Palantir 從未報告過盈利。
它的運作方式和傳統的軟體公司不同,它更像是一個諮詢公司,2000 個工程師中一半都部署到了客戶站點。對於尋求專業應用、資金充裕的政府間諜機構,這樣的模式很奏效。但是,針對企業客戶,效果卻不盡如人意。
Palantir 高昂的安裝和維護成本,讓 Hershey Co. 這樣的客戶望而卻步。Hershey Co. 曾在 2015 年宣佈了與 Palantir 的合作關係,但在兩年後就分開了。可口可樂、納斯達克(Nasdaq)、美國運通(American Express)和家得寶(Home Depot)也棄用了 Palantir。
Karp 認識到,在公司進軍企業市場的早期,高度的技術個性化(從個性特點方面注意顧客或客戶的要求)模式行不通,但是一直沒有找到合適的解決方案。
2012 年,他在一個歐洲會議上說道:
「我們不想成為一家服務公司,而是希望做一些具有成本效益的事情。當然,我們沒有發現,這比我們早先意識到的要難得多的多。」
Palantir 的最新產品 Foundry 旨在更多地實現自動化,減少對現場工程師的需求,最終突破盈利障礙。
歐洲大型飛機制造商空中客車使用 Foundry 來處理有關特定機載元件的航空資料,以跟蹤使用情況和維護情況,並預測維修問題。製藥業巨頭默克集團(Merck KGaA)和 Palantir 簽署了使用 Foundry 的一份關於藥物開發和供應鏈管理的長期合同。
商業市場更廣泛地使用 Foundry,對 Palantir 獲取高額利潤至關重要。
一些投資者已經疲倦,下調了他們對 Palanir 的估值。Morgan Stanley 現在對該公司的估值為 60 億美元。根據 Bloomberg 的資料,2006 年就持有股份的 Fred Alger Management Inc. 今年十二月對 Palantir 的重新估值為 100 億美元左右。
最近,一位沮喪的投資者 Marc Abramowitz 贏得了一份法院命令,要求 Palantir 向其展示名冊,他控告道,公司為了 Palantir 的股份而試圖尋找一位買家,這位買家持有公司股份已經十多年了,但是 Palantir 試圖阻止他。
正如 Facebook 和 Cambridge Analtica 隱私違規一樣——Thiel 和 Palantir 與等式的兩邊都有關係——對於科技公司來說,讓資料盈利的壓力,沒有止境。
Facebook 並不是靠剝離個人資料,而從一家大學生聯誼網站壯大為估值 4780 億美元的使用者資訊供應商 。Palantir 表示,其隱私和公民自由團隊十分警惕不適當的資料需求,但是這個團隊僅由這家公司 2000 個工程師中的 10 人組成。
沒有人對摩根大通(JPMorgan)說不,也沒有人對 Palantir 中那些自願幫助 Cambridge Analytica 或洛杉磯警察局(另一個對先進資料科學興趣的機構)的人,說不。Palantir 於 2009 年開始與洛杉磯警察局(LAPD)合作,聯邦資助推動了這次合作。911 事件發生後,各級執法部門要求分享更多的情報,資金開始流向 Palantir,從洛杉磯開始,為所謂的的融合中心建立資料整合系統。
目前,已有 1300 多名經過培訓的 Palantir 使用者,分佈在南加州六家以上的執法機構,包括當地警察、警長部門以及酒精、菸草、火器和爆炸物局。
洛杉磯警局將 Palantir 的 Gotham 產品用於 Operation Laser,這是一個識別和阻止潛在犯罪分子的專案。
Craig Uchida 的顧問公司(司法與安全策略公司)設計了這套系統,將前科檔案、假釋報告、警局記錄和其它來源的資訊輸入系統,就能生成一份所謂的長期違規(慢性違法者)的名單。
該名單會被分發給巡邏人員,命令他們儘可能多地監視和阻止犯罪前的嫌疑犯,藉口包括亂穿馬路或修理票。在每次接觸中,警官都會填寫一張面試卡,上面有姓名、地址、車輛、物理描述、鄰居提供的任何情報以及警官自己對這個問題的觀察。
卡片會在 Palantir 系統中進行數字化處理,然後融入進一個不斷擴大的監視資料庫。在沒有搜查令的情況下,也可以完全可以進入這個資料庫系統。而明天的資料點會自動連線到今天的資料,目的是為了生成調查線索。
比如,一位慢性違法者被標記為一位因車燈壞了而停下來的車上乘客。兩年後,自動車牌閱讀器在距離州 200 英里的犯罪現場附近發現了同一輛車。只要車牌接觸到系統,公司系統就會給可以最先攔截這輛可疑汽車的警官發出預警。
另外,還有一個被社會學家 Sarah Brayne 稱為二級監控的網路,對這個平臺系統進行補充:一個與誰有關、朋友是誰或和誰一起過夜的網路。比如,系統中的一名女士,沒有被懷疑有任何的罪行,被確定在同一個朋友網路中有多個男朋友。
Brayne 曾在洛杉磯警局花了兩年半的時間來完成普林斯頓大學大資料警務的學位論文,現在,她是德克薩斯大學奧斯汀分校的副教授。
「任何登陸系統的人都可以看到所有這些親密關係」,她補充說,為了擴大可能的聯絡範圍,洛杉磯警局還嘗試購買私人資料,包括社交媒體、喪失抵押品贖回權和收費公路資訊,醫院、停車場和大學的錄影以及 Papa John's International Inc 和必勝客(Pizza Hut LLC)的交付資訊。
合憲性問題:為何法院尚未裁定 Palantir 分析工具的合法性
民權運動倡導者稱,對個人數字檔案的編纂缺少法院授權,是侵犯美國憲法的行為。執法官員稱,情況並非如此。
目前,該問題尚未解決,這可能不是偶然。
民權律師正在尋求一個案例來質疑 Palantir 使用的合憲性,但檢察官和移民局一直儘量不用該軟體來處理證據檔案,全國律師協會國家移民專案副主任 Paromita Shah 稱。「Palantir 靠那個秘密為生。」她說。
自 20 世紀 70 年代以來,最高法院對個人住所或汽車的搜查與開放或共享區內物品的搜尋進行了明確區分,前者需要搜查令,而後者不需要。隨著新技術的興起,法官們的思想似乎正在演變。
在 2012 年的美國訴瓊斯案(U.S. v. Jones)中,法官們說,在未得到授權的情況下,對一輛汽車植入 GPS 進行為期 28 天的追蹤,就能夠刻畫出該車主的生活全景,這違反了公眾對隱私的合理預期。
類似的還有 2014 年的瑞利訴加利福尼亞案(Riley v. California),法院認為,智慧手機包含如此多的個人資訊,是窺探使用者心智的一把虛擬金鑰,因而需要法院的搜查令。
首席法官 John Roberts 在他的多數意見中寫道:
「手機中包含的所有內容和所有可能被透露的內容,都是很多美國人的『私生活。』」
86 年前,Louis Brandeis 法官在一個竊聽案件中寫了一篇尖銳的異議,似乎可以完美預見 Palantir 的出現。
「也許某天會有解決辦法,」Brandeis 警告說,「在不調取證據檔案的情況下,政府可以在法庭上覆制這些檔案,這樣就可以使陪審團接觸到最為私密的事件。」――Peter Waldman
洛杉磯警察局拒絕就此事發表評論。Palantir 向彭博社提交了一份宣告,有關其與執法機構的合作:
「我們的(前線工程師)和(隱私與公民自由方面的)工程師與執法部門的客戶(包括洛杉磯警察局)一起工作,以確保我們的軟體得到妥善部署,以及軟體與其源系統的整合符合該部門的法律和政策義務,同時還需要考慮隱私權和公民自由權,這方面可能目前還沒有相關的法律背書,但在未來會得到解決。作為一家公司,在對上述情況進行全盤考慮後,我們才會定義軟體的合同型別和一般應用。警察機構的資訊系統使用方式要與其政策和法律程式相一致,他們對此負有天然的責任。」
Operation Laser 專案令洛杉磯警方的辦事方式更有針對性,社群活動人士稱其難以招架。一旦目標被鎖定,他們就在劫難逃了。
22 歲的 Manuel Rios 住在他祖母的房子後面,房屋位於洛杉磯東部的一座小山山頂上,處於該市幫派區的中心。他身材高大,膚色蒼白,頭髮稀疏,高中時飽受抑鬱和學習障礙的困擾,便輟學去超市工作。
與他一起成長的小夥伴們紛紛加入了 Eastside 18——第 18 街幫派在當地設立的分支機構,加利福尼亞南部最大的犯罪集團之一。Rios 說他從未「涉入」18 街的團伙。他沉溺於冰毒數年,一度因持槍而遭逮捕,並被判處緩刑。但是,除了由於入室搶劫城市檔案中心而在郡監獄裡呆了一段時間外,他避免了更多麻煩,並稱已於去年戒掉了毒癮。
2016 年,Rios 與一個 Eastside 18 的朋友坐在一輛停著的車裡,這時一輛警車停了下來。他的夥伴跑了,警察在後面追,但 Rios 沒有跑。
「我為什麼要跑?我又不是幫派成員,」他一邊在家附近的 IHOP 吃著牛排和雞蛋,一邊說到。警察回來後也給他銬上了手銬。其中一人用手機給他拍了照片。「歡迎加入幫派資料庫!」警官說。
他說,從那以後,自己被逮捕過十幾次,並被告知如果不爽就搬家。他無處可去。他的女朋友剛生了一個小女孩,他想和他們在一起。
「他們說你的資訊就在那個系統裡,所以你騙不了我們,」他說,「我告訴他們,『我又沒有加入,為什麼會在那裡?你們能分辨出誰是誰幹的嗎?』他們依據的是他們的事實,而不是真正的事實。」
在 Palantir 的指引下,警方正把 Rios 帶到他的幫派朋友們那兒去,而不是駛離他們。這讓 Mariella Saba 很擔心,她是 Rios 的鄰居以及社群組織人,就是該組織幫助 Rios 戒的毒。像洛杉磯東部這樣,當整個社群都被演算法嚴密審查,用以找出犯罪嫌疑人,此時就是資料決定命運,Saba 說道,
「這些都是系統性的過程。當人們不斷遭受幫派騷擾時,就會被推向幫派。他們被告知自己很糟糕,而這些人會將這一外部評價內在化。」
據兩起聯邦訴訟案可知,在芝加哥,由於移民和海關執法人員依據的團伙資料庫資訊有誤,至少有兩名移民被驅逐出境。
ICE(移民和海關執法局)自稱發現了芝加哥的幫派關係,但芝加哥是一個避難所,所以目前還不清楚箇中緣由。但 Palantir 是一個可能的因素。
該公司為庫克郡治安官辦公室提供了一個「智慧管理解決方案」,以整合來自至少 14 個不同資料庫的資訊,包括州和地方警察部門根據郡記錄編制而成的團伙名單。
Palantir 還與 ICE 簽訂了一份價值 4100 萬美元的資料探勘合同,用以建立該機構的「調查案例管理」系統。
其中一名被拘男子叫 Wilmer Catalan-Ramirez,是一名 31 歲的車身車間技工,去年有 6 名 ICE 人員未經批准闖入了他的家,使其受了重傷。他曾兩次入列當地幫派資料庫——處於敵對幫派。
Catalan-Ramirez 在聯邦拘留所呆了 9 個月,直到芝加哥市承認這兩份名單有誤,並同意向聯邦政府請願,讓他繼續留在美國。ICE 於一月將他釋放,並正在批准新的簽證申請。
西北大學 MacArthur 司法中心的律師 Vanessa del Valle 說:
「資料庫若充斥著未經證實的資訊,並且這些資訊常常是虛假的,就會破壞人們的生活。這些案例是展現這一假設的完美例證。」
相較於大多數被收購或上市的初創公司,Palantir 的年齡是它們的 2 倍。這家公司需要弄清楚的是,如何在不欺負老百姓的情況下獲得華爾街的青睞。這或許是不可能的。
就所有 Palantir 口中對個人隱私的關注而言,唯一的也是最重要的一個防止資訊濫用的保障,就是採用人力裁決,這也是該公司希望透過自動化來極力消減的部分。
由於 Palantir 試圖獲得企業客戶,而將自身定位成一家更為傳統的軟體公司,因此較少的前線工程師就意味著更少的人力決策。
對於一些敏感問題,比如對人們生活的窺探程度,將越來越多地由人工智慧和機器學習演算法來回答。負責隱私與公民自由方面的工程師小團體可能會發現,自己的影響力在縮小,因為客戶對於無所不能的追求慾望壓倒了任何自我強加的約束。
計算機不會問道德問題;而人會問,John Grant 說到。他是 Palantir 的頂尖 PCL 工程師之一,同時極力倡導對工程師進行強制性倫理教育。
「在一家像我們這樣擁有數百萬行程式碼的公司裡,每一個微小的決定都會產生巨大的影響。」Grant 在去年伯克利的一次隱私權會議上說到。
摩根大通的經驗仍具啟發意義。
「當每個人都可以被 Palantir 鎖定時,世界已經變了,」一位前摩根大通網路專家說到,他曾與 Cavicchia 在網路資訊內部威脅小組中合作過一次。
「邪惡想法的實施變得微不足道;每個人都是嫌疑犯,所以我們監視一切。這是一種非常可怕的感覺。」Michael Riley 說。