無人駕駛技術與個人隱私的終結

LiaLialu發表於2017-03-28

任何地方的任何事情,都將很快會被持續性地記錄並上傳到網際網路上。這一切將從人口密集的城市地區開始,並隨著時間的推移,擴充套件到地球上的每個角落。計算機視覺和人工智慧的進步意味著這些資料可以被大規模使用,給廣告,執法帶來革命性的變革,並且把我們帶回一個“隱私前時代”。

(是的,電影《少數派報告》跟這篇文章內容匹配度很高)

無人駕駛技術與個人隱私的終結

Photo Courtesy of Tesla

攝像頭隨處可見

來看看我們現在處在什麼情況:

  • 衛星和無人機可以拍攝到地球上的任何角落。這使得像 Terra Bella (Google 的子公司)向商業應用出售地球上任意角落的高清視訊成為可能。在大多數情況下,視訊的解析度還是比較低的,例如,你可以從空中監控一輛卡車是不是在一個建築工地裡,但是還是看不清卡車的牌照。
  • 閉路電視和家庭監控系統的普及度越來越高,這是由於感測器成本下降,國家和個人(家庭安全,babycams,等)對於安全監控的需求越來越高。在英國就有六百多萬個閉路電視(資料來源)。
  • 消費者視訊錄製呈現出誇張的增長態勢。資料表示,Youtube 上每天新增超過四百萬小時的視訊(相關文章)。並且這速度沒有在放緩,地球上50%人還沒有智慧手機,但是他們會漸漸開始使用這樣的智慧機。而 Facebook Live,Twitter 的 Periscope 和 Snapchat 等產品使現在的智慧手機使用者錄製更多視訊(現在也支援直播)。

正真跨越式的變革即將來臨:

  • 擴增實境眼鏡將逐漸進入大眾市場,它們需要持續性記錄使用者所看到的畫面,才能據此優化軟體的視覺效果。Microsoft Hololens 和 Snapchar Spectacles 是這方面的先驅,並且並且已經有了一些小突破。市場上也有很多聰明並且資金充足的人在開展 AR 工作,有50億美元資本和700多名員工組成的 Magic Leap 正悄悄地走在前頭。
無人駕駛技術與個人隱私的終結

Photo courtesy of Snap Inc

  • AV(無人駕駛汽車)也將進入大眾市場,並將持續性地捕獲高清高幀速的360°的視訊。如果將當前所有的汽車都應用上無人駕駛技術,這將是個巨大的變革,再加上無人駕駛技術的潛在市場—物流業的時候,這規模就更讓人眩暈了。隨著市場越來越“按需”發貨(亞馬遜現在提供一小時到貨服務) AVs (包括無人機)將是公司滿足這種需求的最有效低成本的途徑。如果駕駛員是免費的,並且充電也很有可能變得免費(得益於高效電動發動機以及太陽能發電的進步)——為什麼不10件衣服到家,等你試穿好了,再退9件你不喜歡的回去呢?(關於這方面的更多資訊:我的朋友 Alex Flamant 在倫敦未來學家見面會上就這個話題做了一個有預見性的演講。)

隨著這些技術的進步,我們距離用連續性高清視訊記錄地球的每個角落的時代越來越近。

現在,視訊越來越有趣(這裡就有一個有意思的),誰還願意坐著看完所有的這些文字資訊呢……

從視訊到資訊

在視訊資料爆炸式的增長下,計算機視覺技術在過去的20年裡有了飛躍式的進展。

讓我們從一些你可能沒有注意到的地方說起:

  • 視訊轉為麥克風:通過演算法可以很大程度上還原一段高清無聲視訊的聲音。這是通過識別由聲波引起的周圍物體的微小振動加以實現的(有些類似的技術能使我們得到視訊中某人的心率)。在這個視訊中就有一個神奇的例子,研究人員能夠通過從隔音玻璃後面拍攝一包薯片來恢復一段談話。恢復的內容已經足以讓人理解當時人們在說些什麼,要知道,視訊本身是沒有錄製下任何聲音的!雖然 AVs, CCTVs 等都不會刻意不錄聲音,但是這些技術有助於幫助長距離攝影,或者在使嘈雜地段的拍攝時獲得更高質量的聲音。
    無人駕駛技術與個人隱私的終結

    Hearing through a pack of crisps. The Visual Microphone: Passive Recovery of Sound from Video

  • 自然語言處理:你笨拙的 Google Now 或者 Siri 可能還不符合這條特性,但是在實驗室裡,我們已經能夠可靠地將聲音轉化為文字。用面部識別技術,以及用大量資料(來自智慧手機、機器人、以及 Amazon Alexa/Google Home 的對話介面)來訓練 NLP 演算法,促使這項技術有了創新性的進展。在2016年微軟在語音識別上打破了人類基準。不久之後,Google展示了為8種語言配對進行實時翻譯的新方法,表明這項創新技術已經完全超越了(大多數)人類的能力範圍!
  • 面部識別的難題可以認為已經被解決了。在2015年6月,Facebook的人工智慧負責人Yann LeCun宣佈,Facebook的演算法可以從40000張來自Flickr的照片中準確地識別出83%的人臉。有趣的是,人們的臉並不一定要在照片中出現,只要關於這位使用者的資料足夠多,演算法可以通過其它諸如服飾的線索來識別該使用者(“Mark似乎經常穿灰色的T恤”)。隨著網路上的照片越來越多,Facebook和Google的使用者也會對照片中識別出來的朋友做標記,成為演算法準確性的有效反饋,基於影象的面部識別技術正在不斷地得到提高。有了視訊,使用者習慣的歷史記錄,衣著風格,地理位置等資訊,這個演算法能夠輕易地超過自然人認人的能力。(你還記得上次想破頭都想不起來一個人的名字是什麼時候嗎?)。這項演算法會比你更能利用可見的線索。無人駕駛技術與個人隱私的終結

抽取有效資訊

AI技術能夠根據原始資料推斷出更高階別的概念資訊(特徵)。例如:人臉是從視訊中原始的畫素點裡抽取出來的一種特徵資料,這使得所有的視訊,音訊變得可搜尋。Clarify.io就是提供這種技術的一個公司。

無人駕駛技術與個人隱私的終結

Clarify.io (seems to work — the top result was an Elon Musk video!)

AI能做的事情遠不止給人類提供便捷的搜尋。它能夠有效地執行所有可能的搜尋,並且反饋更高層次的資訊,像是有趣的圖片,異常的事件等。

AI也可以跨資料來源地使用,把有相同關鍵資訊的資料放到一起。所以它不僅僅是“這個視訊裡面有一張人臉”,它還能夠找到這張人臉對應的人的名字,這個人的網路生活痕跡(包括所有這張臉出現過的地點,這個人在網路上瀏覽過的資訊,他發的訊息,社會言論等等)以及任何可用的資料資訊。

這些AI系統將繼續改進,每個改進的版本都會重新處理原始資料。英國警方通過用上週的所有公共閉路電視監控視訊作為原資料執行演算法,試圖找到犯罪分子的臉。現在的演算法可能還不能找到,但是未來的某個版本一定可以。

所以,這些技術上的進步會有什麼影響呢?

商業影響

廣告商,保險公司,零售商,銀行,都將像他們對待當前網際網路上的資料那般竭盡所能地充分發掘這些新資料的用途。他們的主要目的仍舊是要建立一個詳細的個人資料庫,將更多你感興趣的東西賣給你,並且量化你的風險承受能力和履約能力。

無處不在的視訊結合不斷改善的AI系統將能提供:

  • 你的社會經濟狀況:你住在哪裡,在哪兒工作,工資是多少,是否有孩子,經常跟誰一起出去,去哪裡,多久去一次。
  • 你的購物習慣:在哪裡購物,你穿什麼衣服,你的朋友穿什麼衣服,你工作需要穿什麼衣服
  • 你的健康狀況:你的活躍程度,是否吸菸/喝酒,經常去或點哪種餐廳的菜,過去看過多少次醫生
    無人駕駛技術與個人隱私的終結

    truly 121 advertising with a side of leather jackets and guns (Minority report)

它還在更巨集觀的層面上帶來了一些有趣並有前瞻性的機會:

當六七個價值一百美金的攝影機就能夠告訴你今年在東倫敦Shoreditch人們的穿著時,時尚界會發生什麼呢?—你可以通過社交和街頭攝影來追溯潮流始末,然後尋找一種新的流行模式?

——Benedict Evans,相機,電子商務和機器學習

不可避免的是,這些視訊的資料分析會被AV公司轉售,跟Google和Facebook轉售基於瀏覽歷史和使用者喜好的資訊一樣。商業機會巨大。

這些會不會正式發生都取決於圍繞這些視訊資料使用的規則的性質。非正式地說,根據網際網路上對於安全話題議論的熱烈程度來說,這些資料會被用於商業手段。

隱私影響

無人駕駛技術與個人隱私的終結

“The Right To Privacy” ~ December 15, 1890, Harvard Law Review

正如 Gregory Ferenstein 在《隱私的誕生和死亡》中明智闡述的,完全透明是人類的自然狀態。 隱私作為一個概念大約只有150歲。

很長一段時間來,我們現在所有的任何形式的隱私在物質上都是不可實現的。部落都群居在洞穴裡,古羅馬人住在只有一個房間的屋子裡,中世紀的家庭成員和僕從都睡在同一張床上—沒有私人空間和個人隱私的概念。

隨著私人生活成為可能—物理上獨立的房子,房間,床,以及書信和電話等新的通訊技術的產生,人們對隱私的渴望越發迫切。世界上第一條關於隱私的法律是1710年美國發布的《Post Office Act》,禁止郵政員工根據信件內容將信件分類。

然而,隱私跟方便和成本比起來始終是次要考慮的東西。這就解釋了為什麼那些侵犯個人隱私的新技術能被廣泛接受,還被認為很值得。

現在,自主車輛也是值得細細評估的新技術之一。僅僅用幾個標記告訴人們不要將油門踩的太足,就允許人們以每小時100英里的速度駕駛一噸重的鋼鐵巨物,是不是太瘋狂了?確實是的—美國每年30000人次的死亡都出自交通事故(即每17分鐘一個)。應用自主車輛,這個數字將會顯著降低,這也是這項新技術如此有吸引力的原因。但是,它對隱私有什麼影響呢?

這次,你無法置身事外。

智慧手機和網際網路革命都是深刻的變革,但是你可以選擇不用智慧手機或者不用Facebook, Google等諸如此類會實時收集和變賣你的資訊的服務。

在視訊無處不在世界中,跟蹤是完全離線完成的。當你走到外面時,你的所有行動都會流向資料庫,加上時間戳和地理座標並新增到你的數字檔案中。你不能選擇不用。

(要儘可能延遲這一天的到來,你可以:(1)確保你的臉不出現在網上,(2)生活在一個AV普及最晚的地方,比如朝鮮(3)住在一個常年多雲的地方,使得衛星和無人機從遠處看清你會很困難。更棒的是,我敢肯定你房子的租金會便宜很多。)

百分之百可執行

正如我們所知,美國提倡的無令監控現在正流行,像是英國的Snooper’s charter變成了法律,還有法國當前正經歷的緊急狀態。

無處不在的錄影也意味著一個發現市民反常舉動的潛在資料來源,這會被情報機構用於國防,但是這些資訊到了檢察官手上,也會對每一位公民都產生影響。

法律法規變得百分百可執行。如果檢察官能夠編輯視訊處理演算法中的所有違規行為—例如亂穿馬路(拿條特別可笑的法律做例子)然後執行在所有已有的美國社會公共生活的視訊上,就可以立即控告所有亂穿馬路的人。

我認為需要記住的最重要的一點是,美國曆史上有些時候正確的事情和合法的事情有的時候並不相同。

— Edward Snowden

另一個需要考慮的方面是,越多的資料被收集起來,尤其是視訊資料,將使得網路犯罪其廣泛程度和成功率不斷提高。犯罪目標會隨著跟蹤行動轉移到線下,進入現實物理世界,你可以想象一下,有人劫持了一臺無人機,通過黑到視訊流資料識別目標並操縱無人機去傷害他嗎。

?.現在怎麼樣?

現今,關於自主車輛和人工智慧的討論集中在這些最緊迫的問題上:使數百萬工作能自動化完成對經濟和社會帶來的影響(例如卡車司機,這是美國最受歡迎的工作)。這也是選民最擔心的問題。

然而,自主車輛對人們隱私的影響這個問題也需要在討論中佔有一席之地。我們需要對自主車輛的優缺點,包括它對隱私的影響進行仔細權衡,再決定是不是正式開始實施它。

辯論的結果應該是制定一些明確的規定:

  • 哪些資料是可以被AV攝像機收集的,以何種格式,哪些是需要匿名的以及如何匿名?
  • 這些資料應在哪裡儲存,共享和保護,保留多長時間,公眾對視訊有哪些許可權?
  • 誰來控制處理視訊資訊的演算法,我們應該如何評估其有效性及監管的合規性?(法官需要學會編碼嗎,法律是否會相應地變成程式碼?)

隨著最新科技被應用於這項技術(Elon Musk預期2018年可以生產出全自動的特斯拉汽車),政府部門是時候開始認真思考這些技術對隱私的影響了。

到目前為止,在我的研究中,我只在美國看過一份與此相關的法案,由兩個民主黨參議員提出,叫做“Security and Privacy in Your Car Act of 2015”

無人駕駛技術與個人隱私的終結

Introduced in July 2015, crickets since. (Bill Tracker at Congress.gov)

這份法案致力於:

防止未經授權的訪問:1)電子控制、運營資料,包括車輛位置,速度,車主,駕駛員,或者乘客資訊;2)由車輛內建的電子系統收集的駕駛資料。

正如這裡報導的,這項法案於2015年7月推出,Google,通用汽車,德爾福和Lyft的高管們於2015年3月15日出席了美國參議院委員會會議參與討論。高管們被問到是否應該有隱私和網路安全的最低標準,除了一個參與者同意外,其他人否決了這個提議,從那時起,這項法案就沒有被進一步討論了。

自主車輛可以給公眾跟蹤和監控提供進一步的變化:每時每刻都會被記錄在案,並且這次我們不能置身事外。

我很想被證明是錯的,但是在我們推行無人駕駛的過程中,隱私問題似乎已經滯後了。

 

感謝您的閱讀——如果有任何想法,請直接回覆在下方或者我的 twitter


感謝 Christian Moroy, Alex Flamant, 和 Gabriel Oppetit 關於這個令人興奮的話題的討論(以及對文章耐心的批評指正。)

相關文章