編譯 | Rik R、Edison Ke
來源 | Techcrunch
作者 | Natasha Lomas
近日，Gartner 列出了人工智慧手機的十大「高影響力」應用，並稱這些應用將為裝置供應商賦予「更高階」的使用者體驗，從而為客戶帶來更多價值。
它還預測，到 2022 年底，擁有人工智慧特性的智慧手機將佔到全球出貨量的 80%，而這一數字在 2017 年只有 10%。
在 Gartner 看來，由於資料的處理和儲存過程是在本地進行，因而人工智慧裝置的普及意味著資料安全性和電池效能的提升。
在 2020 年，搭載以下 10 種 AI 功能的智慧手機將走入我們的生活。而這些新功能在帶給人們期待的同時，也不可避免地引發人們的擔憂。
1）使用者行為預測
「智慧手機將成為使用者個人的延伸，能夠識別使用者並預測他們下一步的行動。它將會知道你是什麼樣的人，你想要什麼，你什麼時候想要，你想要它做什麼，並按你的意願執行任務。你的智慧手機會 24 小時追蹤你的動態，幫助你學習、計劃並解決問題，」Gartner 分析師 Angie Wang 說，「智慧裝置將利用其感測器、攝像機和資料來自動完成這些任務。例如，在智慧家居場景中，它可以命令真空吸塵器在無人的時候打掃，或者在你回家前 20 分鐘開啟電飯鍋。」
事實上，這項追蹤服務也在無時無刻地監視使用者的一舉一動，以便在其演算法黑盒子裡複製一個數碼版替身。
那麼，它是否會不厭其煩地試圖預測使用者的所欲所求呢？如果人工智慧的選擇不對使用者的胃口，或許更糟，那該怪誰呢？
比如，人工智慧派真空吸塵器去打掃孩子們的螞蟻洞穴，或者，如果開啟了空電飯煲（假如使用者忘記將開關掰起），那麼最好是損失一點電費，最壞也就是把房子燒了。
都說人工智慧助手很快就會開始真正地瞭解並幫助人類。但是，除非只做一些簡單的事情，比如播放音樂，或者再細一點，找一首相似的音樂來聽，以及一些基本的事情，比如搜尋某個條目，否則它們比起白痴專家們可能只是有過之而無不及。
2）使用者身份驗證
「用密碼進行身份驗證已經顯得太過複雜且效率低下，導致安全性差、使用者體驗差、記憶成本高。而結合了機器學習、生物識別和使用者行為的安全技術，則可以提高裝置的可用性和自我服務能力。例如在走路、刷二維碼、按壓點選、翻頁滾動和打字輸入的時候，無需要密碼或主動認證，智慧手機能夠捕捉並瞭解使用者的行為模式。」
難道說，不完全放棄隱私就得不到安全嗎？如果沒有這項技術，使用者會被自己的裝置拒之屏外嗎？
或許使用者所期待的是手機在任何其它特定的時刻都是鎖著的，因為手機裝置是私人物品，而情況並不總是可預測的。
而且，如果使用者想和家人分享移動裝置呢？難道他們也必須在萬能的數碼裝置之眼前展現自己的生物資訊嗎？這樣的話，要想用人工智慧增強型多層生物識別系統來在親人之間共享裝置，是不是反而變得更加困難了？
蘋果公司在 iPhone X（不支援多人臉註冊）上將指紋生物識別（允許註冊多個指紋）換成了面部生物認證系統，可能就是這一情況的展現。
3）情感識別
「情緒感知系統和情感計算，允許智慧手機檢測、分析、處理和響應人們的情感狀態與情緒。虛擬個人助理及其它基於人工智慧的會話系統，這些技術的擴散推動了各個行業新增情感智慧的需要，以便更好地理解應用情境並增強服務體驗。例如，汽車製造商可以使用智慧手機的前端攝像頭來了解司機的身體狀況或測量其疲勞水平，從而提高行車安全性。」
如果廣告商也能接觸到這種超敏感的情感資料，那麼他們會用來做什麼？
要想公平客觀地討論情緒感知系統是不可能的。在潛在風險方面，Facebook 提供了一個明確的指引——去年洩露的內部檔案表明，社交媒體巨頭正在吹噓其對使用者資料的處理能力，將青少年的不安全感當成了其廣告銷售業務的賣點。因此，雖然情境感知或許會推薦一些實用的功能，深受智慧手機使用者的追捧並讓他們樂在其中，但也具備很高的再開發潛力，且很容易感知到入侵——比如一個青少年在開門時，他的智慧手機就知道在什麼時候給他推廣告，因為此時使用者正處於低落的情緒中。
如果本地化執行的情緒感知系統可以保證不洩露情感資料，那麼就不必對人工智慧裝置太過於擔心。但是，在智慧手機的使用者介面中新增人工智慧來規範情緒跟蹤的做法，無疑會推動類似這種「增強型」服務在其領域的滲透——這取決於個人應用程式開發者（及其對隱私和安全的態度），他們將決定你的情感使用方式。
至於汽車，不是說人工智慧會替代人類司機嗎？為什麼人類需要人工智慧看門狗來監視自己在汽車內情感狀態（到那時，汽車或將真的變成可供休息和娛樂的體驗艙，類似於私人飛機）。對於情緒感知系統面向消費者的安全性辯護似乎令人難以置信。然而，出於各種原因，政府機構和企業仍然願意隨時訪問使用者的情感資料。
4）自然語言理解
「智慧手機中的連續訓練和深度學習可以提高語音識別的準確性，同時更好地理解使用者的特定意圖。例如，當使用者說『天氣很冷』，按照當時的語境，他或她的真正意圖可能是『請在網上訂購一件夾克』或『請調高溫度』。在出國旅行時，自然語言理解可以作為智慧手機中一個接近實時的語音轉換器。」
雖然人類夢想著擁有自己的私人樂園，那裡可能存在一個絕佳的智慧助手，可以在無意間聽到其主人說「天氣很冷」時自動訂購一件完美的外套。
但是，事實是，你的信用卡會與這位智慧助手綁在一起，這意味著人工智慧將會代你付錢。此外，人工智慧還會資料探勘瞭解使用者之前的外套購買記錄，這會直接減少著裝風格的選項。
消費者被灌輸了很多對於人工智慧個人助理的完美想象，這一營銷「美夢」充斥著很多懸而未決的疑問，比如該技術到底能夠提供多少可靠的實際效用？
除非是那種願意每年復購同一品牌夾克的人，並認為線上手動搜尋點選異常不便。否則誰會覺得這種人工智慧會對生活質量有什麼明顯的改善呢？是直接對一個聯網機器人助手說「調高溫度」，還是讓一個機器人助手一週 7 天 24 小時監視你，只是為了在它無意間聽到你談論天氣冷時可以自動應用計算單元來選擇升溫——而且有可能你只是在談論天氣，也不是秘密要求房子魔法般地主動變溫暖。那時，也許你在人工智慧身邊時（無論何時何地），就需要注意自己的措辭了。
人類在同類之間的交流已經很困難了，期待機器會比我們做得更好，這似乎是異想天開。
5）擴增實境與人工智慧視覺
「隨著 iOS 11 的釋出，蘋果在系統中新增了一個 AR 工具箱（ARKit）功能，它為開發者提供了新的工具，使應用程式更容易新增 AR。類似地，谷歌宣佈了其 ARCore AR 開發者工具，並計劃在明年年底前在大約 1 億臺安卓裝置上實現 AR 功能。谷歌預計，在明年年底，幾乎每款新的安卓手機都將自帶 AR 功能。一個 AR 在應用程式中充分利用的例子是，它可以幫助收集使用者資料並檢測諸如皮膚癌或胰腺癌等疾病。」
雖然不可避免地，大多數 AR 應用程式可能無法真的擁有癌症檢測這樣好用的功能，但沒有人會去拒絕「可能避開嚴重疾病」的功能。也就是說，一個收集個人資料用於醫療診斷的系統會放大關於健康資料如何被智慧手機供應商妥善儲存、管理和保護的問題。蘋果在健康資料方面一直是積極主動的，但與谷歌不同的是，它的商業模式並不依賴於透過分析使用者來銷售有針對性的廣告，因此在其中存在著有競爭的商業利益型別。
事實上，無論裝置上的人工智慧怎麼樣，使用者的健康資料似乎不可避免地會被從本地裝置上取走，以便第三方診斷應用程式進行處理（這些應用程式希望獲得這些資料來幫助改進他們自己的人工智慧模型），因此資料保護的顧慮也隨之增加。與此同時，強大的人工智慧應用程式可能會突然診斷出非常嚴重的疾病。這也會引發更廣泛的問題，比如應用程式如何負責地、善解人意地告知一個人，程式認為他/她有一個嚴重的健康問題。當顧問是機器人時，「不傷害」就開始變得更加複雜。
6）裝置管理
「機器學習將提高裝置的效能和待機時間。例如，智慧手機可以透過許多感測器來更好地理解和學習使用者的行為，比如何時使用哪個應用程式。智慧手機將能夠將頻繁使用的應用程式在後臺執行，以快速重新啟用應用，或者關閉未被使用的應用程式來節省記憶體和電池。」
這是又一個基於無處不在的監視和減少的使用者代理的人工智慧應用——如果使用者想讓一個通常會直接關閉的應用程式持續執行該怎麼辦呢？反之亦是問題。
人工智慧的模板並不總是能完美地預測變化著的使用情況。
最近，報導揭露了蘋果 iOS 為了在電池老化後勉強維持手機效能而限制舊 iPhone 手機效能。針對於此的批評是個重要的警告：消費者可能對因為生產商的設計而喪失裝置的控制權做出意想不到的反應。
7）個人分析
「智慧手機能夠收集資料來進行行為分析和個人分析。使用者可以基於他們正在進行的活動和所處的環境（例如，家庭、車輛、辦公室或休閒活動）動態地接受保護和幫助。保險公司等服務提供商現在可以更關注使用者，而不是資產。例如，他們可以根據客戶的駕駛行為來調整汽車保險費率。」
由智慧手機感測器資料（如位置、速度、移動等）驅動的基於普遍行為分析的保險費定價當然也可以調整成為一種對裝置所有者的懲罰。比如，如果一個人的手機顯示他們經常急剎車，或經常在某些區域的超速。那麼人工智慧不是應該取代駕駛員嗎？所以自動駕駛汽車需要駕駛者有駕駛保險嗎？或者，傳統的汽車保險費不不應該在自動駕駛情況下降到零嗎？那麼，透過無所不在的個人分析，消費者的利益究竟在哪裡呢?
與此同時，歧視性定價是另一個個人分析帶來的明顯風險。利用智慧手機對其主人進行行為分析還能用於什麼目的呢？是想知道花在辦公室電腦鍵盤上的時間還是花在電視機前的時間？由於智慧手機的普遍存在（也就是「非可穿戴式可穿戴裝置」）的普遍存在，幾乎每一個日常事物都可能透過常開的人工智慧程式進行量化，但這真的是可取的嗎？使用者意識到自己是在顯微鏡下，不斷地被判斷他們是如何生活時，有沒有可能不讓他們有不適、壓力和失去動力的感覺？
8）內容審查/檢測
「可以自動檢測受限制的內容。可以對令人討厭的影像、影片或文字進行標記，並且可以啟用各種通知警報。計算機識別軟體可以檢測任何違反法律或政策的內容。例如，在高度保密設施拍攝照片或在公司付費的智慧手機上儲存高度機密的資料將會通知 IT 部門。」
個人智慧手機對使用者違反公司 IT 政策的檢舉聽起來就像是來自一部反烏托邦科幻小說。基於人工智慧的內容審查也是如此。
其實，人工智慧未能正確識別影像，或者將影像完全分錯類的例子比比皆是，且越來越多——這也包括被故意摻假的圖形愚弄。而科技公司用自己的公司政策以各種方式遮蔽某些類別的內容，或內容的一部分（包括真正的標誌性和真正自然的東西）的歷史已經不短。我們手中的裝置究其根本是由受到自身商業目的和政治壓力影響的商業實體控制的，任由這些裝置在使用者介面上控制我們能夠看到什麼或做什麼，可以說並不明智。這甚至還將標誌著使用者和他關聯的裝置之間操控權的顛覆性變化。
9）個性化照相
「個性化照相包含那些能夠根據使用者個人審美喜好自動美化其照片的智慧手機。例如，東西方的審美偏好不同——大多數中國人喜歡雪白的膚色，而西方的消費者更喜歡褐色皮膚。」
在種族歧視的「美化」濾鏡方面，人工智慧已經有了一段零碎的歷史。因此，任何型別的自動調整膚色似乎都是不明智的。放大來看，這種主觀性的自動化也同樣是一種可怕的簡單化——透過侵蝕人們發現其他的視角和美學的途徑，從而更加牢固地將使用者鎖定在人工智慧合成的濾鏡內。如果人類的眼睛不知不覺地被演算法戴上了有色眼鏡，那麼還哪來的「情人眼裡出西施」呢?
10）音訊分析
「智慧手機的麥克風能夠不斷地監聽真實世界的聲音。裝置上搭載的人工智慧可以分別這些聲音，並指導使用者或觸發事件。例如，智慧手機可以聽到使用者的鼾聲，然後觸發使用者的腕帶，以促使使用者改變睡眠姿勢。」
在臥室、浴室、客廳、廚房、汽車、工作場所、車庫、酒店房間裡，智慧手機的麥克風會不斷識別並推斷出那些關於你和你生活的一切。人們真的想讓一個外部的商業機構以如此親密的形式來替自己決定如何能最好地系統化生活，甚至有能力左右自己的睡眠狀況嗎？
人們想要建立的人工智慧系統需要近乎極權的資料或資料的訪問，然而，消費者主張的資料僅能提供有限的、微不足道的或偶然的效用。
這種差異並不會影響到大型資料探勘業務，他們的使命是收集大量資料，以便在幕後推動關鍵的業務人工智慧工作。但對於那些要睡在一個主動偷聽例如臥室活動的個人裝置旁邊的智慧手機使用者來說，這個等式開始顯得更加不平衡。即使你個人不介意，不管你周圍的其他人喜歡與否，他們的「真實聲音」也會被你的手機窺探。你有問過他們是否想要一個人工智慧來量化他們發出的聲音嗎？你打算通知每一個人你正帶著一個竊聽器嗎？
原文連結：https://techcrunch.com/2018/01/06/the-light-and-dark-of-ai-powered-smartphones/