讀演算法的陷阱：超級平臺、演算法壟斷與場景欺騙筆記15_虛擬助手

1. 虛擬助手

1.1. 站在全球視角，這些公司是：亞馬遜、臉書、谷歌和蘋果

1.1.1. 蘋果的Siri

1.1.2. 亞馬遜的Alexa

1.1.3. 臉書Messenger應用上的M

1.1.4. 谷歌語音助手Assistant

1.2. 藉由人工智慧技術，虛擬助手將對使用者的個人電子檔案、日常行為等資料進行分析整合

1.3. 我們的時間寶貴，不應被浪費在生活瑣事之上

1.3.1. 超級平臺的目標和實踐路徑非常清晰：在它們所預見的未來裡，人們無須為生活瑣事太過費心

1.3.2. 免去了周遭生活瑣事環繞的紛擾，使用者可以既高效又有生活品質地管理自己的時間

1.4. 管家的重要職責在於揣摩主人的心意，熟識他的生活習慣，並在私下協調組織其他用人完成這些工作

1.4.1. 與管家的職責相近，人工智慧的虛擬助手也將成為我們與生活瑣事的互動介面

1.4.2. 一名專業管家的所長，熨帖地料理我們的生活，滿足我們的需求，不讓我們為此操心

1.4.3. 各大超級平臺開發虛擬助手的終極願景，透過語音或文字的互動方式成為我們首要並且唯一的生活助理

1.5. 在智慧助手興起的程序中，我們已經察覺到了兩處深刻的轉變

1.5.1. 這項技術正在由被動回應轉變為主動出擊

1.5.1.1. 虛擬助手開始主動預測我們的需求，而非原地待命

1.5.1.2. 不論是線上還是線下，虛擬助手簡化了使用者為完成某項任務所需的工作步驟

1.5.2. 巨大的風險也正在與人工智慧的技術發展相伴而行

1.5.2.1. 當我們從移動網際網路世界走向人工智慧主導的平臺時，我們將主要與虛擬助手進行交流

1.5.2.2. 透過機器學習，後者可以越來越好地“把準我們的脈”

1.6. 躲在理想助手背後的卻是一個最終可能損害我們利益的精密機器

1.6.1. 在我們不知情的情況下，“私人管家”可能會在暗中推動默許共謀，並“號召”零售商團結起來向完美行為歧視靠攏

1.6.2. 當虛擬助手的工作越發得心應手，它也將被賦予更多職責，進而強化超級平臺對我們所見所聞與消費決策的干預

1.6.3. 我們對虛擬助手的依賴越重，我們所能獲取到的外部選擇就越少，超級平臺因此排除異己，操控我們的虛擬世界

1.7. 反壟斷執法機構手中缺少一個標尺來判斷這期間是否存在產品質量的下滑或是對壟斷勢力的暗中助長

1.7.1. 如果使用者繼續對自己的網路活動疏於提防，執法機構的政策與工具箱也一成不變，那麼超級平臺對虛擬助手的操控將成為一個大機率事件

1.7.2. 在低資訊開放度、高個性化的互動介面中，具備高度自主性的演算法將給反壟斷執法帶來更多挑戰

1.8. 不論是在法制層面還是在人類的認知層面，執法機構與民眾都被超級平臺所俘虜，沒人意識到這些風險，而我們將在對科技進步的歡呼雀躍中緩慢步入真實的“楚門的世界”

2. 作惡

2.1. 在多邊市場中，享用了免費服務的我們並不直接為虛擬助手的服務付費

2.1.1. 雖然人們會懷著開放的心態歡迎這種個性化體驗，並逐漸與之建立起親密關係，但它的“心”和根基卻始終在其真正的主人那裡

2.1.2. 如果我們雙方的利益契合，那麼這將是個皆大歡喜的局面

2.1.3. 我們有時甚至根本就察覺不到自己與超級平臺之間的分歧

2.2. 我們留意到了人機互動介面的更替

2.2.1. 當有一個熱切的（還不收取費用的）私人管家在側，我們不免會對其產生依賴

2.3. 與虛擬助手的互動越多，我們就越變得疏於使用搜尋引擎、比價網站或者翻看旁人給出的產品評價和其他獲取資訊的工具

2.3.1. 和大多數人一樣，我們習慣於使用手機的預設設定

2.3.2. 如果使用者開始不再直接參與搜尋與（一部分）決策過程，那麼就意味著權力之棒被間接交給了超級平臺

2.3.3. 虛擬助手可能會在向使用者推薦產品和解決方案時自行發揮

2.4. 基於海量個人資料的獲取與分析，虛擬助手已在與使用者的互動過程中成長為一個可靠的私人管家，這也在無形之中抬高了使用者的轉換成本

2.4.1. 超級平臺所能為使用者提供的個性化體驗是其他中小型企業所無法媲美的

2.4.2. 作為虛擬助手的真正僱主，超級平臺所能攫取到的使用者資料極為可觀

2.4.3. 超級平臺已經投入了巨大的人力、財力、物力用於追蹤使用者行為資料，並以此充實自己的使用者個人資訊資料倉儲

2.4.4. 透過為使用者提供一款虛擬助手軟體，超級平臺可以獲得更多維的使用者資料

2.4.5. 隨著超級平臺實力的增強，破壞市場競爭秩序的風險等級也再度提高

2.5. 行為歧視場景

2.5.1. 收集到了更多使用者資料的虛擬助手將會更好地對使用者的消費能力和偏好做出分析研判

2.5.2. 它的目標是將適合我們的產品和服務以適當的價位呈現在我們面前

2.5.3. 由於這種個性化輔導是為我們的孩子量身打造的，所以我們無法判斷這筆輔導費用究竟是市場公允價格還是恰好契合了我們的支付能力

2.6. 由演算法驅動的共謀場景

2.6.1. 當虛擬助手充當起了使用者日常生活消費的協調組織者時，它儼然就是中心輻射式共謀的樞紐中心，令所有零售商分支上行下效

2.6.2. 虛擬助手可以從促成的每一單交易中抽取佣金，那麼高價產品與服務勢必意味著更高的佣金回報

2.6.3. 隨著虛擬助手逐漸融入我們的日常生活，使用者再難繞過它的存在而主動去發現一款低價商品

2.6.4. 貼心的私人管家卻總能在關鍵時刻用意料之外的折扣碼來為我們製造驚喜

2.6.4.1. 這樣做實則是為了懲戒那些自行採取降價銷售策略的零售商，令後者再不敢輕易背叛這個定價團體

2.7. 競合場景

2.7.1. 在多邊市場，虛擬助手打著“個性化”的名義，明晃晃地為自家生態系統裡的產品搖旗吶喊，然後又不露聲色地驅趕走了競爭對手

2.7.2. 超級平臺強者越強，獨立應用程式則將走向式微

2.7.3. 准入門檻的抬高令經濟與政治力量被匯聚到了更少人的手中

3. 操控

3.1. 一旦我們對虛擬助手形成了依賴，它將有機會了解到使用者的社會階層、政治觀點、日常行為以及對種種事物的成見與看法

3.1.1. 我們對免費的服務心懷感激，但是我們無法準確知曉所要為其付出的代價

3.2. 它的種種行為是出於幫助我們的目的，還是僅僅在操縱我們的日常行為

3.2.1. 它已經悄無聲息地為使用者築起高牆，令後者無緣接觸到超級平臺生態系統外的廣闊選擇

3.2.2. 它會暗中監視使用者的聊天記錄，以確認我們是否對它的服務（或是提供的產品折扣）不甚滿意

3.3. 虛擬助手的普及不僅會改變我們的消費方式與生活方式，它還會對我們的世界觀產生影響

3.3.1. 已在我們日常生活中扮演多重角色的虛擬助手或許正在重塑我們的世界觀

3.4. 一個值得信賴的私人助手會令其真正的僱主享有終極權力

3.4.1. 對人類的認知施加影響並引導輿論

3.4.2. 透過影響人們對世界的看法來干預政治選情

3.4.2.1. 透過操縱搜尋結果排名，“谷歌的搜尋演算法可以輕易地將未決選民的投票偏好提高20%或更多，在特定人群中，這個數字甚至會達到80%，而沒人知道他們的政治立場正遭到網際網路企業的操縱”。

3.5. 作為資訊入口的看門人，備受使用者信賴的虛擬助手將協助其背後的真正僱主從智識上捕獲使用者

3.5.1. 虛擬助手會對資訊進行篩選後推送給使用者

3.5.2. 越來越多的人卻開始依賴超級平臺的演算法為其推薦自己感興趣的文章

3.5.3. 當定價方式趨於個性化，市場中將缺乏一個能被視作標尺的公允價格

3.5.4. 個性化的新聞推送令讀者難以察覺系統後臺對推送內容的篩選和審查，人們想當然地會認為旁人接收到的新聞會與自己不同

3.5.5. 使用者之所以倚重超級平臺，部分原因在於他們相信超級平臺提供的演算法可以公允地為他們提供與被搜尋問題最為相關的答案

3.5.6. 由資料驅動的網路效應、龐大的資料庫、複雜精妙的演算法、縱向一體化戰略、多元化的服務種類與超強的系統互通性似乎照亮了超級平臺的未來

3.6. 倘若虛擬助手會蓄意引導社會輿論向有益於超級平臺的方向傾斜，我們恐怕也恍然不知

3.6.1. 虛擬助手將與我們如影隨形，我們甚至感受不到它的存在

3.7. 隨著我們越來越依賴於虛擬助手，它給我們帶來的負面影響也正被看淡

3.7.1. 你必須習慣性地假設自己的每點聲音都有人監聽。除非身在暗處，否則一舉一動都有人監視。這種習慣已經成為本能，生活早已如此。

3.7.1.1. 《1984》喬治·奧威爾（George Orwell）

4. 純淨版虛擬助手

4.1. 純淨版虛擬助手會在行為歧視暗中作祟，在我們險些忽略更好的外部選擇，在我們的個人資訊資料遭到洩露時向我們發出警告，它甚至可以在使用者面對這類風險時採取反制措施以保護我們的利益不受侵犯

4.2. 它將成為守護使用者利益的屏障，時刻記掛著我們的喜好，守護著我們的個人隱私安全

4.3. 你是選擇了一款不會收集使用者資訊，保障使用者隱私不被侵犯的引擎（比如DuckDuckGo），還是超級平臺生態系統內的那款會為你提供個性化搜尋結果的引擎

4.4. 可能的後果將為純淨版虛擬助手的誕生製造不小的阻礙

4.4.1. 為了做好自己的工作，虛擬助手必須清楚地知道使用者的生活習慣與喜好

4.4.1.1. 臉書M的基礎程式碼和演算法主要是開源的

4.4.1.1.1. 這是因為虛擬助手的核心資產並非演算法（否則臉書怎麼會無所介懷地開放這些資源），這項業務的真正價值體現在資料的規模與演算法的機器學習能力上面

4.4.1.2. 從實際效用上來講，使用者可以幫助超級平臺的演算法主動發現並糾正模型中的錯誤

4.4.1.3. 只有少數公司擁有相應規模與維度的個人資料以及利用真實資料進行模型校驗的機會，來讓它們的虛擬助手產品從理想走進現實

4.4.2. 由資料驅動的網路效應還將進一步激化超級平臺之間的競爭

4.4.2.1. 超級平臺的目標是要讓自家的虛擬助手成為我們獨家的私人助理

4.4.3. 藉助虛擬助手這個一體化問題解決方案，超級平臺得以高效地整合它的產品線與服務，並將自己的主打產品推向消費者

4.5. 我們要學會主動控制互動介面中應用程式的隱私許可權，並且懂得“免費也有可能很昂貴”這個道理