讀人工不智慧：計算機如何誤解世界筆記08_受歡迎的
躺柒發表於2024-03-03
1. 受歡迎的
1.1. 受歡迎的不一定就是好的
1.2. 拍照時焦點對準，不要截斷人物的額頭
1.3. 最初的自拍照片池中包括老年女性、男性和有色人種的照片，但幾乎所有的“好照片”中都是年輕白人女性
1.3.1. 資料科學家基於“受歡迎程度”建立了一個具有顯著偏見的模型
1.3.2. 該模型偏向年輕、順性別的白人女性的影像，符合一種狹隘的異性戀吸引力定義
1.4. “受歡迎”和“好”的歸併對所有涉及對質量的主觀判斷的計算決策都有影響
1.4.1. 對讀者的社會含義是，除非你以某種方式看，否則你的照片不可能是好的
1.4.1.1. 任何善良或理性的人都不會對另一個人說這樣的話
1.4.1.2. 這不是真的
1.4.2. 機器只能使用演算法中指定的標準來識別受歡迎的事物，它無法自主識別出這些事物的質量
1.5. 演算法是由人類設計的，人類會將他們無意識的偏見嵌入演算法
1.5.1. 這種行為幾乎都不是故意為之
1.5.2. 並不意味著我們應該甩掉資料科學這個包袱
1.5.3. 意味著我們應該對我們已知的可能會出錯的事情保持批判和警覺
1.5.4. 如果我們判定了預設的歧視行為，就可以設計出推進平等觀念的系統
2. 無意識偏見
2.1. 程式設計師的無意識偏見已經存在多年
2.2. 所有女性使用者最常用的自我量化功能
2.3. 一般來講，在市場營銷和人力資源部門晉升到高層的女性往往會提升領導層職位的統計資料
2.4. 在科技公司，實權往往掌握在開發者和工程師手上，而非市場營銷人員或人力資源人員
3. 萬物皆可排名
3.1. 大學排名，運動隊排名，駭客馬拉松排名
3.2. 學生費盡心思爭奪班級排名，學校被排名，企業員工被排名
3.3. 一半學生的成績高於平均水平，一半低於平均水平，而且會有一小部分學生的成績極高
3.3.1. 正態分佈
3.3.1.1. 貝爾曲線
3.3.2. 這種情況是正常的
3.3.3. 但是學區辦公室和州官員都堅持，他們的目標是讓所有學生達到良好水平
3.3.4. 除非將良好水平的標準設為0，否則這是不可能的
3.4. 對學區來說，他們希望所有學生都能得高分，這是受歡迎的
3.4.1. 要完成一個不可能實現的理想並不一定是好事
3.5. 受歡迎比好更重要，這個觀念被刻在網際網路搜尋的基因裡
3.5.1. 最常被引用的就是最重要的論文
3.5.2. 學科最好的論文成了最受歡迎的論文
3.6. 受歡迎的網頁就是好網頁
3.6.1. 谷歌
3.6.2. 部分是因為當時網路上的內容非常少，“好”的門檻並不高
3.6.3. 搜尋排名模型取自學術出版界
3.6.4. 廣告模型則取自印刷出版業
3.7. 和臉書資訊流之類的滾屏閱讀方式大不相同，因為報紙編輯會考慮版面內容的混合
3.7.1. 輕鬆的，黑暗的，還有若干中篇幅的報導來平衡版面
3.7.2. 這是好的，但並不受歡迎
3.7.3. 自從社交媒體蠶食世界以來，紙質媒體的流量一直在穩步下降
4. 作弊
4.1. 作弊已被刻在現代計算機技術和現代科技文化的基因中
4.2. 網際網路是一項偉大的發明，但它也釋放出了史無前例的欺詐行為和謊言網路
4.2.1. 欺詐活動，每天甚至每小時都在網際網路上發生
4.3. 科技界對假新聞的存在並不感到意外，讓他們感到意外的是人們對假新聞的認真態度
4.4. 有些人以為在網際網路上讀到的內容跟在合法新聞媒體上讀到的內容是同樣權威的
4.5. 一些技術創造者對此視而不見，因此我們需要包容性技術，還需要調查性新聞來向演算法及其發明者問責
4.5.1. 存在歧視情況有部分原因是有資料記者和學者已經採用了演算法問責制
4.6. 2016年12月，電腦科學家的主要專業協會美國計算機協會（ACM）自1992年以來首次更新其道德準則
5. COMPAS
5.1. 替代性制裁懲教罪犯管理
5.1.1. 試圖衡量哪些被拘留者有再次犯罪的風險
5.2. 不僅是因為機器偏見，關鍵在於損耗
5.3. Northpointe公司，是試圖使用定量方法提高警務效率的眾多公司之一
5.4. Northpointe公司沒有人意識到這份問卷或它的評估結果可能存在偏見，這跟技術沙文主義者獨特的世界觀有關
5.4.1. 認為數學和計算“更加客觀”或“更加公平”的人通常也傾向於以為敲兩下鍵盤就能消除不平等與結構性種族主義
5.4.2. 他們認為數字世界與現實世界不同，並且優於現實世界
5.4.3. 透過減少人類決策，將決策權出讓給計算，我們可以讓世界變得更加理性
5.4.4. 如果開發團隊規模小，成員間又志趣相投，且缺乏多樣化的話，這種思維可能看起來就很正常了
5.4.5. 事實上，它並不會讓我們的世界變得更加公正和平等
6. 電梯
6.1. 電梯是一種嵌入了程式的複雜機器，有一個演算法決定哪部電梯去到哪個樓層，哪部電梯快速到達大樓的大廳，以及哪部電梯沿途停靠
7. 毒品
7.1. 毒品是受歡迎的，一直都是如此
7.2. 毒品在20世紀60年代就是反主流文化的主要部分，從迷幻藥、大麻、迷幻蘑菇、佩奧特仙人掌到快速丸冰毒，不一而足
7.3. 2014年，加利福尼亞州18歲到25歲的人群中違禁藥物的依賴性和濫用率在全美所有州中排名第二
7.4. 毒品在矽谷發揮著很大的作用，在更大的科技文化圈中也一樣
7.5. 矽谷有一種工作狂文化，能以極快的速度處理緊急專案的工作能力在這裡幾乎是榮譽的象徵
7.6. 嗑食快速丸可以保持清醒，止痛藥則對睡眠有幫助
7.7. 毒品在科技界一直很受歡迎，但是多年來，只要開發者按期提交程式碼，就沒有人真正在乎過開發者有沒有嗑藥
7.8. 當技術誕生於自由主義價值觀下，並且罔顧技術的使用場景，這就是合理的結果
8. 新技術創新
8.1. 但凡有新技術創新面世，不妨多問問它是否足夠好
8.1.1. 這項新技術對誰有好處？
8.2. 我們做任何技術選擇，都必須調查它們更廣泛的應用和影響，並且做好準備，去面對我們可能不喜歡的調查結果