讀人工智慧全傳12人工智慧導致的問題1
躺柒發表於2024-07-14
1. 人工智慧會導致什麼問題
1.1. 人工智慧是一門通用技術：它的應用僅僅受限於我們的想象
1.1.1. 所有的技術都可能產生意想不到的效果，未來幾十年甚至幾百年內都存在可能性
1.2. 所有的技術都可能被濫用
1.2.1. 我們的無名氏祖先率先用上了火，我們不可能因為他沒預料到燃燒化石燃料將導致氣候變化而怪罪於他
1.2.2. 英國科學家邁克爾·法拉第(Michael Faraday)於1831年發明了電動機，他也沒預料到會產生電椅這種刑具
1.2.3. 1886年獲得汽車專利的卡爾·本茨(Karl Benz)肯定無法預言，他的發明在未來的一個世紀裡會造成數百萬人的si亡
1.2.4. 網際網路的發明者溫頓·瑟夫(Vint Cerf)可能也沒想到恐怖組織會利用他的發明分享可怕的sha人影片
1.3. 人工智慧將取代我們工作，這值得我們思考人工智慧的存在和發展將如何改變人們的工作結構，以及人工智慧擔任的職能和人類之間存在異化的可能性
2. 就業和失業
2.1. 它擁有使人失業的潛力
2.1.1. 電腦不會疲憊、不會宿醉、不會吵架、不會抱怨、不會要求成立工會
2.1.2. 它們不要工資
2.1.2.1. 這就是它會讓僱主開心、僱員緊張的原因
2.2. 人類勞動的大規模自動化至少可以追溯到1760年至1840年之間發生的工業歌命
2.2.1. 工業歌命代表商品製造方式的徹底改變，從小規模生產經營(家庭手工業)轉向我們今天熟悉的大規模工廠生產
2.2.2. 工業歌命並不是由單一的技術突破推動的，而是一系列的技術進步，加上獨特的歷史和地理環境促成
2.2.3. 工業歌命開創的工廠形式，使大多數人的工作性質發生了根本性的變化
2.2.4. 在工廠從事一項專業化、高度重複性的工作，作為涉及高度自動化生產流水線的一部分
2.2.5. 工業歌命前，大多數人直接服務於農業，工業歌命把人們從農村帶到了工廠所在的城鎮，把他們的工作地點從田地和農舍搬到了廠房
2.3. 盧德派
2.3.1. 在19世紀初期，盧德派運動興起，盧德派是組織鬆散的團體，他們反抗工業化，焚燒和粉碎了工廠的機器
2.3.2. 在1812年，英國正文府將破壞機器定為可判si刑的重罪
2.4. 最關鍵的技術“貢獻”應該是微處理器的發展，它讓工業裡面大量非技術性工作得以全面自動化
2.4.1. 微處理器發展是今天計算機技術得以實現的根本，它是一種系統部件，將計算機中央處理器的所有關鍵部件組合成單一、小型、便宜的單元
2.4.2. 微處理器等新技術的發展總體是讓經濟活動淨值增長的
2.4.3. 新技術創造了新機遇，創造了更多的企業、更多的服務和更多的財富
2.4.4. 微處理器發展的情況：新興技術創造的就業機會和財富比毀掉的多
2.5. 勞動自動化也不是什麼新鮮事了，但現在令人擔憂的事情，就像以前自動化和機械化奪走了非技術工作一樣，人工智慧可能會從我們手上奪走技術工作的機會
2.6. 三個不會輕易被人工智慧取代工作的特點
2.6.1. 需要創造性思維的工作被認為是安全的
2.6.1.1. 創造性思維職業包括藝術類、媒體類和科學類
2.6.2. 需要較強社交能力的工作也是比較安全的
2.6.2.1. 那些需要理解和管理人際互動和微妙人際關係的工作，不會輕易被人工智慧取代
2.6.3. 涉及靈敏感知和靈巧手工的工作也很難被自動化
2.6.3.1. 人類的手還是比機械手靈活得多
2.6.3.2. 2018年，羅德尼·布魯克斯預測，恐怕要到20年後才能出現一隻跟人類一樣靈活的機械手
2.7. 人工智慧所引起的焦慮和爭議，大多集中在失業問題上
2.7.1. 如果你的工作只是用程式化的指令碼跟客戶對話(就像許多呼叫中心接線員的工作)，那麼我很抱歉，人工智慧會很快讓你變成無用階層
2.7.2. 如果你的工作只是在一個受限制的、地圖清晰的城市地區進行日常駕駛，那麼很抱歉，人工智慧註定會取代你
2.8. 對於我們大多數人來說，新技術主要改變的是我們的工作性質
2.8.1. 拖拉機的發明沒有取代農夫，只是讓他們成為效率更高的農夫
2.8.2. 文書處理機的發明也沒有取代秘書，只是讓他們成為效率更高的秘書而已
2.8.3. 我們可以透過軟體智慧體來簡化工作，提升效率，這樣我們可以從無窮無盡的文書表格工作中解脫出來
3. 烏托邦主義者
3.1. 烏托邦主義者相信人工智慧最終會將全人類從枯燥乏味的工作中解脫出來
3.2. 在未來，所有工作(或者說，至少所有骯髒、危險、無聊或其他不受歡迎的工作)都將由機器完成
3.3. 短期內實現並不合理
3.3.1. 人工智慧所產生的經濟效益必須是巨大的，才能使全民基本收入得以實現，因此就需要遠遠超過以往的技術創新來支撐龐大的專案，而沒有任何跡象表明目前的人工智慧發展會帶來如此規模的經濟效益
3.3.2. 要想推行全民基本收入計劃，將需要前所未有的強烈政治意願：可能會在社會環境極其緊張的情況下才能迫使正文府接受這樣的行動方針
4. 演算法異化
4.1. 馬克思的異化理論關注的是工人與工作和社會的關係，以及資本主義制度是如何影響這種關係的
4.1.1. 工業歌命出現了工廠系統，工人們在工廠中從事重複性的、無聊的、最終毫無成就感的工作，以換取微薄的收入
4.2. 在未來，我們的老闆可能只是一段演算法
4.3. 零工經濟
4.3.1. 長期僱傭關係已經越來越少見，取而代之的是短期工作、計件工作和臨時工作
4.4. 人們日常工作所做的每一件事，甚至在鍵盤上按鍵的次數，傳送電子郵件的習慣語氣，都可以被電腦程式記錄和監控
4.5. 亞馬遜的工人
4.5.1. 你就像個機器一樣，不過是人形的，如果你樂意的話，可以管這叫作人類自動化。
4.6. 人類的勞動被系統地簡化為那些不能被機器或軟體自動化的任務，工人被細緻地監控和監督著，沒有創造力、沒有創新性、沒有個性，甚至沒有思考的空間
4.7. 從工業歌命時期就存在的趨勢，人工智慧只是擴充套件了它的維度
4.8. 技術是中立的
5. 人權
5.1. 人們對人工智慧的使用的更大擔憂，是它影響了最基本的人權
5.2. 擁有一個人工智慧系統做老闆已經很讓人頭疼了，它告訴你什麼時候可以休息，什麼時候應該工作，給你設定目標，並對你的工作狀況隨時監控和批評
5.3.1. 旨在幫助警察決定應該釋放還是拘留涉案嫌犯的人工智慧系統
5.3.2. HART是機器學習的經典應用，它的訓練庫包括2008至2013年獲得的所有拘捕資料(約104 000起拘捕事件)，並用2013年的全年拘捕資料進行測試(測試用的資料未納入訓練庫
5.3.3. 主要問題在於HART只關心獨立案件的一系列特徵，它不會像一個有經驗的監管人員那樣，會綜合考慮嫌犯背景和案件流程，所以它的重要決定是基於相當狹窄的資料基礎做出的
5.3.3.1. 決策缺乏透明度也是一個令人擔憂的問題(這是機器學習的經典問題，人工智慧程式無法給出決策的解釋)
5.3.4. 培訓所使用的資料特徵可能存在偏差，也有人提出這一點(尤其是將嫌疑人的住址作為特徵之一，這更令人擔憂，該系統的決策可能涉嫌歧視底層區域的人)
5.3.5. HART是由經驗豐富的研究團隊開發的，他們應該全面周到地考慮過這款軟體可能面臨的各類問題
5.3.5.1. 並不是所有開發者都有如此豐富的經驗，或者會如此深入思考
5.3.5.2. 令人擔憂的是，代替人類做決策的系統，是否在開發環節考慮得足夠謹慎和全面
5.4. HART這樣的系統侵蝕了人類判斷的地位
5.4.1. 對一個人做出重大影響的決策者是人類，比起別的東西，更讓人感覺自在
5.4.2. 這些工具只能用於為人類決策者提供支援，而不能取代人類進行決策
5.5. 讓人工智慧系統識別一下人臉就可以發現潛在的犯罪行為
5.5.1. 系統訓練使用的是警方拍攝的罪犯面部照片，而這些照片往往都不會面帶微笑