比爾·蓋茨最喜歡的一本AI書籍

當人們問我（比爾蓋茲）關於人工智慧的問題時，他們的問題往往歸結為以下幾點：

• 我應該關注什麼？
• 應該有多關注？

這是我推薦給國家元首、商界領袖和任何有此要求的人最多的一本關於人工智慧的書，因為它提供了一種罕見的東西：

• 對未來非凡的機遇和真正的風險都有清醒的認識。

作者穆斯塔法-蘇萊曼以獨特的視角看待這個話題。

在幫助 DeepMind從一家小型初創公司發展成為過去十年中最重要的人工智慧公司之一之後，他又創立了Inflection AI公司，目前領導著微軟的人工智慧部門。

本書的特別之處不僅在於穆斯塔法的親身經歷，還在於他對科學史和技術革命發展過程的深刻理解，因為他是一位嚴肅的知識分子，能夠將幾個世紀的科學進步進行有意義的比較。

對《即將到來的浪潮》的大部分報導都集中在它對人工智慧的論述上--這也在情理之中，因為它是有史以來最重要的人工智慧書籍之一。可能沒有人比穆斯塔法更有資格寫這本書了。

2016年，當DeepMind公司的AlphaGo在圍棋上擊敗世界頂尖棋手時，他就在現場。圍棋比國際象棋複雜得多，背後蘊含著2500年的戰略思維，而AlphaGo所走的棋步是從未有人想到過的。 透過這樣做，基於人工智慧的計算機程式表明，機器可以在我們自己的遊戲中擊敗人類，這也讓穆斯塔法提前看到了未來的趨勢。

但穆斯塔法在書中與眾不同之處在於：

• 他洞察到人工智慧只是前所未有的科學突破匯聚的一部分。
• 基因編輯、DNA 合成和生物技術的其他進步也在同步向前發展。

歷史學家尤瓦爾-諾亞-哈拉里（Yuval Noah Harari）認為，在開發先進的人工智慧之前，人類應該先弄清楚如何合作和建立信任。

• 理論上，我同意這個觀點。

如果我有一個神奇的按鈕，可以讓整件事慢上三四十年，讓人類找到信任和共同目標，我可能會按下它。但這個按鈕並不存在。 無論任何個人或公司做什麼，這些技術都會被創造出來。

就目前而言，隨著成本的下降和計算能力的增強，技術的進步已經在加速。此外，利益和權力也是推動發展的動力。 國家與國家之間競爭，公司與公司之間競爭，個人與個人之間競爭榮譽和領導地位。

• 這些力量使得技術進步勢不可擋，同時也使其更加難以控制。

在我關於人工智慧的談話中，我經常強調我們需要考慮的三大風險：

1. 首先是經濟混亂的快速發展。 人工智慧可能從根本上改變工作本身的性質，影響大多數行業的工作，包括傳統上免受自動化影響的白領崗位。
2. 其次是控制問題，即當人工智慧變得越來越先進時，很難確保人工智慧系統與人類的價值觀和利益保持一致。
3. 第三種風險是，當壞人有機會使用人工智慧時，他們會變得更加強大--更有能力進行網路攻擊、製造生物武器，甚至危害國家安全。

最後一種風險--賦予壞人權力--導致了我們這個時代最大的挑戰：必須對其遏制。

我們如何限制這些技術的危險，同時利用它們的好處？
這是《即將到來的浪潮》的核心問題，因為遏制是其他一切的基礎。

沒有它，人工智慧和生物技術的風險就會變得更加尖銳。

首先解決這個問題，我們就能創造解決其他問題所需的穩定和信任。 當然，說起來容易做起來難。 以前的變革性技術（如核武器）可以透過實體安全和嚴格的訪問控制來控制，而人工智慧和生物技術則帶來了根本不同的挑戰。 它們越來越容易獲得，價格也越來越低廉，它們的發展幾乎不可能被發現或監控，而且它們可以關起門來使用，只需最少的基礎設施。

取締這些技術將意味著好人單方面解除武裝，而壞人卻依然勇往直前。 這將傷害所有人，因為這些技術本質上具有雙重用途。 可用於製造生物武器的工具同樣可以治療疾病；可用於網路攻擊的人工智慧同樣可以加強網路防禦。

那麼，我們如何在這個新的現實中實現遏制呢？
如果抱怨穆斯塔法沒有憑一己之力解決人類有史以來面臨的最複雜的問題之一，這並不公平。 儘管如此，他還是提出了一個與挑戰規模相稱的雄心勃勃的議程：從技術解決方案（比如為人工智慧系統建立一個緊急關閉開關）到全面的制度變革，包括新的全球條約、現代化的監管框架以及政府、公司和科學家之間的歷史性合作。

當你讀完他的建議清單時，你可能會懷疑我們是否真的能及時完成所有這一切。 但這正是這本書如此重要的原因：它幫助我們在還有時間採取行動的時候瞭解緊迫性。

(透過這些清單，也可以遏制後來者居上，對於這種打著道德旗幟的蠱惑言論，只能聽聽而已，千萬別當真，否則就被嚇唬住了)

我一直是個樂觀主義者，閱讀《即將到來的浪潮》也沒有改變這一點。

我堅信，人工智慧和生物技術的進步可以幫助實現致命疾病的突破性治療、氣候變化的創新性解決方案以及人人享有優質教育。 但真正的樂觀並不是盲目的信仰。 它既要看到好處，也要看到風險，然後努力塑造更好的結果。 無論你是科技愛好者、政策制定者，還是隻是想了解世界走向的人，你都應該讀一讀這本書。 它不會給你簡單的答案，但會幫助你提出正確的問題，讓你做好更充分的準備，迎接即將到來的浪潮，而不是被浪潮捲走。

網友討論：

網友1：
這本書充其量只能算是中等水平。從文學角度來看，它很糟糕。讀起來就像是 GPT-3.5 寫的。現在從介紹新想法的角度以及理解人工智慧將如何影響社會來看，它還不錯。這本書充滿了矛盾。蘇萊曼經常指出我們從未成功地限制過顛覆性的技術創新，然後又說我們需要這樣做。我的意思是，這絕對是荒謬的東西。表面上以樂觀的語氣結束，但實際上更加虛無主義。

網友2：
讀起來就像是 GPT-3.5 寫的
如今，如果作者不使用人工智慧來生成至少部分文字，或者指導人工智慧來改進散文，那將是令人驚訝的。

網友3：
​​​​人工智慧行業如此乞求監管的俘獲是如此令人震驚，我認為政府應該將所有人工智慧公司國有化，‘以保證我們的安全’，但真正的目的是防止這些騙子賺錢。

網友4：
​​​​雖然我很喜歡比爾蓋茲許多簡短演講中的智慧，但我沒有在他的書面評論和書籍中發現任何值得注意的東西。他的觀點往往是怪異和激進的。當我想起在他的書《未來之路》（1995 年）中讀到他堅信 ISDN 將在 2000 年之前成為主導網際網路技術時，我仍然會笑。當時對我來說這甚至顯得很奇怪。

網友5：
我剛剛讀了他的維基百科頁面和幾篇關於他的文章。他和蓋茨都是成功的銷售員和經理，年輕時曾涉足程式設計。我不指望他們能洞察技術對社會的影響或諸如此類的事情。認為他們是知識分子或學者的想法很可笑。

網友6：
我剛剛在audible上聽完了。它確實發人深省，但正如其他人提到的那樣，充滿了矛盾。也就是說，這項技術無法被遏制，但必須被遏制，這相當悲觀。關於人工智慧的預言遠不如關於基因測序的預言那麼可怕——你可以花3萬美元買一臺裝置，它可以從你的車庫裡為你列印病原體和病毒。這真是太可怕了。

網友7：
人工智慧研究是全球性的，具有戰略價值，美國和中國都在競爭。我不認為一個國家會停止研究，而另一個國家會繼續前進。類似的問題也存在於控制二氧化碳方面，到目前為止，這一進展並不順利。

網友8：
這本書讀起來就像是一篇公關部落格文章推薦一本公關書籍

網友9：
鑑於《即將到來的浪潮》假設是：技術一波一波地湧來的，而且這些浪潮是由內部人員推動的，它提出的解決方案是遏制——政府應該（透過監管）決定誰可以開發技術，以及他們應該將技術用於什麼用途。這種假設似乎是政府可以控制對技術中自然瓶頸的訪問。

書中提供的一項數字是，半導體中使用的大約 80% 的沙子來自一個礦山——控制了礦山，你就控制了該行業的大部分方面。

但事實並非如此。例如，核遏制更多地依賴於民族國家之間的同儕壓力，而不是監管本身。在你家後院建造反應堆或炸彈是完全有可能的。你越是加大這些努力，國際社會就越有可能注意到並迫使你停止。擠壓其中一個瓶頸更有可能將活動轉移到其他地方，然後讓你能夠控制它。（按下葫蘆浮起瓢）

從本質上講，這是一本由內部人士撰寫的書，他認為有人會開發這項改變世界的技術，而且應該是他們。

網友10：
他推薦這本書是因為微軟僱用了蘇萊曼嗎？

我記得 HN 上的人們對穆斯塔法·蘇萊曼的評價不太好：
https://news.ycombinator.com/item?id=39757330

網友11：
這本書還不錯，但讀完前 10% 後，你幾乎可以推斷出其中的任何內容。書中有很多關於人工智慧、生物武器、網路攻擊等風險的常識性警告，但這些警告都很籠統。我發現其中沒有一章有任何真正的見解。一個有趣的章節應該是“如果我完全錯了，我們得到的只是一堆 meme 生成器和下一個泡沫”，但這似乎永遠不可能。

奇怪的是，很多書都上了蓋茨的推薦書單。我最近看到有人說，也許有點太刻薄了，我們可能會進入 AGI，因為 現在的書越來越像 ChatGPT 寫的，而蓋茨推薦的很多書也並非完全不正確。

網友12：
不能認真對待這件事，因為要知道，下面是穆斯塔法·蘇萊曼……

• Pi AI 被微軟收購了
• 他因欺凌指控離開 DeepMind（https://en.wikipedia.org/wiki/Mustafa_Suleyman#DeepMind_and_...）
• 據稱他對 OpenAI 員工大喊大叫，因為他們沒有經常分享技術（https://www.nytimes.com/2024/10/17/technology/microsoft-open...）

蘇萊曼似乎透過與德米斯·哈薩比斯（Demis Hassabis ）成為好友並加入他的公司創立而取得了人工智慧領域的成功。他似乎並沒有在實際的人工智慧領域取得多大成就，更多的是諸如設立“穆斯林青年幫助熱線”和擔任“肯·利文斯通的人權政策官員”之類的事情。（是一個“政委”）