奧特曼回應一切：宮鬥、馬斯克、ChatGPT兩週年
机器之心發表於2025-01-06
2022 年 11 月 30 日，OpenAI 的網站訪問量達到了一個從未有過的峰值。當時，這家初創公司雖然在業內赫赫有名，但遠沒摸到大廠門檻，以至於其所有者甚至沒有費心去追蹤他們的網路流量。不過今天看來，那是這個公司最後一個「平靜」的日子。僅僅兩個月後，OpenAI 的網站訪問量就超過了 1 億，大家都在嘗試使用 ChatGPT 並驚歎於其能力。自那以後，一切都變了，尤其是對於 OpenAI CEO 山姆・奧特曼（Sam Altman）來說。但 2023 年 11 月發生了一件令人震驚的大事，奧特曼突遭 OpenAI 董事會解僱，一時間引爆網路。但後來的事大家都知道了，奧特曼重回 OpenAI 執掌大權至今。近日，彭博社專訪了奧特曼，採訪中，奧特曼解釋了他那頗受討論的四天解僱事件，他實際上如何運營 OpenAI，以及他對 AGI（通用人工智慧）的不懈追求。Q（主持人）：現在是回顧過去兩年、反思一些事件和決策、並澄清一些事情的好時機。但在我們開始之前，您能否再講述一次 OpenAI 創始晚餐的故事？A（奧特曼）：每個人都想要一個簡潔的故事，希望有一個決定性的時刻讓一切發生。保守地說，那一年（2015 年）大概有 20 次創始晚餐，但最終只有一次被載入史冊，成為大家談論的焦點。對我個人來說，最重要的一次是我和 Ilya 在加州山景城的 The Counter 餐廳的那次晚餐。只有我們兩個人。Ilya Sutskever 是 OpenAI 聯合創始人，也是人工智慧領域的頂尖研究人員之一。作為董事會成員，他參與了 2023 年 11 月解僱我的行動，但幾天後他公開表示對他的決定感到遺憾。他於 2024 年 5 月離開 OpenAI。再往前追溯，我一直對 AI 非常感興趣。我在本科時就學習過 AI。後來有一段時間我分心了，直到 2012 年，Ilya 和其他人完成了 AlexNet 。我一直在關注進展，心想：天哪，深度學習看來成了（Man, deep learning seems real.）。而且，它似乎具有擴充套件性。這真的是一件大事。應該有人做點什麼。AlexNet 由 Alex Krizhevsky、Sutskever 和 Geoffrey Hinton 共同建立，它利用了一種強大的新型計算機程式 —— 深度卷積神經網路（CNN），能夠以前所未有的準確度識別影像，從而推動了人工智慧領域的重大進展。
於是我開始接觸很多人，詢問誰適合一起做這件事。在 2014 年，AGI 是多麼非主流的目標，這一點怎麼強調都不為過。人們甚至害怕和我交談，因為我說我想啟動一個 AGI 專案。他們總是回答這是虛幻的概念，可能會毀掉你的職業生涯。但很多人都說，有一個人你一定要聊聊，那就是 Ilya。於是我在一次會議上「跟蹤」了 Ilya，在走廊裡攔住了他，我們聊了起來。我當時就覺得：這傢伙很聰明。我大致告訴了他我的想法，我們一起吃了頓飯。在我們的第一次晚餐中，他闡述了 —— 雖然用詞和現在不同 —— 但基本上闡述了我們如何構建 AGI 的策略。Q：那次晚餐暢聊的精神，有哪些至今仍然存在於公司中？A：幾乎所有的精神都還在。當然，在此基礎上我們還增加了一些東西，但我們當時對深度學習的信念，對實現這一目標的具體技術路徑的信念，以及對研究和工程相結合的信念 —— 讓我感到驚訝的是，這些想法竟然如此有效。通常，當你有了這些想法時，它們並不一定完全奏效，而我們最初的一些構想顯然也有完全不奏效的地方。但（我們相信）AGI 是可能的，相信這是值得押注的方向，後來這些想法被證明是非常正確的。Q：最初 OpenAI 團隊的優勢之一就是招募人才。你們成功地將大量頂尖的 AI 研究人才收入麾下，儘管提供的薪酬往往遠低於競爭對手。你們的吸引力是什麼？A：我們的吸引力很簡單：就是一起構建 AGI。而這一招奏效的原因在於當時要構建 AGI 是多麼異端，因此，你過濾掉了世界上 99% 的人，只吸引到那些真正有才華、有原創思維的人。這非常強大。如果你在做和其他人一樣的事情，比如構建第 10000 個照片分享應用？那真的很難招募到頂尖人才。但如果你能讓我相信沒有其他人正在做這件事，並且吸引一小部分真正有才華的人？你就能把他們全部收入麾下。而且他們都想一起工作。所以，我們當時提出的聽起來可能有些大膽甚至離譜的想法，趕走了領域內所有資深專家，卻吸引到了一群年輕、有才華的「雜牌軍」，他們從一開始就很出色。A：大多數人都是全職投入的。我當時還有一份工作（2014 年，奧特曼成為 Y Combinator 的執行長） ，所以一開始我參與得很少，但隨著時間的推移，我越來越熱愛這個專案。到了 2018 年，我已經完全沉浸其中了。Ilya 和 Greg 負責管理，但每個人都在做自己的事情。A：當然，那絕對是 OpenAI 歷史上最有趣的時光。我的意思是，現在也很有趣，但能夠親身參與我認為將是有史以來最偉大的科學發現時期之一 —— 考慮到它對世界的影響 —— 這是一種千載難逢的經歷。如果你非常幸運的話。如果你極其幸運的話。Q：2019 年你接任了 CEO 一職。這是怎麼發生的？A：我當時試圖同時兼顧 OpenAI 和 Y Combinator 的工作，這真的非常困難。但我完全被我們實際上要構建 AGI 的想法吸引住了。有趣的是，我記得當時我還在想，我們會在 2025 年實現這一目標，但這完全是一個隨機的數字，基於我們從開始算起的 10 年。那時候他們常常開玩笑說，我唯一會做的事情就是走進會議室說：擴大規模！雖然這不完全正確，但那確實是那個時期的主要方向。Q：ChatGPT 的正式釋出日期是 2022 年 11 月 30 日。你現在感覺如何？A：我明年就 40 歲了。在我 30 歲生日時，我寫了一篇部落格，標題是「日子很長，但幾十年很短」。今天早上有人給我發郵件說：「這是我最喜歡的部落格文章，我每年都會讀。等你 40 歲時，你會寫一篇更新嗎？」我笑了，因為我肯定不會寫更新。我根本沒時間。但如果我寫了，標題會是「日子很長，而幾十年也很長。」所以，這段時間感覺確實非常漫長。部落格地址：https://blog.samaltman.com/the-days-are-long-but-the-decades-are-shortQ：當第一批使用者開始湧現，並且很明顯這將成為一個巨大的現象時，你是否有一個「天哪（holy）」的時刻？A：這裡有幾點要說。首先，我當時覺得它會表現得相當不錯！公司其他人都說：「你為什麼讓我們釋出這個？這是個糟糕的決定，它還沒準備好。」我通常不會做出很多「我們要做這件事」的決定，但這次是個例外。在最初的幾天裡，ChatGPT 開始執行時，白天的使用量比晚上多。團隊都在打趣地說：哈哈，它在下降。但我在 YC 期間學到了一點，那就是，如果每次新的低谷都高於之前的峰值，那就意味著有一些非常不同的事情正在發生。在前五天裡，情況看起來就是這樣，我當時就想：我覺得我們手上有一些我們還沒有充分認識到的東西。這引發了一場瘋狂的爭奪計算資源的行動 —— 我們當時並沒有足夠的資源 —— 因為我們釋出這個產品時沒有任何商業模式，甚至沒有考慮過商業模式。我記得在 12 月的一次會議上，我說：我會考慮任何關於如何為此付費的想法，但我們不能再這樣下去了。當時有一些非常糟糕的想法 —— 但沒有一個好的。所以我們只是說：好吧，我們就試試訂閱模式，以後再想辦法。這個模式就這樣堅持了下來。我們釋出的是 GPT-3.5，但 GPT-4 即將推出，所以我們知道它會變得更好。當我開始與使用它的人談論他們用它做什麼時，我們不斷快速改進它，最終導致了全球媒體的關注。Q：你是一個享受成功的人嗎？你能夠沉浸其中，還是已經在擔心下一階段的擴充套件了？A：關於我或我的職業生涯，有一個非常奇怪的現象：一般的軌跡是你經營一家大型成功的公司，然後在 50 多歲或 60 多歲時，你厭倦了那麼辛苦的工作，然後成為一名風險投資家。先成為一名 VC，並且有一段相當長的 VC 職業生涯，然後再去經營一家公司，這是非常不尋常的。雖然我認為這在很多方面都不太好，但有一個方面對我非常有利，那就是你有一種奇怪的預知能力，知道會發生什麼，因為你已經觀察並指導過很多人經歷過這些。我知道自己既充滿了感激之情，同時也感到「F--- 我要被綁在一艘火箭上，我的生活將完全不同，而且不會那麼有趣。」我對這件事有很多黑色幽默。我丈夫（Altman 於 2024 年初與長期伴侶、澳大利亞軟體工程師 Oliver Mulherin 結婚。他們預計在 2025 年 3 月迎來一個孩子。）會講一些有趣的故事，關於那段時間我回到家時，他會說：這太棒了！而我會說：這真的很糟糕。對你來說也很糟糕。你只是還沒意識到，但這真的很糟糕。Q：你長期以來在矽谷都很有名，但 GPT 的出現帶來的一個後果是，你迅速成為了世界名人。這是否讓你管理團隊的能力變得複雜？A：這讓我的生活變得很複雜。但在公司裡，無論你是否是一個知名的 CEO，他們只會問：我的 GPU 在哪裡？我一生中都感受到這種距離，這真的很奇怪。當我和老朋友、新朋友在一起時，我都會有這種感覺 —— 除了最親近的人之外的任何人。我想如果我和平時不怎麼交流的人在一起，我確實會在工作中感受到這種距離。如果我必須和一個我幾乎從未見過面的群體一起參加會議，我就能感覺到這種距離的存在，但我大部分時間都和研究人員在一起。Q：你還記得第一次隱約意識到，一家擁有數十億美元外部投資、向非營利董事會彙報的營利性公司可能會成為一個問題的那一刻嗎？A：肯定有很多這樣的時刻。但從 2022 年 11 月到 2023 年 11 月的這一年，簡直是一片瘋狂的模糊，我幾乎記不清了。感覺就像我們在 12 個月內幾乎從零開始建立了一整個公司，而且還是在公眾關注下完成的。回顧過去，我學到的一點是，每個人都說他們不會搞混重要和緊急事務的相對優先順序 ，但每個人都會被緊急事務所迷惑。所以，我會說，我第一次冷靜地面對現實 —— 意識到這行不通 —— 是在那個週五下午的 12:05 左右。Q：當董事會解僱你作為 CEO 的訊息傳出時，確實令人震驚。但你似乎是一個情商很高的人。在那之前，你是否察覺到任何緊張的跡象？A：我認為我的情商並不高，但即使對我來說，這也超出了我能察覺到的緊張範圍。你知道，我們一直在討論安全性與能力、董事會的角色以及如何平衡這些事情。在第一個週末發生了很多煩人的事情。我對那段時間的記憶 —— 可能細節有誤 —— 他們在週五中午解僱了我。週五晚上有一群人辭職了。到了週五深夜，我想：我們就去開始一個新的 AGI 專案吧。週五深夜，一些高管團隊的人說：我們覺得可能會扭轉局面。冷靜點，等等看。週六早上，兩位董事會成員打電話來，想談談我回來的事情。我一開始非常生氣，拒絕了。然後我想：好吧，行吧。我真的很在乎 OpenAI。但我說：「除非整個董事會辭職」。我希望我當時採取了不同的策略，但當時覺得這是一個合理的要求。然後我們在董事會問題上爭論了一段時間。我們試圖協商一個新的董事會。他們有一些我認為荒謬的想法。我也有一些他們認為荒謬的想法。但我以為我們總體上達成了共識。然後 —— 在整個過程中我最生氣的時候 —— 這件事持續了整個週日。從週六到週日，他們一直說：快完成了。我們只是在等待法律建議，但董事會同意書正在起草中。我一直在說：我在維持公司的團結。你們有所有的權力。你們確定你們在說實話嗎？他們會說「是的，你會回來的。你會回來的。」然後週日晚上他們突然宣佈 Emmett Shear 是新任 CEO。我當時想：好吧，現在我真完了，因為那是真正的欺騙。週一早上，所有人都威脅要辭職，然後他們說：好吧，我們需要扭轉局面。董事會表示，他們進行了一項內部調查，結論是你與他們的溝通不夠坦誠。這個說法很具體 —— 他們認為你在撒謊或隱瞞了一些資訊 —— 但也很模糊，因為沒有具體說明你在哪些方面不夠坦誠。你現在知道他們指的是什麼嗎？我聽到了不同的版本。有一種說法是，Sam 甚至沒有告訴董事會他要推出 ChatGPT。我對這件事有不同的記憶和解釋。但事實是，我確實沒有說：「我們要推出這個東西，它將會是一個巨大的事情。」我更清楚的一點是，我與一些董事會成員在某些問題上存在分歧，我認為這些問題是衝突或有問題的行為，而他們對我想讓他們離開董事會的方式感到不滿。這是我學到的一個教訓。Q：你曾經意識到，OpenAI 的結構會扼殺公司，甚至可能扼殺公司的發展。因為一個以使命為導向的非營利組織永遠無法競爭計算能力，也無法做出 OpenAI 蓬勃發展所必需的快速轉變。董事會由原教旨主義者組成，他們把純粹置於生存之上。所以你開始決定讓 OpenAI 參與競爭，這需要有點狡猾，而董事會 ——A：我不認為我做的事情是偷偷摸摸的。我想說的是，本著速戰速決的精神，董事會並沒有瞭解全貌。有人說：「Sam 擁有創業基金，但他沒有告訴我們這件事。」之所以發生這種情況，是因為我們有這個複雜的結構：OpenAI 本身不能擁有它，擁有 OpenAI 股權的人也不能擁有它。而我恰好是不擁有 OpenAI 股權的人。所以我暫時是它的所有者或 GP，直到我們建立了一個轉讓它的結構。我對董事會是否應該知道這件事有不同的看法。但是，在表面上有所作為的情況下，是否應該更加清晰地傳達這樣的事情？是的，我會接受這種反饋。但這不是偷偷摸摸的。今年很瘋狂，對吧？這家公司正以多種不同的方式以每小時一百萬英里的速度前進。我鼓勵你與任何現任董事會成員交談，詢問他們是否覺得我曾經做過任何鬼鬼祟祟的事情，因為我堅決不會這樣做。General partner，即普通合夥人。根據 2024 年 3 月 29 日提交給美國證券交易委員會的檔案，OpenAI 初創企業基金的新 GP 是 Ian Hathaway。該基金約有 1.75 億美元可用於投資專注於 AI 的初創企業。
Bret Taylor（董事長）：前 Salesforce 聯席CEO，FriendFeed 聯合創始人。Adam D'Angelo：Quora 公司聯合創始人兼CEO。Lawrence Summers：比爾・克林頓時期的財政部長，哈佛大學前校長。Sue Desmond-Hellmann：比爾 & 梅琳達・蓋茨基金會前CEO。Nicole Seligman：索尼前執行副總裁兼法律總顧問。Fidji Simo：Instacart 執行長兼董事長。Paul Nakasone：美國國家安全域性前局長（2018-24）。Zico Kolter：電腦科學家，專門研究機器學習和人工智慧安全。
我認為上一屆董事會對人工智慧出錯的信念和擔憂程度是真實的。在那個週末，其中一位董事會成員對團隊說了一件事，人們因此還取笑她，那就是摧毀公司可能符合非營利董事會的使命。在我看來，這就是信念的勇氣。我認為她是真心的。雖然我完全不同意所有具體的結論和行動，但我尊重這樣的信念，我認為舊董事會的行為是出於錯誤但真誠的信念，他們相信什麼是正確的。也許還因為，AGI 就在不遠處，而我們卻沒有對此負責。因此，我可以在完全不同意其他細節的同時，對這一點保持尊重。據報導，前 OpenAI 董事會成員 Helen Toner 曾表示，在某些情況下，摧毀公司「實際上符合董事會的使命」。奧特曼此前曾與喬治城大學安全與新興技術中心戰略總監 Toner 對峙，就她撰寫的一篇批評 OpenAI 過快釋出 ChatGPT 的論文展開爭論。她還稱讚了 OpenAI 的競爭對手之一 Anthropic，稱其沒有等待發布聊天機器人而「煽動人工智慧炒作的火焰」。
Q：顯然你贏了。因為是你現在坐在這裡。但你難道沒有被這一切所傷嗎？A：我確實很擔心。最困難的部分不是經歷這個過程，因為四天的腎上腺素飆升可以讓你做很多事情。看到公司和更廣泛的社群對我的支援，我感到非常溫暖。但很快，一切都結束了，我的手頭一團糟。情況一天比一天糟糕。就像又有政府調查，又有舊董事會成員向媒體洩露假新聞。所有那些我覺得真正毀了我、毀了公司的人都走了，現在我不得不收拾他們的爛攤子。實際上，大概是每年的這個時候（12 月），下午 4 點 45 分天就黑了，又冷又多雨，晚上我一個人在家裡走來走去，既鬱悶又疲憊。感覺很不公平，因為房子著火了，我根本沒有時間恢復。Q：當你回到公司時，你是否會因為擔心自己可能被視為的角色會而對重大決定或公告感到自卑？讓我說得更簡單些，你是否覺得有些人可能會認為你很壞，而你需要讓他們相信你是好人？A：比這更糟糕。當一切都澄清之後，一切都好了，但在最初的幾天裡，沒有人知道任何事情。我走在大廳裡，人們會把目光移開。就好像我被診斷出癌症晚期一樣。人們對我表示同情和同情，但（沒有人）知道該說些什麼。那真的很艱難。但我當時想：「我們有一項複雜的工作要做。我要繼續做下去。」Q: 你能具體說說你是怎麼管理公司的嗎？你平時都在做什麼？比如說，你會和工程師一對一交談嗎？你有時間到處走走看看嗎？A：讓我看看我的日程表。我們每週一都有三小時的管理層會議。然後，嗯，就說昨天和今天吧，我和六個工程師進行了一對一會談。這個會面之後我還要去參加研究會議。明天有幾個重要的合作伙伴會議和很多計算資源相關的會議。光是關於擴充計算資源的會議就有五個。明天還有三個產品頭腦風暴會議，之後還要和一個重要的硬體合作伙伴共進晚餐。差不多就是這樣。有一些是每週固定的安排，其他的就是隨機應變了。A：內部溝通要多得多。我不是那種喜歡給員工寫表揚郵件的人，但是我經常進行一對一和小組會議，然後在 Slack 上處理很多事情。A：我是 Slack 的重度使用者。在細節中你能獲得很多資訊。我是說，雖然沒有什麼比和小型研究團隊開會更能深入瞭解情況，但是透過 Slack，你也能瞭解到很多廣泛的資訊。Q：你之前說過你對 ChatGPT 的介面和使用體驗有很多想法。那你覺得什麼時候需要自己親自動手去做，而不是在旁邊指導別人做呢？A：在這個層面上？其實不太會。昨晚我和 Sora 團隊一起吃飯時，我確實寫了好幾頁詳細的建議，但這種情況很少見。還有待會兒的會議，我會向研究團隊提出一個非常具體的提案，詳細說明我認為他們未來三個月該做什麼，不過這也是比較特殊的情況。Sora 是 OpenAI 的影片生成模型，於 2024 年 12 月 9 日向公眾釋出。
Q：我們之前聊到過，科研有時會和企業架構產生衝突。你們把研究部門安排在離公司其他部門幾英里遠的另一棟樓裡。這樣安排是不是有什麼象徵意義？A：不是，這純粹是出於後勤和空間規劃的考慮。我們最終會有一個大園區把所有人都集中在一起。當然，研究部門還是會有自己獨立的區域。保護核心研究對我們來說至關重要。A：矽谷公司通常是這樣發展的：一開始是個產品公司，在這方面做得很好，然後規模越來越大。隨著規模擴大，收入增長率自然會放緩。到了某個時候，CEO 就會想要建立一個研究實驗室，希望能產生新想法推動進一步增長。這種模式在歷史上確實成功過幾次，比如貝爾實驗室和施樂 PARC。但大多數時候都不成功。通常的結果是：你有一個很棒的產品公司，卻有一個很糟糕的研究實驗室。我們很幸運，我們「嫁接」上去的小產品部門可能是有史以來發展最快的科技公司，至少是近幾年最快的。但這很容易吞噬掉研究的魔力，我絕不會讓這種事情發生。我們的使命是開發通用人工智慧 (AGI)、超級智慧以及之後的一切。在這個過程中，我們會遇到很多精彩的事物，任何一個都可能讓我們分心，偏離最終目標。我認為保持專注非常重要。Q：作為一家公司，你們已經不怎麼公開談論 AGI 了，談論的主要是不同智慧等級的 AI，但你私下和我交流，個人層面上還是在討論 AGI 嗎？A：我覺得「AGI」已經變成一個很模糊的詞了。如果你看看 OpenAI 劃定的五個等級，你會發現有人把每個等級都稱作 AGI。設立這些等級的目的是為了更具體地確定我們所處的位置和進展情況，而不是糾結於到底是不是 AGI。Q：你們會用什麼標準來判定「好，我們現在已經實現 AGI 了」？A：我個人比較粗略的想法是：當 AI 系統能夠完成重要崗位上的高技能人類的工作時，我會稱之為 AGI。當然這又引出了一系列問題：是完成全部工作還是部分工作？它能不能從一個計算機程式開始，自己決定要成為一名醫生？它能達到該領域最頂尖人才的水平，還是隻能達到前 98% 的水平？它有多大的自主性？這些問題我還沒有特別明確的答案，但如果你能僱用一個 AI 作為遠端員工，它能負責一個優秀的軟體工程師的工作，我想很多人會說：「好吧，這差不多算是 AGI 了。」當然，我們總是在不斷提高什麼是 AGI 的標準，這就是為什麼這個問題很難回答。但我還是堅持這個答案。至於是否達到了超級智慧，對我而言關鍵在於：這個系統能否快速地提高地球上的科學發現速度？Q：ChatGPT 現在有超過 3 億使用者。從他們的使用行為中，你們對 ChatGPT 有了什麼新的認識？A：聽使用者分享他們使用或放棄使用 ChatGPT 的各種場景，對我們的產品規劃很有幫助。以前經常出現的一個情況是，很明顯人們在嘗試把 ChatGPT 當搜尋引擎用，但這其實不是我們最初發布時考慮但這顯然成了一個重要的需求方向。老實說，自從我們在 ChatGPT 中加入搜尋功能後，我幾乎不用 Google 了。在我們只有內部原型的時候，我完全沒想到 ChatGPT 會取代我使用 Google 的需求。從使用者那裡我們還學到：很多人在尋求醫療建議時都依賴 ChatGPT。OpenAI 的員工經常收到一些很暖心的郵件，比如：「我生病好幾年了，醫生都查不出原因。最後我把所有症狀和檢查結果輸入 ChatGPT，它說我得了這個罕見病。我去看醫生，他們給我開了藥，我完全好了。」這是個極端個例，但類似的事情經常發生，這讓我們意識到人們需要這個功能，我們應該繼續完善它。Q：你們的產品價格從 0 美元到 20 美元到 200 美元都有，據傳還可能會推出 2000 美元的檔位。你們是如何給這種前所未有的技術定價的？是根據市場調查還是憑直覺？A：我們一開始免費推出了 ChatGPT，人們開始大量使用，我們需要某種方式來支付計算成本。我記得我們測試了兩個價格，20 美元和 42 美元。人們覺得 42 美元有點貴，但願意付 20 美元。所以我們選擇了 20 美元。這大概是 2022 年 12 月底或 2023 年 1 月初的事，和專門僱人做的定價研究不太一樣。我們也在考慮其他定價方向。很多客戶告訴我們他們想要基於使用量的定價。比如「有些月份我可能需要花 1000 美元的算力，有些月份我想少花一點。」我年紀已經上來了，還記得撥號上網的時代，美國線上（AOL）每月給你 10 小時或 5 小時的上網時間包。我很討厭那種模式，不想讓人感覺在計時。但我們正在規劃其他一些基於使用量但又合理的定價方式。Q：你是部署安全委員會（Deployment Safety Board，DSB）、安全諮詢小組（Safety Advisory Group，SAG）和安全與安保委員會（Safety and Security Committee，SSC）這三個組織的成員嗎？你對可能出現的風險有哪些認識呢？A：這是個好問題，SAG 會向我報告，但我實際上並沒有正式加入。他們傳送報告給我，然後我回復同意或不同意，之後再發給董事會。我也不在 SSC，但是 DSB 的成員。至於風險，我認為短期、中期和長期風險仍然大致相同。我預計在網路安全和生物 方面有需要緩解的嚴重或潛在嚴重的短期問題。從長遠看，當你考慮一個真正具有驚人能力的系統時，可能會存在難以準確想象和建模的風險。雖然我認為這些風險是真實存在的，但同時也相信解決這些風險的唯一方式是推出產品並學習。2024 年 9 月，OpenAI 承認其最新的 AI 模型存在被濫用於製造生物武器的風險。2023 年 5 月，Altman 與數百名其他簽署者一起發表宣告，強調了 AI 帶來的生存威脅。
Q：談到近期未來，業界似乎已經聚焦在三個潛在的發展障礙上：模型擴充套件、晶片短缺和能源短缺。我知道這些問題是相互關聯的，但您能按照關注程度對它們進行排序嗎？A：我們在每個領域都有一個讓我感覺不錯的計劃。在擴大模型的規模方面，我們在技術和安全性上都在持續取得進展。我認為 2025 年將是一個不可思議的年份。你知道 ARC-AGI 挑戰賽嗎？五年前，主辦方設立了非常困難的基準，作為衡量 AGI 的「敲門磚」。上週五，我們宣佈 o3 透過了這個基準。這個基準已經放在那裡五年了，都沒有模型能解決。如果模型能在這個測試中得到 85% 的分數，就能被認為「透過」了。而 OpenAI 的系統，完全是開箱即用，無需任何附加定製，就獲得了 87.5% 的成績。我們還有更好的研究和模型即將推出。OpenAI 於 12 月 20 日推出了 Model o3 模型。它將在 2025 年初向使用者開放。據 The Information 報導，OpenAI 跳過 o2，直接推出 o3，是為了避免與英國電信運營商 O2 產生潛在衝突。
在我的膝上型電腦上，Altman 開啟了 ARC-AGI 網站，上面顯示了一系列令人困惑的抽象網格。抽象正是其要點所在；要「解決」這些網格並實現 AGI，AI 模型必須更多地依靠推理而不是訓練資料。
根據 ARC-AGI 的測試結果：OpenAI 的新 o3 系統在兩種配置下都取得了優異成績。使用普通配置（計算成本 1 萬美元）時得分 75.7%，使用高效能配置 (計算成本 172 萬美元) 時得分 87.5%。這兩個分數都創造了新的記錄。
我們一直在努力完善整個（晶片）供應鏈，與所有合作伙伴密切合作。我們有人為我們建造資料中心和製造晶片。我們有自己的晶片專案。我們與英偉達建立了超棒的合作關係。明年，我們將更詳細地討論這個問題，但現在是我們擴大晶片規模的時候了。 2024 年 11 月，英偉達 CEO 在東京 Nvidia 峰會上A：很快。很快我們就能看到淨能量輸出的核聚變演示。當然，接下來還需要建立一個穩定可靠的系統，進行規模化生產，解決工廠建設問題 —— 不是一兩座，而是要建設多座工廠。同時還需要獲得相關監管部門的批准。整個過程可能需要幾年時間。但我相信 Helion 很快就能向你證明，核聚變技術是完全可行的。Helion 是由 Sam Altman、Dustin Moskovitz 和 Reid Hoffman 共同創立的清潔能源創業公司，專注於開發核聚變。
Q：在短期內，是否有辦法在不違背氣候目標的情況下維持 AI 的增長？A：是的，但在我看來，沒有一種方法比快速批准核聚變反應堆更好。我認為 Helion 特有的核聚變方法是如此出色，我們應該朝著這個方向全速前進，一勞永逸。Q：我看到你在 DealBook 上的評論，你認為 Elon Musk 不會利用他的職位從事任何與 AI 相關的不當行為。Q：但在過去幾年裡，Elon Musk 買下了 Twitter，然後又起訴要退出 Twitter 的收購。他恢復了 Alex Jones 的賬號。他向祖克伯發起籠鬥挑戰。這只是不當行為冰山一角。所以你真的相信他會 ——A：哦，我認為他會做各種糟糕的事情。我認為他會繼續起訴 OpenAI，撤銷訴訟，提起新的訴訟，諸如此類。他還沒有向我發起籠鬥挑戰，但事實證明他對祖克伯也不是那麼認真。正如你指出的，他說了很多事情，開始做，又撤銷，被起訴，起訴別人，與政府發生衝突，被政府調查。這就是 Elon being Elon。問題是，他會不會濫用他現在自稱的共同總統的政治權力來干擾商業競爭對手？我不認為他會這樣做。我真誠地不這麼認為。也許最終會被證明，是我錯了。Q：在你們兩個合作得最好的時候，你會如何描述你們各自帶來的貢獻？A：我們之間有一種很好的互補關係。雖然當時我們對 AI 的發展方向和具體路徑都不太清晰，但我們都堅信這項技術對人類未來至關重要。我們有共同的願景和使命感，也都願意在前進的過程中不斷調整和最佳化方向。這種共識讓我們能夠很好地合作推進這項事業。Q：我很好奇實際你和 Elon 在工作中實際關係如何？A：我不記得在導致分道揚鑣的矛盾之前與 Elon 有過任何大的爭執。但在那之前，儘管有各種傳言 —— 人們談論他如何斥責人、發脾氣之類的，我都沒有經歷過。原文地址：https://www.bloomberg.com/features/2025-sam-altman-interview/