AI教父、諾獎得主Hinton支援起訴OpenAI，阻止「轉營利」
机器之心發表於2024-12-31
上週五，OpenAI 釋出了計劃拆分為營利機構 + 非營利機構的公告，此舉立即引發了 AI 社群的巨大爭議。正在與 OpenAI 打官司的首富馬斯克此前已在 11 月提起了聯邦訴訟，尋求初步禁令以阻止 OpenAI 轉型。這一行動目前獲得了更多人的支援。甚至包括諾貝爾獎得主 Geoffrey Hinton。Geoffrey Hinton 因為對人工神經網路的貢獻被認為是「AI 教父」，他目前在加拿大多倫多大學任教，曾在 2018 年獲圖靈獎，2024 年剛剛獲得了諾貝爾物理學獎。本週一，青年倡導組織 Encode 提交了一份法庭之友陳述，支援伊隆・馬斯克正在進行的訴訟，以阻止 OpenAI 的公司轉型。Encode 是一家非營利組織，曾參與發起加州 SB 1047 人工智慧安全立法。該組織提供的陳述支援伊隆・馬斯克提出的禁令，旨在阻止 OpenAI 向營利性公司轉型。在提交給美國加利福尼亞州北區地方法院的一份擬議陳述中，Encode 的律師表示，OpenAI 向營利性公司轉型將「破壞」該公司「以安全和有益於公眾的方式開發和部署…… 變革性技術」的使命。「OpenAI 及其 CEO 山姆・奧特曼聲稱正在開發改變社會的技術，這些說法應該得到認真對待，」簡報中寫道。「如果世界真的正處於通用人工智慧（AGI）新時代的風口浪尖，那麼公眾將更有意讓這項技術由一家受法律約束、優先考慮安全和公共利益的公共慈善機構控制，而不是由一家專注於為少數特權投資者創造財務回報的組織控制。」Encode 創始人兼總裁 Sneha Revanur 在一份宣告中指責 OpenAI「將人工智慧的利潤內部化，卻將後果外部化給全人類」，並表示「司法必須介入，以確保人工智慧發展符合公眾利益。」Encode 的簡報獲得了人工智慧先驅、2024 年諾貝爾獎獲得者 Geoffrey Hinton、加州大學伯克利分校電腦科學教授兼人類相容人工智慧中心主任 Stuart Russell 等人的支援。Hinton 在一份新聞稿中表示：「OpenAI 成立時明確以安全為重點，並在其章程中做出了各種與安全相關的承諾…… 它從其非營利組織的地位獲得了包括稅收等多方面的好處。當它變得不方便時允許它撕毀所有這些，會向生態系統中的其他參與者發出非常糟糕的資訊。」OpenAI 於 2015 年作為非營利研究實驗室成立。但隨著其實驗程序的加快，公司變得越來越資本密集，它建立了當前的結構，從風險投資公司、包括微軟等科技巨頭那裡獲得了外部投資。2019 年，OpenAI 從一個實驗室變成了一家初創公司，具有混合結構：由非營利組織控制的營利性機構，為投資者和員工提供「上限利潤」份額。但在上週五，OpenAI 釋出了拆分為營利機構 + 非營利機構的公告，表示計劃開始將其現有的營利性公司轉變為特拉華州公共利益公司 (PBC)，併發行普通股，PBC 的公共利益將是 OpenAI 的使命。OpenAI 的非營利組織部分將保留，但將放棄控制權以換取 PBC 的股份。馬斯克是這個原始非營利實體的早期捐助者，他於 11 月提起訴訟，要求頒佈禁令，停止這項長期以來一直在進行的擬議變更。他指責 OpenAI 放棄了其最初的慈善使命，即讓所有人都能獲得人工智慧研究成果，並透過反競爭手段剝奪競爭對手的資本 —— 包括他的人工智慧初創公司 xAI。OpenAI 稱馬斯克的抱怨「毫無根據」，只是「吃不到葡萄說葡萄酸」而已。Encode 的律師表示，OpenAI 計劃將其運營控制權移交給 PBC，這將「將一個受法律約束的，以保證發展先進、安全 AI 的組織轉變為一個『平衡』考慮對任何公共利益和股東利益的阻止。」例如，Encode 的律師在簡報中指出，OpenAI 的非營利組織已承諾停止與任何「價值一致、具有安全意識的專案」進行競爭，但 OpenAI 作為一個營利性組織情況就會不一樣了。簡報還指出，一旦公司重組完成，非營利組織 OpenAI 的董事會將無法再根據安全需要取消投資者的股權。OpenAI 最近持續出現高階人才外流，人們離職的部分原因是擔心該公司以犧牲安全為代價優先考慮商業產品。前僱員 Miles Brundage 是一名長期政策研究員，於 10 月份離開了 OpenAI，他在 X 上的一系列帖子中表示，他擔心 OpenAI 的非營利組織會成為一個「副業」，PBC 公司的部分則會作為「正常公司」運營，潛在的問題不會被解決。Encode 認為，OpenAI 所宣揚的對人類的責任將消失，因為特拉華州法律明確規定，PBC 的董事對公眾不承擔任何責任。「一個以安全為中心、任務受限的非營利組織不惜任何代價將對如此具有變革性的事物的控制權交給一個對安全沒有可執行承諾的營利性企業，這將損害公共利益。」據悉，關於初步禁令的聽證會定於 2025 年 1 月 14 日在美國地區法官 Yvonne Gonzalez Rogers 處進行。https://encodeai.org/encode-backs-legal-challenge-to-openais-for-profit-switch/https://www.courtlistener.com/docket/69013420/72/1/musk-v-altman/https://techcrunch.com/2024/12/30/nonprofit-group-joins-elon-musks-effort-to-block-openais-for-profit-transition/