AGI 做出來了嗎？創始協議在哪兒？馬斯克起訴 OpenAI 的訴訟檔案疑點滿滿。
在剛剛過去的一天，「沉湎於戲劇性衝突」的馬斯克又做了一件新鮮事：他起訴了自己參與創立的 OpenAI。
在訴訟檔案中，他指控 OpenAI 不計後果地開發人類級別的人工智慧，並將其移交給微軟。
馬斯克的訴訟針對的是 OpenAI 及其兩名高管 —— 執行長 Sam Altman 和總裁 Greg Brockman，他們兩人與馬斯克合作，於 2015 年創立了這家公司。訴訟稱，這兩人違反了與馬斯克最初達成的「創始協議」，該協議承諾公司將公開開發 AGI（通用人工智慧），「造福人類」。
訴訟檔案：https://www.courthousenews.com/wp-content/uploads/2024/02/musk-v-altman-openai-complaint-sf.pdf
馬斯克在訴訟中稱，該公司的營利性部門是在他與 OpenAI 分道揚鑣後於 2019 年成立的，它在沒有適當透明度的情況下建立了 AGI，並將其授權給微軟，而微軟向該公司投資了數十億美元。訴訟補充道。「這是對創始協議赤裸裸的背叛。」
訴訟援引微軟 CEO Satya Nadella 最近的一次採訪，指控微軟與 OpenAI 關係密切。針對去年 OpenAI 發生的「宮鬥」事件，Nadella 表示，如果「OpenAI 明天就消失了...... 我們擁有所有的智慧財產權和能力。我們有人，我們有計算，我們有資料，我們擁有一切。We are below them, above them, around them」。該訴訟將此作為 OpenAI 為微軟利益服務的有力證據。
基於此，該訴訟要求強迫 OpenAI 公開發布其技術，並禁止 OpenAI 利用該技術為微軟、Altman 或 Brockman 謀取經濟利益。
該訴訟還要求法院裁定，GPT-4 等人工智慧系統和其他正在開發的先進模型構成通用人工智慧，超越了微軟與 OpenAI 許可協議的範圍。除了強制 OpenAI 執行禁令之外，馬斯克還要求法院在發現 OpenAI 現在是為了私人利益而運營時，對其用於資助公益研究的捐款進行核算和可能的歸還。
根據法律訴狀，馬斯克在 2016 年至 2020 年 9 月期間向 OpenAI 捐贈了超過 4400 萬美元。訴訟補充道，在最初幾年，他是 OpenAI 最大的捐款人。馬斯克在 2018 年離開了 OpenAI 的董事會，他早些時候表示，有人向他提供了這家初創公司營利部門的股份，但他出於原則立場拒絕接受。
不過，馬斯克想打贏這場官司可能沒有那麼容易，因為他所給出的訴訟檔案涉及一些尚未理清的事實，比如 OpenAI 真的開發出 AGI 了嗎？所謂的「創始協議」到底是否存在？這些問題給訴訟帶來了不小的難度。
OpenAI 開發出 AGI 了嗎？
此案的很大一部分內容都圍繞著一個大膽而又令人質疑的技術主張：OpenAI 開發出了所謂的通用人工智慧。
訴訟稱，「依據所瞭解的資訊和據此形成的推斷（on information and belief），GPT-4 是一種 AGI 演算法」。訴訟檔案引用了一些研究，發現 GPT-4 可以在律師資格統一考試和其他標準測試中獲得及格分數，以此證明它已經超越了人類的某些基本能力。「GPT-4 不僅具有推理能力，而且比普通人更善於推理，」該訴訟稱。
微軟去年 4 月釋出的論文 ——「Sparks of Artificial General Intelligence: Early experiments with GPT-4」就在被引用的研究之列。在這篇論文，微軟提出了一個斷言 ——「鑑於 GPT-4 能力的廣度和深度，我們相信它應該被合理視作一個通用人工智慧（AGI）系統的早期（但仍不完整）版本。」如今，這句話被馬斯克作為證據寫進了訴訟檔案。
同樣被列為證據的還有傳聞中提到的 OpenAI 神秘模型 ——Q*（Q star），訴訟檔案稱，該模型更接近 AGI。
此外，檔案還提到，微軟只對 OpenAI 某些達到 AGI 之前的技術擁有權利。不過，就微軟的許可而言，OpenAI 是否達到 AGI 由 OpenAI 公司的董事會決定，而 OpenAI 現在的董事會沒有能力判斷 OpenAI 開發的演算法是否達到了 AGI。
2023 年 11 月 17 日，OpenAI 公司董事會解僱了 Altman 先生，因為『他沒有始終如一地對董事會坦誠相待』，董事會對他繼續領導 OpenAI 的能力失去了信心。在接下來幾天的一系列令人震驚的事態發展中，Altman 先生和 Brockman 先生與微軟聯手，利用微軟對 OpenAI 公司的巨大影響力，迫使 OpenAI 公司董事會大多數成員辭職，其中包括首席科學家 Ilya Sutskever。
據瞭解，新的董事會成員是由 Altman 先生親自挑選的，並得到了微軟的支援。新的董事會成員缺乏大量的人工智慧專業知識，據瞭解，他們沒有能力獨立判斷 OpenAI 是否以及何時達到了 AGI，也就無法判斷 OpenAI 開發的演算法是否超出了微軟的許可範圍。
對於訴訟中提到的這些資訊和推論，人工智慧領域的很多專家都表示沒有辦法認可。
華盛頓大學名譽教授、人工智慧專家 Oren Etzioni 說：「GPT-4 是通用的，但它顯然不是人們通常所指的 AGI」。
史丹佛大學專門研究人工智慧和語言的教授 Christopher Manning 在談到馬斯克訴訟中的 AGI 斷言時說：「這將被視為一種誇大的說法」。Manning 說，人工智慧界對什麼是 AGI 存在不同看法。一些專家可能會降低標準，認為 GPT-4 能夠執行多種功能，因此有理由將其稱為 AGI，而另一些專家則傾向於將這一術語保留給能夠在任何事情上勝過大多數或所有人類的演算法。他說：「根據這個定義，我認為我們顯然還沒有 AGI，而且離它還很遠。」
加州大學伯克利分校教授 Michael Jordan 說：「我感覺我們中的大多數研究人員都認為，大型語言模型（如 GPT-4）是一個非常重要的工具，可以讓人類做更多的事情，但它們的侷限性使得它們遠非獨立的智慧體。」
Jordan 傾向於完全避免使用 AGI 這個詞，因為它太模糊了。他說：「我從未發現馬斯克有任何關於人工智慧的言論是經過校準或基於研究現實的。」
馬斯克的訴訟面臨的另一個困難是，OpenAI 長期以來一直使用自己對 AGI 的定義，將其描述為「在大多數有經濟價值的工作中勝過人類的高度自主系統」。如今看來，GPT-4 與這一標準相去甚遠。
有趣的是，就連馬斯克自己提出的 AGI 定義都能將 GPT-4 移出 AGI 之列。2022 年 12 月，在他宣佈 OpenAI 新推出的 ChatGPT「好得嚇人」之後不久，這位企業家提出，演算法需要「發明驚人的東西或發現更深層次的物理學」，才能配得上這一稱號。馬斯克寫道：「我還沒有看到這種潛力。」
史丹佛大學法學院教授 Mark Lemley 對 AGI 的主張和該訴訟更廣泛的法律依據表示懷疑。雖然 OpenAI 看起來確實不那麼開放了，而且變得更加以利潤為中心，但這給馬斯克帶來了什麼權利還遠不清楚。
Lemley 說：「值得注意的是，訴狀中並沒有包含馬斯克與該公司之間的任何合同，也沒有包含他執行這些原則或拿回錢的任何權利的文字。」如果存在這些檔案，我希望它們能在訴狀中佔據顯著位置。
「創始協議」在哪裡？
另一項頗具爭議的內容是馬斯克在訴狀裡提到的「創始協議」，而這份協議並沒有出現在證據附件裡。
The Verge 網站主編 Nilay Patel 認為，馬斯克是在指控 OpenAI 違反了一份並不存在的合同。而且違約索賠中也承認，「創始協議」基本上就是大家在一些電子郵件中捕捉到的蛛絲馬跡。
訴訟檔案中寫道，「OpenAI, Inc. 的創始公司章程以及原告與被告之間多年來的多次書面溝通等檔案中均有關於該創始協議的記載（memorialize）。」
Nilay Patel 認為，馬斯克的律師故意用了「memorialize」一詞來替代「written down」，這是因為難懂的內容更容易賺律師費。
接著，它又引用了「公司章程」，但這不是合同，馬斯克也沒有簽署，只是簡單地寫了以下內容：
該公司的具體目的是為人工智慧相關技術的研究、開發和傳播提供資金。由此產生的技術將造福於公眾，公司將在適用的情況下尋求開源技術，以造福於公眾。本公司的成立不為任何人謀取私利。
這裡沒有任何協議 —— 也許 OpenAI 複雜的公司結構（包括非營利性公司擁有營利性公司）確實顛覆了這份檔案中闡述的理想，但馬斯克不能因此起訴，因為這不是一份合同。
違約索賠還提到了 Sam Altman 寫給 Elon Musk 的一封電子郵件，其中提到 OpenAI 開發的技術將用於「造福世界」，馬斯克回覆說：「完全同意。」
Nilay Patel 表示，他問了幾個律師朋友這些看起來像不像合同，他們大多一臉茫然。這與馬斯克對合同運作方式越來越模糊的理解如出一轍。
綜合來看，Nilay Patel 認為，馬斯克對 OpenAI 的批評是有道理的，但他請的律師讓人感覺一言難盡。「他的律師們已經發現，讓這位世界首富在無厘頭的訴訟中耗費大量的計費時間，比讓『事實』符合『法律』或其他普通律師所做的事情更有利可圖。」
自 OpenAI 走向閉源以來，馬斯克一直在各個平臺上抨擊這家公司，並表示自己擔心 AGI 可能逃離人類控制，採取危害地球的行動。Altman 過去也曾談到馬斯克的一些擔憂，他評價馬斯克說，「我喜歡這傢伙。我認為他完全錯了，」「他可以說任何他想說的話，但我為我們正在做的事情感到自豪，我認為我們將為世界做出積極貢獻，我試圖超越這一切。」
參考連結：
https://www.wired.com/story/wild-claim-at-the-heart-of-elon-musks-openai-lawsuit/
https://www.theverge.com/2024/3/1/24087937/elon-musk-suing-openai-nightmare-1l-contracts-exam