OpenAI CEO下場回應「封口協議」,爭議還是到了股權利益上,奧特曼:我的鍋

机器之心發表於2024-05-20
自從 Ilya 和 超級對齊負責人 Jan 離職後,OpenAI 內部還是心散了,後續也有越來越多的人離職,同時也引發了更多的矛盾。

昨天,爭議的焦點來到了一份嚴格的「封口協議」。

OpenAI 前員工 Kelsey Piper 爆料,任何員工的入職檔案說明中都包含一項:「在離開公司的六十天內,你必須簽署一份包含『一般豁免』的離職檔案。如果你沒有在 60 天內完成,你的股權獲益將被取消。」

圖片

這份引發風浪的檔案截圖,讓 OpenAI CEO 迅速下場回應:

「我們從未收回任何人的既得權益,如果人們不簽署分離協議(或不同意不貶損協議),我們也不會這樣做。既得股權就是既得股權(句號)。」

關於 OpenAI 如何處理股權,山姆・奧特曼的其他回應如下:

圖片

僅僅 15 分鐘後,爆料者再次質疑並大膽提問:既然你已經知道了,那麼,此前員工的限制協議會取消嗎?

圖片

圖片

因為大部分人,想要的是一個明確的解決方案,而不只是歉意:

圖片

圖片

爆料者 Kelsey Piper 同時表示:「至於我這樣做是否對 Sam 不公平 —— 我的意思是,我認為這是 CEO 的職責之一。有時你不僅需要道歉,而且人們還會吹毛求疵,想要澄清,想要看到政策已經改變的證據。」

去年有報導稱,OpenAI 員工薪酬中最常見的一種組合是:30 萬美元的固定基本工資,以及每年約 50 萬美元的 PPU(利潤參與單位)補助金,這是一種股權補償形式。也就是說,在 PPU 贈款的四年期中,大多數 OpenAI 員工預計至少獲得 200 萬美元的股權薪酬。

如果訊息為真,大部分「被離職」的前員工應該都想「堅持到底」。

在這場風波之外,還有一條爭議同時進行:有關 OpenAI 將如何處理安全和未來風險。

據多家媒體報導,隨著最近 Ilya Sutskever、Jan Leike 兩位超級對齊團隊的共同領導者離職,OpenAI 的超級對齊團隊已被解散。週五,Jan Leike 還發布了一系列帖子,怒斥 OpenAI 及其領導層忽視「安全」而偏愛「光鮮亮麗的產品」。

今天早些時候,OpenAI 聯合創始人 Greg Brockman 對該問題進行了長文回應。

圖片

在這篇落款為「Sam and Greg」的文章中,Brockman 指出:OpenAI 已採取措施確保 AI 技術的安全開發和部署。

我們非常感謝 Jan 為 OpenAI 所做的一切,我們知道他將繼續從外部為 OpenAI 的使命做出貢獻。鑑於他的離開所引發的問題,我們想解釋一下我們是如何考慮整體戰略的。


首先,我們已經提高了人們對 AGI 風險和機遇的認識,以便世界能夠更好地為其做好準備。我們多次展示了擴充套件深度學習的驚人可能性,並分析了其影響;在此類呼籲流行之前,我們就呼籲對 AGI 進行國際治理,並

其次,我們一直在為安全部署能力越來越強的系統奠定必要的基礎。首次使用一項新技術並不容易。例如,我們的團隊做了大量工作,以安全的方式將 GPT-4 推向世界,此後,我們根據部署過程中的經驗教訓,不斷改進模型行為和濫用監控。

第三,未來將比過去更加艱難。我們需要不斷提升我們的安全工作,以應對每一個新模型的風險。去年,我們採用了「Preparedness Framework」,以幫助將我們的工作系統化。

現在是談論我們如何看待未來的好時機。

隨著模型的功能不斷增強,我們預計它們將開始與世界進行更深入的整合。使用者將越來越多地與由許多多模態模型和工具組成的系統進行互動,這些系統可以代表他們採取行動,而不是與一個只有文字輸入和輸出的單一模型對話。

我們認為,這些系統將給人們帶來極大的好處和幫助,而且有可能安全地提供這些系統,但這需要大量的基礎工作。這包括圍繞它們在訓練過程中與什麼聯絡在一起的深思熟慮,解決困難問題(如可擴充套件的監督)的方案,以及其他新型安全工作。在朝著這個方向發展的過程中,我們還不確定何時才能達到釋出的安全標準,如果這將推遲釋出時間,也沒關係。

我們知道,我們無法想象未來所有可能發生的情況。因此,我們需要一個非常嚴密的反饋迴路、嚴格的測試、每一步的慎重考慮、世界一流的安全性,以及安全與功能的和諧統一。我們將繼續針對不同的時間尺度開展安全研究。我們還將繼續與各國政府和許多利益相關方就安全問題開展合作。

在通往人工智慧的道路上,沒有行之有效的指南。我們認為,經驗性的理解可以幫助我們指明前進的道路。我們相信,既要實現巨大的發展前景,也要努力降低嚴重的風險;我們非常認真地對待我們在這方面的角色,並仔細權衡對我們行動的反饋意見。

— Sam and Greg

但效果似乎不盡如人意,甚至受到了嘲諷:

圖片

圖片

AI 領域的活躍學者 Gary Marcus 也說:透明度勝於雄辯。

圖片

看起來,Greg Brockman 並不打算對政策或承諾方面做出更具體的回應了。

在 Jan Leike 和 Ilya Sutskever 離開後,另一位 OpenAI 聯合創始人 John Schulman 已轉而負責超級對齊團隊正在做的工作,只是不再有一個專門的部門,而是一個鬆散關聯的團隊。嵌入公司各個部門的研究人員小組。OpenAI 將其描述為「更深入地整合(團隊)」。

爭議背後的真相是什麼呢?也許 Ilya Sutskever 最清楚,但他選擇了體面離場,今後可能也不會再談起這件事。畢竟,他已經有了「一個對個人而言非常有意義的專案」。

相關文章