歷時半年的 SB 1047法案投票將於近日迎來大結局。
「這是一個艱難的決定，會讓一些人感到不安。但是，綜合考慮所有因素，我認為加州或許應該透過 SB 1047 人工智慧安全法案。二十多年來，我一直是人工智慧監管的倡導者，正如我們對任何對公眾存在潛在風險的產品 / 技術進行監管一樣。」剛剛，馬斯克發了這樣一則推文。
馬斯克提到的 SB 1047 全稱是「Safe and Secure Innovation for Frontier Artificial Intelligence Act（《前沿人工智慧模型安全創新法案》）」，旨在為高風險的 AI 模型建立明確的安全標準，以防止其被濫用或引發災難性後果。
具體來說，該法案旨在從模型層面對人工智慧進行監管，適用於在特定計算和成本閾值之上訓練的模型。但如果嚴格按照規定的計算和成本閾值來算，現在市面上所有主流的大型模型都會被認為存在「潛在危險」。而且，法案要求模型背後的開發公司對其模型的下游使用或修改承擔法律責任，這被認為會給開源模型的釋出帶來「寒蟬效應」。
該法案於今年 2 月份在參議院被提出，隨後一直爭議不斷。很多科學家認為，法案的條款過於不合理，將對科技創新造成毀滅性的影響。前段時間，李飛飛親自撰文，闡述了法案可能帶來的諸多不利影響。加州大學的數十名師生簽署了聯名信，以反對這一法案（參見《李飛飛親自撰文，數十名科學家簽署聯名信，反對加州 AI 限制法案》）。
在反對聲浪如此高漲的當下，馬斯克的態度多少有點出人意料。畢竟一旦法案透過，他建立的 xAI 所訓練的 Grok 系列模型也會被納入監管範圍，而且研發進度也可能受到影響。
與此同時，他的競爭對手 OpenAI 最近宣佈反對該法案，轉而支援替代法案。
SB 1047 將於本週在州立法機關進行投票。如果在 8 月 31 日立法會議結束前獲得透過，它將被提交給州長 Gavin Newsom，他將在 9 月 30 日之前簽署或否決該法案。
OpenAI：人工智慧革命才剛剛開始，SB 1047 將逼走世界級人才
前段時間，OpenAI 釋出了一封公開信，反對 SB 1047 法案。公開信指出，該法案將損害人工智慧行業的創新，而且該問題的監管應該來自聯邦政府，而不是各州。
OpenAI 首席戰略官 Jason Kwon 在信中寫道：「人工智慧革命才剛剛開始，加州作為人工智慧全球領導者的獨特地位正在推動該州的經濟發展。SB 1047 將威脅這種增長，減緩創新步伐，並導致世界級的工程師和企業家離開該州，在其他地方尋找更大的機會。」
據一位知情人士透露，由於擔心加州監管環境的不確定性，OpenAI 暫停了關於擴大其舊金山辦事處的對話。
法案起草者、加州參議員 Scott Wiener 在一份宣告中為擬議中的立法進行了辯護，並表示 OpenAI 的信「沒有批評法案中的任何一項條款」。他還表示，關於人工智慧人才離開該州的論點「毫無意義」，因為該法律將適用於任何在加州開展業務的公司，無論其辦公室位於何處。
Anthropic、Hinton、Bengio 支援 SB 1047
其實，在 OpenAI 釋出公開信之前，SB 1047 已經經過了一番修改，以安撫科技公司，主要修訂如下：
據悉，部分修改意見由另一家人工智慧科技公司 Anthropic 提出。最近，該公司公開表示支援修訂後的法案，但也並非毫無保留。
「根據我們的評估，新的 SB 1047 已經有了很大的改進，我們認為它的好處可能超過成本，」Anthropic CEO Dario Amodei 在 8 月 21 日給加州州長 Gavin Newsom 的一封信中說。「然而，我們對此並不確定，該法案的某些方面對我們來說似乎令人擔憂或模稜兩可。」
除了 Anthropic 和馬斯克，SB 1047 還獲得了包括 Geoffrey Hinton 和 Yoshua Bengio 在內的知名人工智慧研究人員的支援，他們強調了平衡創新與安全的重要性。Hinton 稱讚該法案方法合理，強調了需要有針對強大人工智慧系統風險的立法。
對於兩位好友的看法，和他們一起獲得 2018 年圖靈獎的 Yann LeCun 表示完全不同意。他既不相信現在的大模型能達到超人水平，也不認為超級 AI 必然主宰人類。在他看來，現在對 AI 進行嚴格監管還為時過早。
支援標記 AI 生成的內容
雖然反對 SB 1047，但其實大部分 AI 研究者、科技公司並非完全反對監管，而是反對 SB 1047 裡的監管方法。
例如，在對人工智慧生成的內容進行標記方面，加州一項法案最近就取得了新進展。
據 TechCrunch 報導，OpenAI、Adobe 和微軟已支援加州一項法案 ——AB 3211，該法案要求科技公司對人工智慧生成的內容進行標記。
AB 3211 法案將於八月進行最終投票。該法案要求人工智慧生成的照片、影片和音訊剪輯的後設資料中包含水印。許多人工智慧公司已經這樣做了，但大多數人不閱讀後設資料。AB 3211 法案還要求 Instagram、X 等大型線上平臺以普通網友可以理解的方式標記人工智慧生成的內容。
OpenAI、Adobe 和微軟是內容來源和真實性聯盟（C2PA）的成員。從今年早些時候開始，OpenAI 已經向由 DALL・E 3、ChatGPT 和 OpenAI API 建立和編輯的影像中新增了 C2PA 後設資料。
值得注意的是，商業軟體聯盟 BSA（成員包括 Adobe、微軟等）在 4 月份曾表示反對 AB 3211 法案，他們在致加州立法者的一封信中稱該法案「不可行」且「過於繁重」。然而，該法案的修正案似乎改變了他們的想法。
不過，科研人員對 SB 1047 法案的態度似乎沒這麼容易轉變。特別是，以 OpenAI 為代表的科技公司一直持反對意見。SB 1047 法案的最終投票結果可能會在人工智慧行業激起一些風浪。
參考連結：
https://techcrunch.com/2024/08/26/elon-musk-unexpectedly-offers-support-for-californias-ai-bill/
https://techcrunch.com/2024/08/26/openai-adobe-microsoft-support-california-bill-requiring-watermarks-on-ai-content/
https://x.com/elonmusk/status/1828205685386936567
https://campustechnology.com/Articles/2024/08/26/Anthropic-Announces-Cautious-Support-for-New-California-AI-Regulation-Legislation.aspx?Page=2