ChatGPT之父舌戰國會山!OpenAI欲與政府聯手,權力通天

人工智慧洞察站發表於2023-05-18

ChatGPT之父舌戰國會山!OpenAI欲與政府聯手,權力通天



  新智元報導  

來源:新智元

編輯:編輯部

【新智元導讀】Sam Altman也迎來「周受資時刻」了,在國會山聽證會上,他備受議員尊敬。OpenAI和政府一聯合,他是要成為rulemaker、登頂矽谷之王了?

上次是周受資,這次,輪到了Sam Altman。
不過這一次,國會議員對他的態度截然不同——友好,耐心,做足了功課,虛心請教。
北京時間昨晚,OpenAI CEO Sam Altman在美國參議院就AI技術的潛在危險作證,並敦促立法者對製造先進AI的組織實施許可要求和其他法規。
ChatGPT之父舌戰國會山!OpenAI欲與政府聯手,權力通天
Sam Altman不用接受刁鑽的問話,他坐在席位上游刃有餘、侃侃而談,再次向世界證明:作為全世界最受矚目的初創公司CEO,他在書寫著科技世界的規則和未來。
面對美國國會,Sam Altman再次斬釘截鐵地保證:在未來六個月內,OpenAI堅決不會訓練GPT-5。
同時, 他也對全世界發出警告:AI有可能會對世界有害,為了應對日益強大的AI風險,我們需要加強監管和立法,而政府的干預極為重要。
為啥Altman對政府監管如此積極呢?
顯然,只要成為規則制定者,就能在競爭中贏者通吃。
而對於在矽谷靠著「社牛」屬性闖出一片天地的Altman,和政府打交道,簡直輕鬆得如同探囊取物。
用AI生成的開場演講
作為科技界異軍突起的新力量,OpenAI在成立8年後,在今年以迅雷不及掩耳之勢攪動了全世界,逼得所有科技公司都參與進了一場以ChatGPT為起點的全球內卷。
這場全球AI軍備競賽,讓不少專家警鈴大作。
不過這次聽證會,參議院的議員們並沒有批評OpenAI的技術帶來的混亂,而是謙遜地就ChatGPT的潛在規則徵求了證人們的意見,對Sam Atlman的態度是肉眼可見的友好和尊敬。
ChatGPT之父舌戰國會山!OpenAI欲與政府聯手,權力通天
聽證會一開始,參議員Richard Blumenthal使用了聲音克隆軟體複製自己的音色,讓ChatGPT寫了一段開場白,使用數小時的演講訓練了一個文字到語音生成器。
此舉證明,國會「擁抱AI」的態度旗幟鮮明。

AI危險,請監管我們

這一場聽證會上,立法者明顯非常興奮,與他們曾經對小扎和周受資步步緊逼的質疑形成了鮮明對比。

參議員們沒有喋喋不休地談論過去的錯誤,而是對AI可能帶來的好處充滿渴望。

而Altman開門見山地告訴參議院:AI技術可能會出錯。

ChatGPT之父舌戰國會山!OpenAI欲與政府聯手,權力通天

他表示,自己很擔心人工智慧行業對世界造成重大傷害(cause significant harm to the world)。

「如果AI技術出錯,造成的後果不堪設想。我們需要對此發聲:我們希望與政府合作,防止這種情況發生。」

「我們認為,政府的監管幹預對於減輕日益強大的AI模型的風險,至關重要。比如,美國政府可以考慮將許可和測試的要求結合起來,以開發和釋出超過能力閾值的AI模型。」
Altman表示,自己非常擔心選舉會受到AI生成內容的影響,因此在這方面需要有足夠的監管。
對此,參議員Dick Durbin表示,大公司來到參議院「懇求我們的監管」,是很了不起的行為。

ChatGPT之父舌戰國會山!OpenAI欲與政府聯手,權力通天

Altman提出三點方案:

怎麼監管?Altman早就替政府想好了。

在聽證會上,他提出一個成體系的方案。
ChatGPT之父舌戰國會山!OpenAI欲與政府聯手,權力通天

1. 成立一個新的政府機構,負責為大型 AI 模型頒發許可,撤銷不符合標準的模型的許可。


而對於能力遠達不到最先進的大模型的技術,他認為不需要使用這種許可監管制度。國會可以「定義能力閾值」,免除小型公司和研究人員可能遇到的監管負擔,鼓勵創新。


2. 為 AI 模型建立一套安全標準,包括對其危險能力的評估。


例如,模型必須透過安全測試,比如它們是否可以「自我複製」和「流出到監管之外」。


3. 要求獨立專家對模型在各種指標上的表現進行獨立審計。


當參議員問他是否願意擔任這個角色時,Altman說:我對目前的工作感到滿意,不過他很願意提供一個名單供國會挑選。


Altman說,因為AI模型可以「說服、操縱、影響一個人的行為、信仰」,甚至「創造新的生物製劑」,因此,非常需要許可。
對所有超過一定計算能力閾值的系統進行許可會更簡單,但Altman表示,自己更願意根據特定能力劃定監管線。
ChatGPT之父舌戰國會山!OpenAI欲與政府聯手,權力通天
那OpenAI自己的模型安不安全呢?
Altman一再表示,大家可以放心。
他說,GPT-4模型比其他任何類似模型做出的回應都會更有意、更真實,並且一定會拒絕有害的請求,因為GPT-4經過了廣泛的預釋出測試和審計。
「在釋出任何新系統之前,OpenAI 會進行廣泛的測試,聘請外部專家進行詳細審查和獨立審計,改進模型的行為,並實施強大的安全和監控系統。」
ChatGPT之父舌戰國會山!OpenAI欲與政府聯手,權力通天
「在釋出GPT-4之前,我們花了六個多月的時間進行廣泛的評估、外部紅隊和危險能力測試。」
並且在上個月,ChatGPT的使用者已經可以關閉聊天記錄,防止自己的個人資料被用來訓練AI模型了。
不過呢,也有眼尖的群眾發現了「華點」,Altman的提議中,並沒有涉及到公眾熱議的兩點——

1. 要求AI模型為其訓練資料公開來源。


2. 禁止AI模型使用受到智慧財產權保護的作品進行訓練。

嗯,就是說,Altman非常巧妙地迴避了這兩個爭議點。
ChatGPT之父舌戰國會山!OpenAI欲與政府聯手,權力通天
Altman對於AI安全規則的提議,議員們大為讚許,並且偶爾會對他的證詞表示感謝。參議員R-LA甚至向Altman丟擲了橄欖枝,問他是否有意在國會建立的監管機構工作。
國會決心監管人工智慧,早有前兆。本月初,Altman同谷歌、微軟和英偉達的CEO一同在白宮會見了副總統Kamala Harris,討論了負責任AI的發展。
而早在去年,白宮就曾提出「人工智慧權利法案」,向業界提出各種要求,比如防止歧視。

類比原子彈,建議成立類似國際原子能機構的國際組織

參議員提出,把AI比作原子彈的說法。

而Altman參考世界各國政府監管核武器的做法,提出了組建一個類似於國際原子能機構的機構,來為該行業制定全球規則的想法。

OpenAI在未來六個月內不會訓練GPT-5

在4月份Lex Fridman的第2輪訪談中,Sam Altman言之鑿鑿地說:「我們現在並沒有訓練GPT-5,目前只是在GPT-4的基礎上進行更多的工作而已。」

ChatGPT之父舌戰國會山!OpenAI欲與政府聯手,權力通天
這次聽證會上,Altman更是直接承認,OpenAI在未來6個月內,沒有訓練可能成為GPT-5的新模型的計劃。
而這應該意味著,谷歌將在今年晚些時候擁有其迄今為止最強大的人工智慧系統——Project Gemini。
據說,Gemini專為儲存和排程等未來創新而設計,不僅從一開始就是多模態的,而且在整合工具和API方面效率很高。目前正由新成立的Google Deepmind團隊研發。

馬庫斯:OpenAI自稱為了全人類,可資料不透明

紐約大學心理學和神經科學教授Gary Marcus也出現在了證人席上。

ChatGPT之父舌戰國會山!OpenAI欲與政府聯手,權力通天
他的攻擊性甚至比國會議員們還要強。
他對Sam Altman發出的提問,可謂「招招致命」。
OpenAI成立的宗旨不是造福全人類麼,如今為什麼跑去和微軟結盟?
OpenAI不Open,GPT-4的訓練資料不透明,到底是幾個意思?
ChatGPT之父舌戰國會山!OpenAI欲與政府聯手,權力通天馬庫斯總結道:我們擁有前所未有的機會,但我們也面臨著企業不負責任、廣泛部署、缺乏適當監管和不可靠的可怕風險
在馬庫斯看來,Open和微軟的行事都大有問題。
曾經微軟的必應AI悉尼,表現出了一系列令人震驚的行為。
「悉尼的問題很大,如果是我,會馬上把它從市場上撤下,但微軟並沒有。」
馬庫斯表示,這件事給自己敲響了警鐘——即使是像OpenAI這樣的非盈利組織,也可能被大公司買下,然後想做什麼就做什麼。
但現在,人們的觀點和生活都在潛移默化地被AI塑造和改變,如果有人故意利用AI技術,用於不良的目的呢?
馬庫斯對此表示非常擔心。
ChatGPT之父舌戰國會山!OpenAI欲與政府聯手,權力通天「如果讓一種技術官僚和寡頭政治相結合,那少數公司就可以影響人們的信仰,這是真正的風險所在......讓少數玩家使用我們根本不知道的資料來做到這一點,這讓我感到害怕」

Altman表示AI界並不存在壟斷

針對一些常見的法律監管方面的問題,看得出來Altman早就成竹在胸,給各位參議員們安排得明明白白的。

ChatGPT之父舌戰國會山!OpenAI欲與政府聯手,權力通天
參議員說,他對人工智慧的「最大擔憂」之一是「這種大規模的企業壟斷」。
他舉了 OpenAI 與科技巨頭微軟的合作為例。
Altman表示,他認為能夠製造大模型的企業數量相對較少,反而可能會更加方便監管。
例如,大型的生成式 AI,只有少數公司能夠製造,但是競爭一直是存在的。

給大模型建立法律責任

美國國會 1996 年透過的第 230 條促進了社交媒體的興起,該條款保護網站免於對使用者的帖子承擔責任。

Altman認為:大模型現在沒有辦法受到230條的法律保護。應該制定新的法律保護大模型不會因為輸出內容而承擔法律責任。
ChatGPT之父舌戰國會山!OpenAI欲與政府聯手,權力通天

巧妙迴避最致命的問題

奧特曼最初回避了參議員提出的「AI可能造成最嚴重的後果」。

但在馬庫斯友好地提醒 Altman 沒有回答問題後,這位參議員重複了他的問題。
Altman最終也沒有正面回答這個問題。
ChatGPT之父舌戰國會山!OpenAI欲與政府聯手,權力通天
他說,OpenAI 曾試圖非常清楚人工智慧的風險,這可能會以「很多不同的方式」對「世界造成重大傷害」。
他再次闡明。應對這個問題就是OpenAI成立的原因。「如果這項技術出了問題,它可能會大錯特錯。」
其實,在今年早些時候接受「StrictlyVC」採訪時,Altman稱人類滅絕是最壞的情況。
最終,就連馬庫斯似乎也對奧特曼軟化了。
在聽證會快結束時,坐在Altman旁邊的馬庫斯說,「他在談論恐懼時的誠意非常明顯,這種誠意在透過電視螢幕是沒法感受到的。」
ChatGPT之父舌戰國會山!OpenAI欲與政府聯手,權力通天

老練的科技領袖

跟小扎相比,Altman此次聽證會的表現十分老練,想來他作為社牛,對與政客們打交道早已遊刃有餘。畢竟,Altman可是多年前就曾考慮過競選加州州長的人物。

而且對比去聽證會前因為資料隱私和虛擬貨幣已經「捅了大簍子"的小扎,Altman背後的OpenAI不但幾乎沒有受到任何公眾的指責,還是目前AI領域「萬物竟發」局面的最主要開創者。
面對一上來就示好,呼籲對AI進行監管的Altman,這些幾乎都是「技術素人」的立法者自然在這位「權威」面前會顯得溫柔和藹很多。
所以同樣場合之下,Altman身上的壓力與小扎相比完全不是一個數量級。
ChatGPT之父舌戰國會山!OpenAI欲與政府聯手,權力通天

大模型的商業模式

有參議院提出這種擔心,如果像網際網路社交平臺一樣,AI產品如果採用廣告為主的商業模式,會讓操縱性的產品設計和令人上癮的演算法被濫用。
Altman說自己「非常喜歡」訂閱模式。
但是OpenAI 確實考慮過在 ChatGPT 免費版中投放廣告來從其免費使用者那裡賺錢的可能性。

參考資料:

來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/70027828/viewspace-2953003/,如需轉載,請註明出處,否則將追究法律責任。

相關文章