全球頂級AI廠商一齊測試模型安全性，最大規模的AI駭客大賽即將開啟

自ChatGPT問世並風靡全球以來，這類大型語言模型已經逐漸成為了輔助提高生產力的工具，美國白宮更是直接將人工智慧評價為這個時代最強大的技術之一。

同時，美國白宮也表示為了抓住它所帶來的機遇，首先必須降低它的風險，而公司對此負有基本責任，需要確保其產品在部署或公開之前是安全的。就在前不久，美國白宮宣佈OpenAI、Google、Antrhopic、Hugging Face、Microsoft、Nvidia和Stability AI等頂級AI廠商將在DEF CON 31上齊聚一堂，開展對其生成式AI系統的公開評測。

DEF CON是全球頂級的安全會議，參會者近萬，除來自世界各地的極客、安全領域研究者、愛好者，還有全球許多大公司的代表以及美國國防部、聯邦調查局、國家安全域性等政府機構的官員。

除此之外，據白宮新聞稿，美國國家科學基金會宣佈提供1.4億美元的資金給人工智慧研發，用於啟動七個新的國家人工智慧研究所。這項投資將使美國的研究所總數達到25所，並將參與的組織網路擴充套件到幾乎每個州。這些新研究院將推進人工智慧研發，以推動氣候、農業、能源、公共衛生、教育和網路安全等關鍵領域的突破。

白宮在一份宣告中說，這次的AI評測活動將為研究人員和公眾提供關於這些模型的關鍵資訊，並使人工智慧公司及開發人員能夠採取措施解決這些模型中發現的問題。按照大賽舉辦方 AI Village的說法，即將舉行的活動是“任何一組AI模型有史以來最大的紅隊演習”，成千上萬的人將參與到公共人工智慧模型評估之中來。

據瞭解，DEF CON 31將於2023年8月10日至13日在拉斯維加斯凱撒論壇舉行。在DEF CON活動期間，參與者將能夠透過組織者提供的膝上型電腦定時訪問多個LLM。為激勵參賽者，大賽採用CTF形式的積分系統，積分最多者將會贏得高階英偉達GPU。

編輯：左右裡

資訊來源：美國白宮、arstechnica

轉載請註明出處和本文連結