近日，人工智慧安全基礎設施提供商瑞萊智慧（RealAI）宣佈完成新一輪戰略融資，北京市人工智慧產業投資基金等參與投資。本輪融資完成後，瑞萊智慧將繼續加速通用人工智慧安全基座產品研發，並不斷推進安全可控的大模型商業化落地。
隨著全球範圍內最大規模的人工智慧浪潮掀起，人工智慧的可控性和安全性成為愈發重要的發展議題。如今，人工智慧大模型的通用性和泛化性大幅提升，應用也從傳統的判別式任務走向生成式任務，而人工智慧的內生及衍生安全問題變得愈加複雜，其帶來的挑戰和已經引起的各類風險事件也持續受到全球公眾、企業和政府的廣泛關注。當下，人工智慧安全不僅要解決資料風險，模型本身的幻覺、魯棒性不足和不可解釋性等技術問題，還要著力減少倫理風險、價值觀對齊風險，以及AI詐騙等濫用行為導致的影響。
2018年7月，瑞萊智慧依託清華大學人工智慧研究院發起設立，始終深耕安全、可靠、可控的第三代人工智慧，著力打造人工智慧安全基礎設施，提供以AI安全為核心能力的AI平臺產品與行業解決方案，為人工智慧技術安全、可靠、可控的落地應用築就堅實基座。秉持著“智慧向善”的使命，瑞萊智慧堅持源頭創新和底層研究，實現對AI大模型的研發部署和應用治理環節全覆蓋，建立了包括基礎演算法平臺層、底層資源層、應用層的全方位AI安全體系，已成為通用人工智慧全產業鏈條安全標準的制定者和踐行者。
目前，瑞萊智慧已推出“大模型安全基座”與“AI生成內容檢測基座”兩條產品線，分別對應人工智慧內生與衍生安全風險。
大模型安全基座基於博弈對抗技術打造，能針對當前大模型幻覺、輸出有害內容等風險做出綜合有效的自動化可控性評測，並可以透過知識嵌入、領域能力增強、模型圍欄等手段，使模型在嚴肅場景的表現更加可控。針對對抗樣本攻擊、模型後門攻擊、資料逆向攻擊等人工智慧特有的安全挑戰，可提供端到端的AI紅隊對抗安全性測評，並提升模型抗攻擊能力。基於該安全基座，可直接面向嚴肅場景打造更加可控的行業大模型系統應用，實現大模型落地。
AI生成內容檢測基座基於貝葉斯深度學習技術開發，能夠精準判斷影像、影片、音訊、文字等各類內容是否由人工智慧生成，防止虛假資訊的廣泛傳播，同時能夠滿足人臉識別等需要可信內容輸入的場景需求，涵蓋網際網路AIGC內容標註、多媒體AIGC合成鑑定、人臉識別系統防AIGC攻擊、AIGC文章檢測等功能，可遏制因人工智慧被惡用、濫用所帶來的不良影響。
基於強大的基礎通用人工智慧安全能力和豐富的行業落地經驗，瑞萊智慧開發了更加安全、可控的行業解決方案，成功在基礎設施、政府、金融等領域實現快速的產品化和商業化落地，已服務多個國家部委以及中國銀聯、中國工商銀行、中國建設銀行、華為等300餘家頭部企業，服務政策大模型在北京市上線使用，累計獲得近百項國家級獎項和榮譽。
瑞萊智慧CEO田天博士表示：“大模型在安全可控上的不足是其當前無法廣泛落地應用的根本原因，而人工智慧不安全的開發和使用，則可能給人類的發展乃至生存帶來災難性的後果。相比過往其他領域的安全問題，人工智慧安全風險更加本質也更加難克服。”
未來，瑞萊智慧將發揮前沿引領者角色，持續關注世界範圍內出現的前沿人工智慧安全風險挑戰，沉澱技術能力和實踐經驗，進一步創新和完善產品功能，加深立體化產品體系建設和產業化建設，為“人工智慧+”賦能全行業全場景提供堅實安全保障。瑞萊智慧也將不斷推動通用人工智慧安全能力的基礎設施化建設，與智算中心等算力基礎設施深度融合，護航中國通用人工智慧高質量發展，加速中國人工智慧產業向國際領軍地位邁進。