- 人工智慧有可能為農業、教育和醫療保健等行業帶來“重大效益”；
- 但世界經濟論壇新發布的一份報告指出了人工智慧給企業和社會帶來的潛在風險；
- 風險管理專業人士表示，我們需要加強對人工智慧的監管，才能安全地從中獲益。
世界經濟論壇的《全球風險展望調查》（Global Risks Outlook Survey）在大型企業和國際組織的首席風險官（CRO）群體中展開調研。首席風險官普遍認為，人工智慧（AI）有望為企業和社會帶來重大效益，但如果我們不瞭解該技術帶來的風險，它也有可能造成巨大破壞。
論壇年中釋出的《首席風險官展望》（Chief Risk Officers Outlook）詳細介紹了這項調查，併發出警告，人工智慧的風險管理並未跟上技術的快速發展。
四分之三的受訪首席風險官表示，人工智慧的使用會給其組織帶來聲譽風險，而十分之九的受訪首席風險官表示，需要採取更多措施來規範人工智慧的開發和使用。
近一半的人贊成暫停或放慢開發新的人工智慧技術，直到我們能夠更好地瞭解其風險。報告稱，人工智慧“使得組織運作的環境變得複雜而不確定”。
“最近幾個月，關於技術相關風險的討論急劇增加，尤其是在生成式人工智慧技術取得指數級進步且人們對其興趣激增的背景下。”
重大效益和巨大破壞
報告稱，雖然人工智慧技術有可能在農業、教育和醫療保健等領域帶來“重大利益”，但“它也能造成巨大破壞”。
首席風險官們認為最大的風險之一就是人工智慧的惡意使用。由於易於使用，生成式人工智慧技術可能會被濫用，被一些人用來傳播假訊息、進行網路攻擊或獲取敏感個人資料。
人工智慧的重大風險來源於其“不透明的內部運作”。報告稱，沒有人完全瞭解人工智慧內容具體是如何製作出來的。這進一步突出了首席風險官們指出的風險，即我們可能會在無意中共享個人資料，並出現基於人工智慧演算法的決策偏差。
首席風險官們如何看待人工智慧迅速崛起帶來的風險。 Image: 世界經濟論壇
報告還稱，由於對人工智慧的工作原理缺乏瞭解，因此很難預測其未來的風險。不過，首席風險官們表示，受人工智慧影響最大的業務領域是運營、商業模式和戰略。
所有受訪者都認為，人工智慧的發展速度已經超過了管理其潛在倫理和社會風險的速度。43%的受訪者表示，在更好地瞭解其潛在影響之前，應暫停或放緩新人工智慧技術的發展。
規範人工智慧的發展
超過半數的首席風險官表示，他們瞭解技術監管可能會對組織帶來的影響。90%的首席風險官表示，需要加快對人工智慧發展的監管。
半數以上的首席風險官計劃對本組織使用中的人工智慧技術進行審查，以評估其安全性、合法性和“道德合規性”，但也有一些首席風險官表示，組織的高階管理層不願意將人工智慧視為商業風險。
蘇黎世保險集團首席風險官、《首席風險官展望》報告作者之一Peter Giger說，我們不能忽視人工智慧的風險，但企業需要採取更廣泛、更長遠的方法。
Giger認為：“過多、過窄地關注未來六個月左右可能占主導地位的風險，容易分散我們的注意力，使我們無法應對那些關乎未來的重大風險。
“人工智慧就是一個很好的例子，因為它要求我們從長遠思考。人工智慧會在當今就顛覆所有人的生活嗎？也許不會。對我們很多人來說，它並非直接威脅。但是，絕對不能忽視人工智慧隨著時間的推移將會帶來的影響和發展趨勢。”
如何負責任地使用人工智慧
今年6月，論壇釋出了關於負責任地開發人工智慧建議的白皮書，敦促技術開發者提升開放和透明度，使用更加準確、共享程度更高的術語。
這一指南還呼籲科技行業做出更多努力，提高公眾對人工智慧能力及侷限性的認知，更多地考慮社會關切和使用者反饋，以此建立行業信任。
關於全球風險展望調查的更多資訊
全球風險展望調查在論壇的首席風險官群體中進行，該群體由來自眾多跨國公司的風險專業人士組成，涉及領域有技術、金融服務、醫療保健、專業服務和工業製造。
受訪者認為，除人工智慧外，宏觀經濟狀況、關鍵原材料的定價和供應中斷、武裝衝突和監管變化等也是企業最關心的問題。
本文作者：
Douglas Broom，論壇議程高階撰稿人
本文原載於世界經濟論壇Agenda部落格