根據Gartner公司的資料，對人工智慧增強的惡意攻擊的擔憂在2024年第一季度上升到新興風險排名的首位。

今年第一季度，Gartner對345名資深企業風險管理人員進行了調查，以捕捉和衡量他們的前20大新興風險的態度，並向領導者提供其原因和潛在後果。

在2024年第一季度的調查中，與人工智慧相關的風險佔據了前兩名，人工智慧增強的惡意攻擊被認為是最主要的新興風險，人工智慧輔助的錯誤資訊也引起了關注。不斷升級的政治兩極分化是在2023年第四季度首次出現的，從第二大擔憂降至第三位。

人工智慧攻擊和錯誤資訊的原因

人工智慧攻擊和錯誤資訊的主要驅動因素之一是對其功能的快速擴充套件。人工智慧增強可以提供惡意程式碼，並促進網路釣魚和社會工程，從而實現更好的入侵，導致更具破壞性的攻擊。

需要減輕的潛在後果

人工智慧增強的攻擊和錯誤資訊的潛在影響是深遠的，對企業的聲譽、生產力和應對能力都有重大影響。不斷增加的違規和披露要求可能會削弱客戶、消費者和合作夥伴對組織和品牌的信任。