- 情商在識別和管理由人工智慧主導的騙局方面至關重要。
- 企業應培訓員工識別情緒觸發因素，並透過反思減輕生成式人工智慧（GenAI）的威脅。
- 鼓勵沉著應對而不是衝動反應，有助於防止在決策中濫用 AI。
想象一下，您接到孫子打來的求救電話；他描述了一場可怕的車禍，聲音充滿了恐懼。這就是發生在加拿大里賈納一名 75 歲老人 Jane 身上的事情。
由於情況緊急，她幾小時後就趕到銀行，為孫子取保釋金。後來，她才發現自己是 AI 生成騙局的受害者。
到 2030 年，GenAI 預計將使全球 70% 的業務現自動化運營，這令許多領導者既興奮又著迷。但是，GenAI 也有其陰暗面，它的欺騙性也會變成攻擊人的武器。
Jane 的故事並非個例。情感操控型詐騙也會對企業構成嚴重威脅，使其面臨財務和聲譽風險。
檢測 AI 生成的內容仍是一個難題。要驗證數字內容，我們首先還是會尋求技術幫助。雖然許多工具都自詡能夠檢測 AI 生成的內容，其準確性卻並不穩定。
尤其是隨著一些能夠繞過檢測的工具出現，比如移除影像中的 AI 水印工具，我們離成功實現 AI 生成內容的自動標記還很遙遠。
儘管一些工具表現出良好的前景，如英特爾的 FakeCatcher，但它們尚未實現大規模應用。在各組織努力追趕 GenAI 發展步伐的同時，人類的懷疑態度仍然是最佳防線。
情商，即識別、理解和管理自己的情緒，是識別 AI 操控的有利武器。
GenAI 帶來的三大風險可以透過情商來應對：
- GenAI 的超真實輸出成為騙子利用如緊迫感或同情心等情緒反應的工具。
- GenAI 的道德倫理隱患通常是無意識的，因為員工可能會預設 AI 的推薦，或陷入自動化偏見，將效率置於道德倫理之上。
- 從工作焦慮到道德冷漠，員工在 GenAI 帶來的情緒壓力下可能會做出衝動的決定。
要管理 GenAI 威脅的影響，個人必須能夠識別涉及到的情緒，反思其影響，並以明智的、有同理心的行動來應對。以下三種方法能夠做到這一點。
1. 幫助團隊識別情緒被操控的情況
GenAI 只需分析員工資料或公司特定內容，就能制定個性化的騙局。威脅行為者甚至可以利用個人的數字足跡來建立深度偽造影片。
員工需要了解 GenAI 如何利用情感戰勝理性決策。一家網路安全公司的高階經理分享了一段令人大開眼界的經歷。
最近，他收到一條 WhatsApp 訊息和一段語音錄音，詐騙者冒充其執行長，討論一項緊急商業交易的細節。
最初，來自上級領導的情緒壓力引起了反應。然而，騙子對標準化的組織溝通方式的熟悉程度暴露了破綻：不應透過非正式溝通渠道傳遞敏感資料或進行後續聯絡。
領導者必須投資提高情商的培訓。透過以識別情緒觸發因素為重點的講習班，以及以創造性思維和靈活策略而非嚴格遵守規則為重點的模擬訓練，可以幫助員工更快發現操控行為。
2. 讓反思成為團隊的預設模式
個人還應考慮他們在情緒驅使下采取的行動會可能會導致的意外後果。反思可以幫助我們意識到情緒會如何無意識地影響我們的行為。
最近一起缺乏道德監督的案例來自一家德國雜誌，其未經一級方程式賽車傳奇人物邁克爾 · 舒馬赫（Michael Schumacher）的同意，發表了一篇由 AI 生成的採訪。採訪內容包括一些虛假引述，涉及舒馬赫自 2013 年以來的健康狀況和家庭生活。
受能夠發表 “獨家新聞” 的興奮驅使，記者沒有考慮到該新聞對舒馬赫及其家人情感上的影響，最終雜誌社遭受了巨大的聲譽損失。
工作中的批判性反思可以鼓勵我們考慮不同的視角和影響我們選擇的因素。領導者可以引入小組反思練習來促進這一點。
一個很好的例子是 “旁觀者”（fly on the wall）技術：一名團隊成員展示 GenAI 的輸出結果，然後靜靜地觀察其他人討論其倫理考慮因素和偏見。
最後，分享從討論中獲得的啟示。經過反思，熟悉的情況可能會呈現出新的含義，揭示潛在的假設，並警告對 AI 產生依賴性的風險。
3. 將快速反應轉化為深思熟慮的應對
最後一步是將認識和思考轉化為深思熟慮的行動。即使考慮到風險，“AI 的影響” 也可能會壓倒正確的判斷。讓員工有權設定界限，重新掌控決策過程。
鼓勵他們表達不安或推遲行動，直到最終核實，比如說 “我需要書面確認才能繼續”，這樣可以減緩操控的勢頭。
這種反應之所以能夠實現，是因為一種開放對話的文化，即鼓勵員工無需畏懼對指示提出質疑或表達擔憂。
在一起最新案例中，一位法拉利高管接到了 CEO 貝內代託 · 維尼亞（Benedetto Vigna）的電話。一開始這看起來很可信。但隨著談話內容逐漸涉及機密，這位高管開始懷疑。
他不願冒險，提出了一個只有真正的 CEO 才能回答的問題。結果騙局暴露，對方突然結束通話了電話。透過過度依賴、擬人化和模糊虛擬與現實之間的界限，我們可以考到 “情感糾葛” 可能性的增加。
只有真正的人類才會受到情緒影響。但我們也可以調節情緒，做出更好的決策。最終，一個自動化的世界可以從這些策略體現出的人類感知力、人情味和敏感性中受益。
本文作者：
Öykü Işık，瑞士洛桑國際管理發展學院數字戰略與網路安全教授
Ankita Goswami，瑞士洛桑國際管理發展學院外部研究員
本文原載於世界經濟論壇 Agenda 部落格