自人工智慧研究實驗室OpenAI於2022年11月推出聊天機器人軟體ChatGPT以來，人們一直擔心它可能被濫用。主要討論圍繞其在學術界使用的倫理問題，網路安全問題，以及ChatGPT在某些領域取代人類工作的可能性。儘管有所顧慮，這個工具還是獲得了巨大的人氣，超過10%的美國人表示在第一次釋出後的兩個月內就使用過它。該工具主要由18至44歲的個人使用。
人工智慧操作的聊天機器人是基於深度學習技術的大型學習模型(LLM)。經過訓練，它可以處理和生成響應使用者請求的類似人類的文字，能夠分析特定主題、翻譯文字，甚至用最常用的程式語言(如Python和Java)生成程式碼。
截至2023年1月，美國成年人中使用過ChatGPT的比例。資料來源:Statista.com
ChatGPT與網路犯罪
ChatGPT的優點吸引了全世界的許多使用者，但其複雜的功能並不總是用於良好的目的。在某些情況下，該工具無法完全識別包含網路威脅的使用者請求。雖然該軟體有防止其濫用的內容過濾器，但會有使用者可能透過應用某些技術繞過這些過濾器。
雖然OpenAI已經採取措施改進識別包含網路風險的請求，但使用者仍然可以透過某些變通的方法得到請求的應答。例如，如果該工具拒絕在直接請求下建立一個釣魚郵件的文字，使用者仍然可以透過將其描述為不同生活情況下的所需知識，例如就該主題編寫一個電影劇本，而不是實際的釣魚攻擊企圖，來讓它編寫。
雖然截至2023年4月，還沒有關於人工智慧驅動的重大網路攻擊事件，但全球IT和安全專業人士認為，企業預料可能在不到一年的時間內會發生此類事件。他們中的大多數人表示，使用ChatGPT將幫助駭客製作更可信、聽起來更合法的網路釣魚電子郵件。他們還相信，該工具將幫助經驗不足的駭客提高他們的專業知識和技能。
根據全球部分國家的IT和安全專業人士的意見，截至2023年1月，ChatGPT可能被用於網路犯罪目的。資料來源:Statista.com
ChatGPT洩露企業資料
儘管大多數公司釋出了關於正確使用ChatGPT的說明，甚至禁止在工作場所使用ChatGPT，但仍然有許多高度敏感的公司內容在ChatGPT上曝光的案例。為了在工作中表現更好，世界各地的許多員工已經開始使用ChatGPT，因為它為各種任務提供了快捷的解決方案。但是，該工具的不當使用有時會導致員工洩露機密的公司資料。通常使用付費版本的服務，使用者認為他們共享的資料仍然是保密的。然而，共享的資料成為了ChatGPT的常識。截至2023年3月，一項調查發現，超過8%的受訪員工在工作場所至少使用過一次ChatGPT，約3%的員工在ChatGPT中輸入過機密的公司資料。最常暴露的企業資料型別是僅供內部使用的敏感資料。
2023年2月至3月，全球員工在ChatGPT上輸入敏感資料的案例數量。資料來源:Statista.com
ChatGPT的最新版本
在2023年3月，OpenAI釋出了最新版本的ChatGPT, 即GPT-4。該公司聲稱，在建立GPT-4時，他們已經解決了使用者對網路安全的擔憂，並試圖修復聊天機器人在敏感和不允許的線上內容方面的不正確行為。據該公司稱，在最新版本中，ChatGPT對被禁止的內容請求的響應率下降了82%。此外，據報導，與GPT-3.5 相比，GPT-4 產生的有害內容減少了89%。
