中科三方雲解析專家講解Chatgpt技術背後的網路安全隱患

youbingke發表於2023-02-21

這段時間,網路最熱的話題當屬chatgpt無疑。

ChatGPT推出僅兩個月,月活使用者突破1億,成為史上使用者增長速度最快的消費級應用程式。

Chatgpt是一款由OpenAI開發的消費級人工智慧應用,它透過與人對話的方式,完成程式設計、翻譯、寫作等一系列複雜任務,展示出AI驚人的能量,為各行業的生產方式帶來了巨大變革。chatgpt爆紅之後,谷歌、微軟、百度、科大訊飛等國內外科技巨頭,也紛紛入局聊天機器人專案,人工智慧技術隨著chatgpt的出現而按下了加速鍵。

在chatgpt狂飆突進之時,我們除了看到其對於提升學習工作效率,改變生產創作方式之外,更要關注到這把科技利刃的另一面。

不少人認為,chatgpt技術的發展降低了人們發動網路攻擊從事網路犯罪的門檻,而目前針對chatgpt的法律法規尚不完善,因此chatgpt類強人工智慧的興起勢必會帶來比之前更為嚴重的網路安全風險,這不得不引起我們的重視。

1.編寫惡意軟體

目前安全人員已發現網路攻擊者使用chatgpt來開發惡意軟體的情況。雖然chatgpt設定阻止其直接作惡,但研究人員已經找到了多種方法可以繞開chatgpt規則從而發動攻擊。

在chatgpt的幫助下,攻擊者可以藉助人工智慧生成的程式碼發動更快速、更迅猛的攻擊,甚至讓經驗不足的攻擊者也能編寫出此前只能由專家來完成的精準惡意編碼,如果不加約束,惡意軟體將出現指數級增長。

2.社會工程

社會工程攻擊是指透過合法的交流,來實施對受害者的心理詐騙,從而獲取敏感資訊或執行其他攻擊行為。安全人員發現,使用chatgpt能夠完美模擬各種社會環境,並生成可用於多種用途的類人文字,使攻擊者更容易誘騙受害者提供敏感資訊或下載惡意軟體,加速社會工程攻擊。

3.智慧財產權問題

Chatgpt最大的技術優勢在於海量的文字資料探勘,然後進行深度學習訓練,但當前網際網路上的大多數網站都有防止第三方收集資訊的網站隱私條款,因此從法律上來講,文字資料探勘需要取得相應的智慧財產權授權。而目前包括我國在內的大部分國家的智慧財產權法律下,僅自然人享有著作權,這就意味chatgpt加工再創作的作品可能存在侵權行為。因此,我國也已chu臺了對AI深度合成技術的一些規範要求。

4.資料洩露

作為大型語言模型,chatgpt的訓練資料集包含了TB級別的海量網際網路文字資料,不少文字工作者和軟體工程師都嘗試使用chatgpt來作為提升自己工作效率的得力助手,但此過程中不可避免地會產生敏感資料的洩露。今年年初,有安全人員發現chatgpt生成的文字中有疑似商業機密的情況,此後國內外不少科技巨頭開始提醒自己的員工在使用chatgpt時不要輸入敏感資訊資料,但這樣起到的作用是微乎其微的。

雖然chatgpt使用的技術本身存在很多的安全隱患,但我們不能因噎廢食,一味地去批判和否定,技術的進步在多數情況下都是利大於弊。在網路安全方面,正確合理地使用chatgpt技術可以有效降低網路犯罪的發生,它可以快速識別經常出現在網路上的不良資訊,如暴力、se情、欺詐,以及刻意的虛假資訊等內容。此外,chatgpt技術還可以提高網路系統的安全性,幫助政府和企業快速識別網路上的可疑活動,幫助監管機構及時阻止網路攻擊行為的發生。

由此可見,chatgpt等新興技術都是無關對錯客觀中性的,至於利弊關鍵還在於能否形成對新工具的理性使用。因此當務之急是建立有效的治理和法律框架,對其所帶來的網路犯罪行為進行有效的監管和約束。另一方面,則是在技術上的發展與革新,網路技術在提升工作效率,改變生產方式之時,更應該關注背後的安全問題,因此加大網路安全技術的研發和投入,以有效應對chatgpt或其他新興技術所帶來的安全風險,是需要全球各界共同努力的。

而DNS作為整個網際網路體系中的“導航系統”,其重要性不言而喻,而其缺乏驗證機制的先天缺陷,也成為網路攻擊的重點目標,而chatgpt這一利器的出現,無疑使得對DNS攻擊更容易展開,破壞性也更為明顯。因此,在各種眼花繚亂的新技術頻頻亮相之時,關注DNS這一網際網路底層服務的安全顯得更加重要。

中科三方作為中國科學院控股有限公司旗下的域名服務商,深耕域名領域二十餘年,始終致力於域名解析新技術和新思路的探索研發,並於近日推出全新二代雲解析系統。與傳統解析技術相比,中科三方雲解析具備智慧解析、負載均衡、健康監測、當機切換、DNSSEC、高防DNS、全域性流量管理等諸多優點,可為廣大政府機關和企業提供更智慧、安全、穩定的權威解析服務,不斷夯實網路服務根基,有效應對各種形式的網路安全挑戰。


來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/69996004/viewspace-2936271/,如需轉載,請註明出處,否則將追究法律責任。

相關文章