ChatGPT 是 OpenAI 推出的最佳化對話的語言模型,該模型可以根據上下文生成自然語言文字來模擬人類對話,實現回答問題、追問問題、指出問題中的錯誤等功能。簡單來說,向 ChatGPT 輸入清晰整潔的問題,大機率可以獲得一份基本“符合條件”的答案。
隨問隨答的 ChatGPT 憑藉著給提問者帶來的“驚喜”和“新鮮感”,短時間內迅速火遍全網,「短短几天使用者已突破 100 萬大關」,很快 SegmentFault 社群也出現了一些「疑似」由 ChatGPT 生成的答案。這些內容 ChatGPT 遭到大量使用者舉報,經過社群治理小組的討論,我們決定對採用 ChatGPT 生成的非有效答案進行刪除,並對相關賬號進行封禁。
為什麼封禁 ChatGPT
SegmentFault 對各類技術都抱有開放的態度,對於 OpenAI 在模型訓練上取得的優秀成果,我們也非常興奮。或許未來,我們可以一同探索 AI 在社群中的創新應用,但問答不是應用對話模型的正確場景。
以「凝聚集體智慧,推動技術進步」為使命,我們鼓勵大家釋出經過驗證的、有效的解決方案。在沒有自己驗證的前提下,轉發一份機器生成的“看上去還不錯的答案”,這不是一個平等的人和人對話,是對提問者,和社群成員的不尊重。
ChatGPT 生成的答案錯誤率高且不易辨別。回答者不對 ChatGPT 的錯誤承擔責任,而 SegmentFault 的志願者卻需要花費大量的精力來稽核和評判這些機器的內容,給社群造成了沉重的負擔,拉低了生產效率。
機器應該提高人類的效率,而不是增加混亂。我們不應該讓 ChatGPT 產生的錯誤答案,影響社群的運作。基於此,我們臨時封禁 ChatGPT 回答問題。
接下來的措施
我們將在社群中,移除 ChatGPT 的錯誤答案,降低其帶來的不良影響。禁止使用 ChatGPT 在 SegmentFault 社群中創相關內容,如經使用者舉報、系統識別等途徑,核查後將對內容和作者進行刪除、封禁等處理。如有異議可自行申訴。
我們為了消除開發領域的知識不平等,建立了開放式協作的問答社群。十年時間,無數開發者、志願者參與共建、維護。我們探尋以開放、對等、共享的理念,凝聚開發者智慧,共同推動技術進步。歡迎你加入並貢獻自己的智慧,與 SegmentFault 共同建設社群。