ChatGPT 全集
目錄
一、ChatGPT 賬號註冊教程
一、註冊 Chat GPT 賬號
註冊 ChatGPT 這一步主要包含以下幾步（需要按照順序逐步操作）：
- 將網路環境切換成國外 IP（注意：必須是國外，且設定全域性代理），且後續整個註冊流程都必須在此網路環境下進行。【這步有問題的小夥伴可以私信我，保證解決】
- 開啟連結：點選進入
- 並使用自己的郵箱進行賬號註冊。
- 開啟郵箱查收 OpenAI 賬號驗證郵件，點選驗證按鈕完成郵箱驗證。
下面每一個步驟的圖片，大家可以對照著進行操作。!
郵箱驗證完成後，我們第一步註冊賬號就算完成了，但是到這裡我們還不能開始使用 ChatGPT，因為我們還需要進行手機號碼驗證。沒有透過手機號碼驗證是使用不了 OpenAI（ChatGPT的開發商） 的服務的。
因為OpenAI官方的限制，國內和港澳的手機號碼還有 Google Voice 的虛擬號碼都是不能使用的。
這時候就要用到下一步的接碼平臺。
二、完成 ChatGPT 手機號碼驗證
這一步需要用到接碼平臺完成手機號驗證，推薦平臺連結地址：點選進入
具體過程包含以下幾步：
- 透過自己的郵箱註冊賬號並完成郵箱驗證（其他接碼平臺同理，但是不一定每個都好用，這個平臺連線是我親自驗證過的）。
- 開啟郵箱查收驗證郵件並點選確認完成賬號認證。
- 登入並且在右上角找到充值按鈕，點選進行充值。
- 點選充值跳轉後，往下滑找到支付寶，這裡建議大家充值0.2美金就可以了（不夠用再充）。
- 充值好了以後回到首頁搜尋「open」關鍵字就可以找到 OpenAI 驗證碼的臨時號碼購買連結。
- 在右側啟用區看到待使用的臨時號碼，將此號碼複製到 OpenAI 的驗證碼接收區裡面。
- 在 OpenAI 的頁面點選傳送驗證碼，這樣就可以在接碼平臺接收到驗證碼（有時候有一點慢需要耐心等待一下），將驗證碼填進去，這樣就完成 ChatGPT 手機號驗證了。
這一步比較長，但是操作起來其實並不複雜，簡單說就是透過接碼平臺收驗證碼完成驗證，大家只要按照步驟操作就能成功。
下面是每一步的操作圖，大家可以對照操作。
三、登入 ChatGPT 賬號並開始使用
- 註冊完後，我們去 ChatGPT 網站去登陸：點選進入
- 輸入我們上面第一步註冊好的賬號密碼就可以成功登入。
- 登入以後我們會進入到 ChatGPT 的主介面，在螢幕的正下方就是我們使用 ChatGPT 的輸入對話方塊，ChatGPT採用互動式對話介面，使用非常便捷友好，你可以任意輸入你感興趣的內容並敲回車，ChatGPT 將會回答你。
二、探索 ChatGPT 的強大功能
問答測試
Q1：ChatGPT在未來會對哪些行業帶來比較大的變化？
Q2：如何應對高校學生使用ChatGPT寫論文或作業問題？
Q3：林黛玉為什麼要三打白骨精 【誤導型】
Q4：ChatGPT可以在教育行業中帶來多種變化和機遇
Q5：ChatGPT可以在教育行業中帶來哪些挑戰？
三、對於ChatGPT的看法
- 這只是一個語言模型，不是真理問答機
- 人工智慧會不會把人類培養成智慧人工，失去思考創新能力，思維懶惰，過分依賴
- 如何辨別其生成回答的正確性？ChatGPT並不具備甄別虛假資訊的功能
- 人工智慧的當前技術水平遠未達到人工智慧能力的最終狀態
國外動向
- 比爾·蓋茨盛讚ChatGPT：稱其“不亞於網際網路誕生”
- OpenAI 公司推出的 ChatGPT 的姊妹產品 DALL-E 可以根據使用者文字描述的內容自動生成各種風格設定的圖片
- 埃龍·馬斯克稱 ChatGPT 將顛覆世界
- 微軟公司以數百億美元投資 ChatGPT，並計劃將其整合到微軟的 Office 辦公軟體和 Bing 搜尋引擎之中
國內動向
- 2023 年 2 月 7 日，百度公眾號發出簡短而震撼的《官 宣：文心一言》
- 國內開發難點：
- 最困難的部分其實是敏感詞遮蔽和有害資訊過濾（ChatGPT 的遮蔽程度，在國內恐怕是不夠的，因為它仍然可能在使用者惡意誘導下說出不該說的東西）
- 國內開發難點：
- 部分高校和學術機構開展了關於用 ChatGPT 寫論文是否合規的大討論
- 部分諮詢公司開始擔憂是否會被其替代
四、關於ChatGPT
ChatGPT 目前耀眼的幾項功能和現狀：
一、現狀
- 目前，ChatGPT 的版本是 ChatGPT 3.5，升級產品 ChatGPT4 尚待發布
- 在推出僅兩個月後，ChatGPT月活使用者已經突破1億，成為史上使用者增長速度最快的消費級應用程式
- 谷歌釋出了ChatGPT競品Bard，百度推出國產版ChatGPT——文心一言，美團聯合創始人王慧文出資5000萬美元創業、希望打造中國的OpenAI
- 當今最著名的大型語言模型（LLM）實際上都具有相同的架構
二、優點/勢
- ChatGPT 以輸入問題自動生成答案的文字互動形式為主，兼具編寫和除錯計算機程式的寫程式碼等能力
- 在一定程度上 ChatGPT 會揣測人的意圖和準確理解上下文語境
- ChatGPT 的通用性做得過於優秀，已經擁有了強大的語言理解和生成能力
- 從目前的使用者反饋以及進化速度來看，ChatGPT在商業化方面的機會巨大
- 大小（引數計數）、訓練的資料、使用的最佳化演算法、批次大小、隱藏層的數量、經過指令微調等等這些方面都做的比同行要好得多
- ChatGPT有一個巨大的先發優勢，就是它透過搶先開始公測，收集了大量的使用者的使用資料，這是更加寶貴的資料
- 為了防止ChatGPT輸出有害資訊，OpenAI還花了大價錢去找印度和肯亞的外包公司標記了大量的有害文字，用來訓練模型不要輸出有害資訊，這部分資料也是 OpenAI 積澱了幾年築起的資料壁壘
三、缺點
- 答案缺乏可靠性是目前ChatGPT面臨的最大挑戰，特別是針對事實性和知識性相關的問答
- 大型語言模型經常會產生不準確、誤導或錯誤的資訊（並自信且令人信服地呈現）【這一點很致命，即使是 99% 的準確率也不足以讓市場廣泛採用】
- 對於某些特定領域的知識掌握不足。儘管ChatGPT透過大規模語料的訓練獲得了廣泛的知識，但在某些專業領域的知識方面可能存在不足
- 可能會表現出偏見。由於ChatGPT訓練資料來源於大量的網際網路資料，它可能會受到網際網路偏見的影響，例如對某些人群或觀點持有偏見，並在回覆中表現出來
- 無法真正理解人類的情感，例如憤怒、悲傷或喜悅，因此它可能會產生缺乏情感的回覆
- 對於某些複雜的問題，ChatGPT可能無法提供有意義的回覆。在面對某些複雜的問題或任務時，ChatGPT可能會出現回覆不連貫或者無意義的情況
四、為什麼還是可以做這麼出眾？
- ChatGPT就是一個語言大模型，語言大模型本質就是一種深度神經網路，深度神經網路本質就是一種統計模型，就是從高頻資料中習得相關模式
- 引入了核心技術RLHF (基於人類反饋的強化學習)，即用強化學習的方法，利用人類反饋訊號直接最佳化語言模型
- 很多常見的知識或事實，在訓練資料中出現頻率高，上下文之間的模式比較固定，預測的詞語機率分佈就比較尖銳，熵比較小，大模型容易記住，並在解碼過程中輸出正確的事實或知識。
- 有很多事件和知識即使在非常龐大的訓練資料中也很少出現，大模型便無法學習到相關模式，上下文之間的模式比較鬆散，詞語預測的機率分佈比較平滑，熵比較大，大模型在推理過程中容易產生不確定性的隨機輸出。這是包括ChatGPT在內所有生成式模型的固有問題
- ChatGPT 的“創造性”或“創新能力” 本質是超級算力加持的“量變”，也是某種“質變” 預料的結果，貌似自發的創新能力的實質是人的智 能的預設，如同海德格爾的“技術的座駕”。只要資料模型或語料庫足夠巨大，“量變引起質變，這是紳士們從來沒有嗅到的”
- ChatGPT在同一個對話過程中會非常相信使用者的反饋。其次，即使使用者反饋的資訊是正確的，但因為可能出現頻率不高，基礎大模型不能根據低頻資料更新引數，否則大模型就會對某些長尾資料進行過擬合從而失去通用性
附：人工智慧基本瞭解
- 人工智慧 當前處於由弱到強的過渡階段，ChatGPT 並未達到強人工智慧
- 弱人工智慧
- 通用（強）人工智慧，即像人類一樣擁有全面智慧
- 超級人工智慧
- 稀疏專家模型
- 基本概念
- ChatGPT使用的模型是很密集的，這意味著每次模型執行時，都會使用它的每一個引數。例如，每次您向 GPT-3 提交提示時，模型的所有 1750 億個引數都會被啟用以產生響應。但是，如果一個模型能夠僅呼叫其引數中最相關的子集來響應給定的查詢呢？這是稀疏專家模型背後的基本概念
- 關鍵優勢
- 與密集模型相比，它們可以更大且計算要求更低，稀疏模型使得能夠在不增加執行時間的情況下訓練更大的模型
- 它們比密集模型更具可解釋性（人類理解模型為什麼採取它所做的行動的能力）是當今人工智慧最大的弱點之一
- 為什麼稀疏模型被稱為稀疏專家模型？
- 因為稀疏模型可以被認為是由充當不同主題專家的“子模型”的集合組成的。根據提供給模型的提示，模型中最相關的專家被啟用，而其他專家保持不活動狀態。
- 基本概念
五、ChatGPT相關報導
- 專訪復旦教授張軍平：國內想超越ChatGPT，要在程式設計、硬體、資料上同時使力【來源：搜狐科技】
- 復旦大學電腦科學技術學院教授、博士生導師張軍平表示：“我認為ChatGPT已經走在了弱人工智慧與強人工智慧之間的邊界上。”
- 有史丹佛大學學者甚至認為ChatGPT背後模型擁有心智，相當於人類9歲兒童
- 張軍平對此持反對意見。他認為，從計算機角度來看，ChatGPT本質上是程式，看起來像有人的心智，但與真正有心智之間有本質的區別，兩者實現的路徑完全不一樣，“AI需要消耗巨大的電力、算力，人類大腦工作一天消耗的能量只有20多瓦。”
- 在張軍平看來，國內要想做出超越ChatGPT的產品，需要在程式設計、硬體、資料這三方面同時使力。以硬體為例，美國對頂級計算晶片有限制，比如ChatGPT用的Nvidia A100國內無法獲取，這導致算力上會有差距
- ChatGPT之後，下一代大型語言模型在哪裡？【來源：學術頭條】
- 大模型可以產生訓練資料來用於改善自己【已經部分實現】
- 第一項工作："大型語言模型可以自我改進"的研究工作，使得 LLM 模型在 GSM8K 上的效能從 74.2% 提高到 82.1%，在 DROP 上從78.2% 提高到 83.0%，這兩個流行的標準用於評估LLM 效能
- 第二項工作：這項工作建立在稱為“指令微調”的重要 LLM 方法的基礎上，ChatGPT 和其他指令微調模型依賴於人工編寫的指令，而該研究小組構建了一個模型，可以生成自己的自然語言指令，然後根據這些指令進行自我微調。效能提升非常顯著：這種方法將基礎 GPT-3 模型的效能提高了 33%，幾乎與 OpenAI 自己的指令調優模型的效能相當。
- DeepMind 的 Chinchilla 是當今領先的 LLMs之一，接受了 1.4 萬億個Token的訓練
- 大模型可以核查確認事實【待解決實現】
- OpenAI 執行長 Sam Altman 本人也承認大型語言模型經常會產生不準確、誤導或錯誤的資訊，他最近警告說：“ChatGPT 非常有限，但在某些方面已經足夠出色，足以給人一種偉大的誤導性印象。現在依賴它來做任何重要的事情都是錯誤的。”
- LLMs 的幻覺問題是否可以透過對現有架構的漸進式改進來解決，或者是否有必要對 AI 方法論進行更基本的正規化轉變以賦予 AI 常識和真正的理解，這是一個懸而未決的問題。
- 解決方式：
- LLM 從外部來源檢索資訊的能力
- LLM 為他們提供的資訊提供參考和引用的能力
- 海量稀疏專家模型【附：人工智慧的基本瞭解】
- 大模型可以產生訓練資料來用於改善自己【已經部分實現】
- 美國微軟內部人士：凡是稱要投資幾個億搞ChatGPT的，都是詐騙【來源：網易新聞】
- 比爾·蓋茨盛讚ChatGPT：稱其“不亞於網際網路誕生”
- Meta AI 負責人 Yann LeCun近日表示：“就底層技術而言，ChatGPT 並沒有特別的創新。這不是革命性的，儘管這是公眾對它的看法。只是，你知道，它被很好地組合在了一起，做得很好。”，底層技術：是自迴歸、自我監督、預訓練、密集啟用的基於Transformer的模型
- 據報導，高達89%的美國學生承認在完成作業時用過ChatGPT，甚至ChatGPT還透過了年薪18.3萬美元的谷歌工程師面試。
六、ChatGPT相關文獻
[ChatGPT的執行模式、關鍵技術及未來圖景_朱光輝]【重點】
[ChatGPT爆火後關於科技倫理及學術倫理的冷思考_令小雄]