ChatGPT - 橫看成嶺側成峰

定義

ChatGPT 是什麼？

ChatGPT是由OpenAI開發的一個人工智慧聊天機器人程式，由 OpenAI 公司於2022年11月推出。該程式使用基於GPT-3.5架構的大型語言模型並透過強化學習進行訓練。

ChatGPT以對話方式進行互動，可以用於包括自動文字生成、自動問答、自動摘要等在內的多種任務。如：在自動文字生成方面，ChatGPT可以根據輸入的文字自動生成類似的文字，在自動問答方面，ChatGPT可以根據輸入的問題自動生成答案。

這是 ChatGPT 自己的介紹：

注：自我介紹不錯，但是 “轉移學習”， 應該翻譯為 “遷移學習” 才精準。

ChatGPT 背後的技術是 OpenAI 公司的 GPT 大型語言模型框架，OpenAI 也得到了微軟公司的大力投資，ChatGPT 是這樣回答 “你怎麼分析微軟公司持續投資 OpenAI 公司？” 這個問題的：

微軟公司持續投資 OpenAI 公司，可能是因為以下原因：

先進技術: OpenAI 是一家先進的人工智慧研究機構，其研究成果和技術在人工智慧領域具有高度的創新性和潛力，微軟公司可能希望能夠透過投資獲得這些先進技術。

市場機會: 隨著人工智慧技術的不斷髮展，人工智慧市場機會也在不斷增加，微軟公司可能希望能夠透過投資 OpenAI 來獲得這些市場機會。

合作機會: OpenAI 和微軟公司在人工智慧領域有著高度的互補性，微軟公司可能希望

嗯，chatGPT 最後一句話沒有講完，它也沒有解釋。

網上流傳了 chatGPT 能做的各種事情，我們的博主也寫了不少部落格： https://blog.csdn.net/nav/advanced-technology/chatgpt

它可以生成各種內容，可以回答不少技術問題，大家對它的態度剛開始是好奇，驚豔，隨後就有不同的反應，特別是在問答，教育領域 –

限制、禁止 chatGPT

英文 IT 界最大的問答平臺 StackOverflow 禁止在它的平臺上使用 ChatGPT 生成的內容。 主要原因是ChatGPT 生成的回答 看起來非常高質量，非常容易生成，但是準確度低。這會導致很多使用者大量生產此類內容，對平臺和想得到正確答案的使用者都是有害的。

這是 StackOverflow 官網的解釋截圖：

一個使用者 （Alex Poole）的評論得到了很多贊：（我翻譯成中文）

不管 AI 生成的答案正確與否，“StackOverflow是一個面向專業程式設計師和熱心程式設計愛好者的問答網站" 這句話同時適用於 【提問】 和【回答】的部分。在我看來，那些只是將提問貼上到 AI 那裡，然後把 AI 的回答再複製回來的人， 不算是專業程式設計師，也不算是熱心程式設計愛好者。也許這些人對 AI 的回答進行了檢查和測試，如果他們真的能夠驗證這是一個好的正確答案，他們應該能夠自己寫出來。這並不一定意味著網際網路上沒有（或不會有）人工智慧提供服務的地方，但它並不屬於 StackOverflow。

下面是我用 deepl.com 服務得到的翻譯：

美國的一些學校也禁止學生使用學校的網路連到 ChatGPT，主要原因是：“雖然該工具可能能夠提供快速和簡單的問題答案，但它並不能培養批判性思維和解決問題的能力，而這些能力對學術和終身成功至關重要” （報導連結） 但是，學校防止不了學生用其他方式連到 ChatGPT，這樣， 自己有手機流量的，就能用，沒有手機流量的，就不能用。 或者是，某個地區的學生，可以透過某種方式上網的少部分學生，就能得到這種服務，這是否造成了一種不公平呢？

出錯了怎麼辦？

在大約 10 年前，我在研究院的同事就開發了一個 AI 的寫作助手，你輸入上一句， 寫作助手就會根據上下文建議下一句，當時的 AI 技術和資料量還是比較初級，所以它的一些建議看起來很幼稚可笑。這個研究專案在小範圍演示後，就停下來了， 十年後，大不一樣了，這是我剛才隨手給 ChatBot 出的題目：

如果 ChatBot 聊天聊出問題了怎麼辦？ 這也是實際發生的情況。 我試著和她聊 “在犯罪的邊緣試探” 的笑話，ChatGPT 倒是很冷靜：

2016 年，微軟就釋出過一個有感情的聊天機器人 – Tay，但是 16 小時之後，就把她下線了。因為她在和使用者聊天的過程中，從使用者那裡學到了很多罵人、歧視、以及其他惡劣的行為。 這個聊天機器人有 “自覺” 和 “良心” 麼，知道自己的言語會傷害別人麼？ 要找機會直接問她。

從我有限的測試來看， ChatGPT （他背後的高人） 很明智地吸取了前人的教訓，給自己畫了一些紅線，不敢越雷池半步。

共存

ChatGPT 能快速地給出看起來很有信心的答案，學生複製就好了，這是作弊麼？ 也有老師說，這就像 20 年前 Google 出現的時候一樣，當時也有老師不讓學生從 Google 上直接找答案，後來怎麼樣了呢？

打不過你，就加入你好了。

這其實反映了 人工智慧 （簡單或複雜的演算法） 輔助人類工作的一個趨勢。 下面是一些例子：

Word 編輯器的文字拼寫自動糾錯功能（這算作弊麼）？以及後續不斷提高的語法建議功能，Excel 的自動資料自動填充、計算功能， PowerPoint 的 “幻燈片自動排版” 功能

以前初學者翻譯文章，要一個詞一個詞地查紙板的字典，後來，有網路上的詞典，行動式的電子詞典，手機 app，現在，很多的翻譯工具能翻譯整段話，而且效果不錯，就像本文上面用的 deepl.com 的例子。

程式碼編輯器中的 IntelliSence 自動完成變數名和函式名的功能，自動生成函式API 的註釋，演化到最近的自動生成測試用例，自動完成函式功能，等。

wolframalpha.com 網站的自動解題並列出步驟畫出優美的圖形…

藝術創造中的美顏，AI 作畫等。

更不用說在股市交易中的 AI 演算法的作用 …

這些進步，在當時都引起一些爭議，現在看來，都好像是挺自然的了。

當然，AI 從解決單個離散的任務，發展到可以完成一整套考試，這是極大的飛躍 – 最近世界著名的沃頓商學院的教授 Christian Terwiesch 讓 ChatGPT 做課程的期末試卷，AI 居然得了大約是 B 或者 B- 的分數。 考慮到 AI 的發展速度，我們不難想象不久的將來， AI 在 MBA 課程中碾壓人類，就像 AlphaGO 碾壓人類圍棋手那樣… 那麼，上 MBA 學院的價值是增加了還是減少了呢?

在我們軟體工程師的面試中， 我們經常要考察基本的演算法，例如快速排序，紅黑樹，等，如果一個候選人說， 這些演算法都有 API 和別人經過考驗的演算法庫，我只管呼叫就好了！ 你作為面試官，你怎麼辦呢？ 我們在考試和麵試中，經常要考察這個人的 “技能”， 那麼，會用 ChatGPT，算是一個有價值的技能麼？ 技能的反面是什麼呢？

鼓勵使用 ChatGPT

打不過你，就加入你好了，而且還要充分利用這個工具。 我今天看到這個 npr.org 的報導，有老師要求所有學生都用 ChatGPT 來做作業， 他認為，在討論和創意階段，這個工具還是很不錯的。

這位老師說，他對於 AI 工具對於教學的影響，又激動，又焦慮，但是，還是要跟上時代啊！

分清楚 【參考】還是 【作弊】

在一些人抱怨 ChatGPT 導致作弊的時候，他們可能忘了，作弊是人類有史以來就有的行為，現在也不例外，可以搜尋一下 “論文代寫” 或者是 “畢業設計 原始碼” – 搜尋這些東西的人，收集資料呢，還是直接拿現成的方案去當作自己的作品呢？ 這就不得而知了。

這個 BBC的報導 也提到肯亞的大型作業代寫的服務。 一旦開始了作弊，大家就從 “學術道德” 的高地上走下來了，隨之而來的是各種環節的作弊行為：

這些代寫作業的人，都是在肯亞一帶的非洲同胞，但是他們都頭像都是白人

這些代寫作業的賬戶上面的五星好評，也是假的，這也有一個假賬號和假評價的交易市場

這給了顧客（歐美的學生）一種印象，是 “高水平的西方人在替我寫文章，老子的錢花得值”！

從報導中的資料可以推匯出，一個一週工作七天的代寫文章者，可以掙到相當於當地成年人的平均工資。 這對於很多接受了高等教育但是在當地找不到工作的年輕人來說，這是一個很不錯的出路。

當然，人們也開發了各種檢測作弊的工具，對於 ChatGPT，也有檢測工具出現了 GPTZero！

如果所有人都能用上 ChatGPT，而且，檢測 ChatGPT 的技術也在提高，那麼，對肯亞一帶的人肉論文代寫行業，有什麼影響呢？ 我們能訓練 ChatGPT 去檢測作弊行為麼？

AI 貴有自知之明

ChatGPT 是怎麼看自己產生的內容被學生使用的呢？ 請看它的直接回答：

理論上，ChatGPT 屬於哪個層次的 AI 呢？ 如果低層次的 AI 都這麼厲害了，高階的 AI 出現後，我們怎麼辦呢？

（圖片來自：汪軍教授的演講）

當然，人和 AI 在各個領域的較量才剛剛開始，魔高一尺，道高一丈，雙方的較量的過程和結果是合作，共存，融合，還是對抗？最終誰能勝出？讓我們 拭目以待 （說到拭目以待，說不定有人正在做機器眼睛接入人腦的實驗咧）！

後續 … 更大的餘波

最近有些作者把 ChatGPT 也列為自己文章的合作者，並發表了學術論文，這引起了很多專家的擔憂和爭論，在寫完部落格正文後，我在網上還看到了這樣的報導： 衛報的報導 和其他網友的說明：

核心決定是：

主要科學期刊出版商決定禁止將 ChatGPT 列為署名作者，但是允許真人的作者在論文準備階段使用 ChatGPT 等工具，只要說明使用的情況即可。

ChatGPT 在全球的教育界也引起了持續的爭論。 根據這個文章收集的資訊，我們可以看到：

關於英語教育 在擁有12年教齡的舊金山高中英語教師赫爾曼看來，ChatGPT能瞬間完成主要文字型別的寫作，這顛覆了英語教學的基本功能，英語教育的地位也岌岌可危。美國企業研究所的高階研究員龐迪西奧卻認為，赫爾曼的觀點只代表了部分知識精英，而知識精英推崇的各種思維訓練，都必須建立在相當的知識儲備上。由於多數學生的知識和語言能力尚未達到基礎水平，寫作訓練依然必不可少。龐迪西奧還諷刺了當前對ChatGPT的過度推崇：“與其說創造內容，不如說ChatGPT更擅長透過編造和修辭，來彌補談話的空白；這個軟體在模仿人類胡說八道方面，能力著實出色。”

關於 技術與人文之辯 加拿大作家馬奇認為，相比科技的突飛猛進，人文學者長期醉心於宏大敘事的建構與批判，反而忽視語言、歷史、倫理、政治等方面的現實問題。而ChatGPT等新技術越來越擅長完成論文等 “文科工作”，人文和技術的差距將繼續拉大。然而，福布斯專欄作家裡姆認為，不能過分誇大ChatGPT對論文乃至人文教育的影響——就論文寫作而言，最重要的是學生不斷思考和嘗試創作的過程。人文學者應學會駕馭新技術，並教會學生熟練運用這些工具。

南方科技大學的於仕琪老師也在微博上分享了自己的感受：

我這學期教"C/C++程式設計"課，剛佈置了第一個作業，然後我把作業要求輸入到ChatGPT，看了結果後心情很複雜。第一步ChatGPT編出來的程式實現了基本要求，高階要求雖然沒實現，但給出了實現建議。於是我讓它最佳化，它就給出了很好的解決方案。第三步，它在我的要求下，它寫出了一份還不錯的報告。我覺得，如何評價學生面臨巨大挑戰！

人類學習數學有很長時間了，如果用賣日雜貨物算錢這個場景，大致經歷了 在地上寫寫畫畫 - 石板上寫寫畫畫 - 算籌 - 部分人的心算 - 珠算 - 計算器 - 整合到其他工具中 現在你去買東西，就是不斷拿貨物掃碼，然後你也掃自己的wx/支付寶付錢，都不用算如何找零。 但是，青少年要學習算術麼？ 要！ 為什麼？ 因為數學是一個理解世界，鍛鍊大腦分析能力的工具，沒有這個能力，人類就不能進行其他的更高層的 思考、嘗試、創作 的過程，所以，我們在享受越來越便利的計算成果的同時，還是要從基本的算術學起。

程式語言，軟體工程也是同理。ChatGPT 給我們提供了方便的工具，讓我們更快地就能看到很多解題的方法，很多初步的結果，但是我們自己的大腦還是要經歷漫長的學習過程才能在程式設計和軟體工程的領域實現 思考、嘗試、創作的過程, IT 專業的老師面臨的挑戰，就是在日新月異的工具進步中，如何能持續打造這樣一個訓練的環境， 讓學生可以 思考、嘗試、創作 。

參考文章：

教學的核心：構建一個自然的, 有批判精神的, 學習的環境