科技愛好者週刊(第 248 期):不要誇大 ChatGPT

阮一峰發表於2023-03-31

本雜誌開源,歡迎投稿。週刊另有《誰在招人》服務,釋出程式設計師招聘資訊。合作推廣請郵件聯絡[email protected])。

封面圖

上圖是2022年世界自然攝影獎的獲獎作品,保加利亞中部城市舊扎戈拉的一隻紅隼,在一盞生鏽的路燈裡安家,彷佛很多人在大都市的處境。(via

本週話題:不要誇大 ChatGPT

ChatGPT 問世只有幾個月,大家有沒有發現,輿論的調門越來越高。

人們最初的震驚和讚歎,逐漸變成了非理性的鼓吹,很多人言之鑿鑿,斷定 ChatGPT 將重塑人類社會。

舉例來說,《經濟學人》雜誌稱它會"翻天覆地"。

一個國內的作者則,它會"席捲一切"。

隨著不斷的技術提升,可以預見,GPT型別的 AI,未來能替代的,也許是全行業!"

還有人擔心它會淘汰人類,有的文章標題堪稱驚悚,《AI 狂飆的時代,人還有價值嗎?》。

微博的"熱門文章"列表,也是滿滿的生存焦慮。

這種情緒反映在金融市場,就是"ChatGPT 概念股"被狂炒。一直微利 + 虧損的"漢王科技",就在 ChatGPT 問世後,股價從11元炒到了40元。

我有一種感覺,ChatGPT 已經神化了,彷彿無所不能。

今天就來談談這件事,我要說,ChatGPT 確實很神奇,是劃時代的技術創新,但是不應該無限誇大。

ChatGPT 有其侷限,很多事情它做不到。有人說,ChatGPT 標誌著機器取代人類的"奇點時刻",這是不對的。

他們忽略了最關鍵的一點:ChatGPT 不是"通用人工智慧",而是一個語言模型。

"通用人類智慧"(artificial general intelligence,簡寫 AGI)是 AI 的終極目標,就是造出可以像人類那樣全方位的推理、思考、分析的機器。如果能實現,人類就真的危險了。

但是,ChatGPT 不是 AGI,而是一個 LLM(Large Language Models,大規模語言模型)。所謂"語言模型",就是隻用來處理語言文字(或者符號體系)的 AI 模型,發現其中的規律,可以根據提示(prompt),自動生成符合這些規律的內容。

這就是說,ChatGPT 只適用於有成文符號的領域。 這帶來兩個侷限。

(1)如果某個領域是非成文的,不能用符號記錄表達,那麼 ChatGPT 就無能為力。比如,人類的很多心理活動、潛意識、靈感、頓悟等等,ChatGPT 就沒法模擬生成。

(2)第二個侷限更致命,ChatGPT 要用現有的文字材料進行訓練,發現的是那些材料包含的規律。這意味著,它不能生成超出人類已知規律的東西。

舉例來說,它不能證明未解決的數學猜想,也不能提出沒有人發現過的科學發現。

即使我們把歷史上所有的數學論文,都用來訓練 ChatGPT,它也無法證明黎曼猜想。因為那些論文只會教它現有的證明方法,而黎曼猜想需要新方法。

ChatGPT 的底層技術是 GPT,全稱為"生成式預訓練轉換器"(Generative pre-trained transformer),凡是使用該技術的 AI 模型都有同樣的問題:它們只能掌握已知的模式,無法生成未知的模式。

所以,真正"前無古人"的創新,這一類 AI 模型做不到,還是必須依靠人類的智慧。

另外,這裡還有一個邏輯悖論。如果 ChatGPT 真的強大到"席捲一切",將來絕大多數文件都用它來生成,其實反而會帶來它的衰亡。大家這麼想,到了那個時候我們拿什麼材料訓練 AI 呢?畢竟 AI 只有拿人類的作品訓練,才能模擬人類智慧。

總之,ChatGPT 是一個劃時代的工具,所有模式化的人類工作,都面臨空前的挑戰。

但是,人類生活還有很多非模式化的部分,尤其是人類的創新能力,ChatGPT 觸及不了這個部分,所以它對社會的改變,不宜過分誇大。

活動

週刊不定期釋出技術活動訊息,面向全國程式設計師,歡迎參與。

1、AIGC 技術探索與應用創新

"掘金城市沙龍·北京站"邀請了來自位元組、英特爾、谷歌、清華大學等著名機構的 AI 工程師和專家,與大家線下交流 AIGC(人工智慧生成內容)的一些學術性熱點問題,包括工作原理、模型訓練、後續變革等。

時間是4月13日下午,地點是方恆時尚中心(北京大鐘寺地鐵站旁)。現場座位有限,掃描上方二維碼,瞭解詳情並報名參加。不能到場的同學,可以掃碼預約線上直播。

2、抖音 Android 基礎技術大揭秘

位元組技術沙龍邀請了抖音 Android 團隊的5位架構師,與社群交流抖音 Android 客戶端的一些開發實踐,分享內容如下。

  1. 抖音 Android 包大小程式碼最佳化實踐
  2. 抖音啟動效能監控平臺建設實踐
  3. 抖音流暢度最佳化探索和實踐
  4. 靜態程式碼分析在體驗最佳化中的探索實踐
  5. 抖音效能防劣化平臺極致演繹之路

時間是4月15日下午,掃描下方二維碼或者點選連結,瞭解詳情並且免費報名預約直播。

以上兩個活動,除了技術分享,還為參與者安排了精美的禮品抽獎環節,大家不要錯過。

科技動態

1、子宮工廠

歐洲的人口出生率不斷下降,一位科學家提出一個設想,在歐洲建立世界上第一個子宮工廠。

根據他的設想,這個廠有75個實驗室,每個實驗室最多容納400個生長倉,每年可以培養30,000個嬰兒。

胚胎放入生長倉後,就會有感測器24小時監控,並將生命體徵、身體特徵等資料實時傳送到父母手機。父母還可以檢視嬰兒發育的高畫質影像,並透過揚聲器與其交談,或者穿上觸覺背心感受嬰兒的踢動。

每個生長倉都有兩個管道,一個將營養物質和氧氣泵入人造臍帶,另一個排出廢物。

一旦嬰兒發育成熟,就可以從生長倉取出,交給父母養育。

2、不再冬眠的熊

美國太浩湖地區是一個風景區,也是黑熊的棲息地。今年冬天,許多居民意外發現,當地的黑熊居然沒有冬眠,還在四處亂竄。

黑熊之所以冬眠,是因為冬天找不到食物,需要以靜止的方式減少消耗。但是如果冬天能夠找到食物,理論上,黑熊就沒必要冬眠了。

太浩湖正在開發中,越來越多的居民移入,導致黑熊能夠在人類聚居地的垃圾箱找到食物,這就是黑熊不再冬眠的頭號原因。

3、流行歌曲越來越短

一項研究發現,從2000年開始,流行歌曲的長度越來越短。

一首歌的平均長度,從以前的4分10秒下降到大約3分30秒。2021年美國前50首最流行的歌曲,平均時長更短,僅為3分07秒,其中38%的歌曲甚至不到3分鐘。

研究者認為,這表明人們的關注週期越來越短,如果不能很快聽到精彩部分,就會感到不耐煩,不再聽下去。另外,Tiktok 短影片的流行,也加劇了這種趨勢。

4、哺乳動物的起源

澳大利亞科學家提出,哺乳動物可能起源於南半球。

傳統的看法是,哺乳動物起源於北半球,因為北半球的陸地面積大,是大部分動物的棲息地。

但是,這些科學家認為,哺乳動物可以分成三類:有袋類(比如袋鼠)、胎盤類(比如人類)和單孔類(比如鴨嘴獸)。它們在澳大利亞都有分佈,而且其中兩類僅存於大洋洲。

這說明,大洋洲很可能是所有哺乳動物的起源地。而且,澳大利亞也確實發現了一些非常早期的哺乳動物化石。

5、防霧鏡片

近視患者最不方便的事情之一,就是眼鏡起霧。為了解決這個問題,瑞士科學家發明了一種防霧鏡片。

上圖左側是普通鏡片,右側是防霧鏡片。

眼鏡起霧的原因是,潮溼的空氣接觸到溫度更低的鏡片時,會發生冷凝。這種防霧鏡片設法加熱鏡片,從而避免了冷凝。

加熱方法是在鏡片塗上一層極薄的、透明的金屬塗層。這個塗層會吸收太陽的紅外線,使得鏡片升溫8攝氏度,缺點是在沒有燈光的夜間,它就不起作用。

文章

1、維基百科的聲音 Logo(英文)

維基百科本週釋出了一個聲音 Logo,作為音影片產品的標誌。

2、為什麼我們要與 CSS-in-JS 分手(英文)

作者認為,網頁樣式寫在指令碼里面的 CSS-in-JS 有重大缺陷,應該避免使用。

3、新的 CSS 視口單位 lvh 和 svh(英文)

本文介紹 CSS 視口的新引入的長度單位,專為適配移動裝置的動態工具欄而設計。

4、Cloudflare R2 與 AWS S3 的比較(英文)

Cloudflare R2 是一個新推出的物件儲存服務,比起老牌的 AWS S3,最大優勢就是價格便宜。本文對兩者的價格和功能進行詳細比較。

5、蘋果官網主頁的歷史回顧(英文)

本文回顧了蘋果官網的變化,從最早的樣子一直到現在,可以勾起很多回憶。上圖是1997年賈伯斯回到蘋果之前的主頁,怪不得當時瀕臨破產。

6、AV1 影片編碼支援情況(2022版)(英文)

AV1 是最新的影片編碼格式,可以節省流量。本文介紹了它目前的支援情況,結論是隻有蘋果裝置不支援。

7、C 語言學習注意點(英文)

作者整理了自己學習 C 語言過程的一些筆記,相當於列出了 C 語言一些的學習難點。

8、老專案是否應該推倒重寫?(英文)

接手一個很難維護的老專案,到底是繼續改進原有程式碼,還是徹底重寫?作者舉了六個案例,討論這個問題,值得一讀。

工具

1、Microsoft Loop

上週五,微軟釋出協作工具 Loop,可以免費使用。

它屬於 Microsoft 365 套件的一種,允許使用者將各種 Office 元件(Word、Excel、PPT 等)插在一個文件裡,進行協作,跟 Notion 很像,參見官網介紹

2、Mafs

一個基於 React 的互動式數學圖形元件庫。

3、ChatGPT-Desktop

開源的跨平臺 ChatGPT 桌面應用程式,使用 Tauri + Vue3 開發。(@orangelckc 投稿)

4、Tartelet

一個在本機執行 GitHub Actions 的工具,透過虛擬機器來執行任務,只支援 MacOS 系統,詳見介紹文章

5、RSS.cafe

一個國產 RSS 閱讀器,增加了知識管理、期刊訂閱等特色功能。(@zhi-wenzheng 投稿)

6、PodFind

一個開源的播客文字搜尋引擎,所有程式碼都是 GPT-4 生成的。(@mazzzystar 投稿)

7、SQL Chat

一個 Web 應用,使用自然語言查詢資料庫,底層使用 OpenAI 的 API 將自然語言轉成 SQL,支援 MySQL 和 PostgreSQL,程式碼開源。(@tianzhou 投稿)

8、FeatureProbe

一個開源的軟體功能(feature)管理平臺,支援灰度放量、AB 實驗、實時配置變更等操作。(@nanxijms 投稿)

9、CubeTrek

這個網站可以匯入 GPS 軌跡,在地形圖上顯示,特別適合生成山地路線圖。

10、ov

一個命令列的文字閱讀器,用來替代lessmore

資源

1、3D in CSS

這個網頁提供互動演示,幫助理解 CSS 裡面與 3D 有關的各項屬性。

2、AI 研究所

一箇中文網站,收錄 AI 相關工具。(@xlys997 投稿)

3、深度學習自己學

該英文網站是一個原創的深度學習的自學教程站。

4、Web 應用 101

這篇長文詳細介紹 Web 應用是什麼,理清各種概念,比如 SPA(單頁應用)、SSR(伺服器端渲染)、SSG(靜態網站生成)。

圖片

1、奇怪形狀的樹雕

一個法國藝術家專門製作奇形怪狀的樹雕。

你看上去以為它們是樹枝,其實都是石膏做的,外面覆蓋了松樹皮,非常逼真,幾乎看不出來是人造的。

藝術家說,他經常去樹林中尋找靈感。他希望,人們在樹林中遇到這些雕塑時,會產生驚奇和好奇的感覺,思考樹木是多麼不可思議。

如果不知情,在樹林中看到這種東西,真的會嚇一跳。

文摘

1、為什麼學習微積分

高中的最後一年,我的學校開設了微積分課。

第一堂課就有學生提問:"老師,日常生活哪裡會用到微積分?"

老師回答:"用不到,你永遠不會在日常生活中使用微積分。事實上,你們中不少人,在未來的職業中也用不到微積分。"

他看著學生迷惑不解的表情,又說:"你們想知道為什麼要學微積分嗎?"

我們幾個學生點了點頭。

他指著班裡的一位校足球隊的同學問道:"你們經常練習足球,是嗎?"

"是的,"學生回答道。"差不多每天都練。"

"教練給你們安排舉重練習嗎?"

"是的。每週二和週四,我們都要去舉重室練習。"

"這是為什麼?" 老師問。"為什麼足球運動員要練舉重?難道是為了在球場上推倒別人嗎?"

"不,當然不是。"

"那為什麼要舉重?"

"因為它讓我們變得更強大,"同學說。

"答對了!" 老師說。"微積分也是如此。你學習微積分,不是因為要在日常生活中使用,而是因為它讓你的思維變得更強大。"

我從來沒有忘記這堂課。

言論

1、

一旦你有足夠的原子,你就開始搞化學。一旦你有足夠的分子,你就開始搞生物學。一旦你有足夠的算力,你就開始搞 AI。

-- 《AI 就是我們》

2、

我這一輩子都在大公司工作,對它們的運作太熟悉了。很多人即使公司會破產,也不願挑戰由層級遠高於自己的上級制定的內部政策。

事實上,他們作為公司的員工,完全不瞭解也不關心政策會有怎樣的後果,只是按照上級吩咐的去做。

-- Hacker News 讀者

3、

衡量一個人的領導能力的最好方法,就是看如果這個人休假了,他的下屬在做什麼。

優秀的產品經理和工程師可以休假一週,他管理的工作不發生任何問題。優秀的主管和技術負責人可以休假一個月。領導能力越優秀,休假的時間就越長。

-- Andrew Bosworth,Facebook 的 CEO

4、

閱讀不會過時,除非寫作過時了。寫作不會過時,除非思考過時了。(Reading won't be obsolete till writing is, and writing won't be obsolete till thinking is.)

-- Paul Graham

5、

簡潔的寫作需要勇氣。讓事物變小是一種深思熟慮的、困難的和有價值的行為。

大多數書籍本應是一篇部落格文章。大多數部落格文章本應是一條微博。大多數微博本應不寫。

-- 《釋出 Newsletter 35年的35條教訓》

歷史上的本週

中國需要成立半導體部(2022 #201)

NFT 是什麼,聽說能賺錢(2021 #151)

網際網路不再稀缺(2020 #101)

為什麼過去10年,筆記本硬體發展緩慢?(2019 #51)

鳴謝

週刊得到國內新一代知識管理與協作平臺 FlowUs 的幫助,深表感謝。

FlowUS = 文件 + 表格 + 網盤。你可以用它寫文件、做主頁、管理資料、儲存檔案等等。

每一期週刊同時釋出在 FlowUs 專欄,歡迎大家也去開通自己的專欄和主頁。

(完)

相關文章