為何艾倫·圖靈想讓AI智慧體故意犯錯

https://blog.csdn.net/weixin_42137700/article/details/89838697

 

 

人工智慧的歷史告訴我們：隨著科技的進步，機器會越來越聰明，但卻鮮少涉及人類在其中發揮的重要作用，包括怎麼設計機器的原型，以及怎麼訓練它等等。

最近，IEEE Spectrum開了一個AI歷史系列，主要探討了AI史上人類的作用，例如發明家、思想家、工人或者工程師是如何創造出可以複製人類思想和行為（或者至少看似）的演算法。

這個系列共有六個部分，本文是第三部分《人機共生的DARPA夢想家》。請戳這裡閱讀第一篇、第二篇、第三篇。

 

1950年，數字時代初期，艾倫·圖靈發表了他最著名的文章“計算機器與智慧”，並提出了一個問題，“機器可以思考嗎？”

圖靈並沒有試圖定義“機器”和“思考”，他描述了另一種來回答這個問題的防範。這個方法來自維多利亞式的客廳娛樂，稱為模仿遊戲。 遊戲規則規定，不同房間的男女透過手寫筆記與判定者溝通。判定者需要猜測誰是誰，遊戲中因為男人會試圖模仿女人，猜測的過程會變得複雜。

受此啟發，圖靈設計了一個思想實驗，其中一個參賽者被計算機取代。如果這臺計算機讓判定者無法判斷他是在與機器還是人交談，圖靈認為，那就可以合理地得出結論 – 這臺機器是智慧的。

 

 

 

 

這個思想實驗被稱為圖靈測試，直到今天，它仍然是人工智慧中最著名和最具爭議的想法之一。 該測試最吸引人的地方在於它為一個充滿哲學意味的問題給出了一個明確的答案： “機器可以思考嗎？” 如果計算機透過圖靈測試，那麼答案就是肯定的。

正如哲學家Daniel Dennetthas所寫的那樣，圖靈測試被認為是一個哲學討論的終結。 “不是無休止地爭論思維的終極本質和要義，” Dennett寫道，“我們無法否認，無論智慧的本質如何，任何可以透過測試的東西就是智慧體”

但仔細閱讀圖靈的論文會發現一個小細節，測試中引入了模糊性，這表明也許圖靈更多想用它引發哲學討論，而非用作實際測試。

在“計算機器和智慧”的一個部分中，圖靈用想象中的未來智慧計算機模擬了測試的情景。 （人在問問題，電腦在回答。）

問： 請給我寫一篇關於Forth Bridge主題的十四行詩。

答： 饒了我吧。我永遠不會寫詩。

問： 把34957和70764相加。

答： (暫停約30秒然後給出答案）105621。

問： 你下國際象棋嗎？

答： 是的。

問： 我的K1上有K，沒有其他棋子。你只有K在K6，以及R在R1。到你了，你怎麼走這一步？

答： (暫停15秒後）R到R8，將軍。

在對話中，計算機其實犯了一個算術錯誤，數字的總和應該是105721，而不是105621。圖靈，一位出色的數學家，不太可能犯這種錯誤。這更有可能是拋給讀者的一個彩蛋。

似乎圖靈在文章的其他地方也有暗示，錯誤是一種程式設計技巧，一種愚弄判定者的手段。圖靈明白，如果仔細閱讀計算機的回答會發現錯誤，人們會認為這與人類吻合，因為預先假設了機器不會犯下這樣基礎的算術錯誤。圖靈寫道，一臺機器可以被程式設計然後“在計算上故意引入錯誤以此來混淆提問者”。

在1950年，使用錯誤來暗示人類智慧的想法可能很難理解，但如今它已成為從事自然語言處理的程式設計師的練手題。 例如，據報導，2014年6月，一個名為Eugene Goostman的聊天機器人成為第一臺透過圖靈測試的計算機。但批評者很快指出Eugene只是因為內在的作弊而透過了測試：Eugene模擬了一個英語為第二語言的13歲男孩。這意味著他在句法和語法上的錯誤以及他有限的知識會被誤認為天真和不成熟，而不是自然語言處理能力的缺陷。

 

   

類似地，谷歌的語音助理系統Duplex，去年它人性化的加上了“嗯”和“啊”的語氣詞~引來了人們的讚歎。很多人指出這不是系統真正思考的結果，而是人工編碼的猶豫，以模仿人類的認知。

這兩個案例都符合圖靈的想法，即可以設計計算機犯簡單的錯誤，讓人誤以為這就是人類。 像圖靈一樣，Eugene Goostman和Duplex的程式設計師明白，人類容易犯錯的表面幌子就足以欺騙我們。

也許圖靈測試並不能真正評估機器是否智慧，只是我們是否願意接受該機器是否有智慧的判斷標準。正如圖靈自己所說：“智慧的概念本身就是情感而非數學。我們認為某物有智慧行為的程度，既取決於所考慮物件的屬性，也取決於我們的心態和受到的訓練。”

也許智慧不是可以程式設計到機器中的東西，圖靈似乎是在這樣暗示——而是透過社互動動構建的特質。