AI先驅人物Judea Pearl認為：製造真正的智慧機器，必須教它們分析因果關係 - quantamagazine

banq發表於2020-01-28
AI

人工智慧的先驅人物朱迪亞·珀爾（Judea Pearl）認為，人工智慧已經陷入了長達數十年的困境。前進的處方是什麼？教機器學會了解原因。
人工智慧歸功於Judea Pearl。在1980年代，他領導了使機器能夠進行機率推理的工作。現在，他是該領域最犀利的批評家之一。在他的最新著作《為何之書：因果的新科學》中，他指出，人工智慧對真正的含義的理解不夠全面。
三十年前，人工智慧研究的主要挑戰是對機器進行程式設計，將潛在原因與一系列可觀察條件相關聯。珀爾想出了一種使用貝葉斯網路的方案來做到這一點的方法。貝葉斯網路使機器可以識別：鑑於從非洲回來的患者發燒並出現身體疼痛，最可能的解釋是瘧疾。他在2011年獲得了電腦科學的最高榮譽圖靈獎，這在很大程度上是因為這項工作。
但是正如珀爾所見，人工智慧領域陷入了機率關聯中。如今，頭條新聞吹捧機器學習和神經網路的最新突破。我們讀了一些可以掌握古代遊戲和駕駛汽車的計算機。當今人工智慧的最新水平僅僅是一代機器可以做事情的一個增強版本：在大量資料中找到隱藏的規律。珀爾最近說：“深度學習的所有令人印象深刻的成就都等於曲線擬合。”
現年81歲的珀爾在新書中詳細闡述了什麼才是真正思考的智慧機器。他認為：關鍵是用因果推理來代替機率推理。機器不僅具有將發燒和瘧疾進行關係的能力，還需要具有推理瘧疾導致發燒的能力。一旦建立了這種因果關係框架，機器就有可能提出反事實問題：詢問因果關係在某種干預下將如何改變。珀爾認為這是科學思想的基石。他還提出了一種正式語言來使這種思考成為可能。
珀爾希望因果推理可以為機器提供人類水平的情報。他解釋說，他們將能夠與人類進行更有效的溝通，甚至可以達到作為具有自由意志和邪惡能力的道德實體的地位。Quanta Magazine在聖地亞哥最近的一次會議上與珀爾坐下，隨後透過電話與他進行了後續採訪。
以下是這些對話的編輯和精簡版本。

可以說，科學已經拋棄了因果關係，這是一個令人震驚的事情。難道這就是科學的全部內容嗎？
代數的語言是對稱的：如果X告訴我們有關Y的資訊，那麼Y告訴我們有關X的資訊。我說的是確定性關係。
數學還沒有發展到捕捉我們的理解是，如果需要的非對稱語言X導致Ÿ這並不意味著Ÿ導致X。我知道，反對科學聽起來很糟糕。
但是科學卻更加寬容：看到我們缺乏對不對稱關係的演算，科學鼓勵我們去創造一個。這就是數學的用武之地。看到一個簡單的因果關係解決了我們這個時代最偉大的統計學家認為不確定或無法解決的問題，這真讓我激動。所有這些都可以在高中幾何證明中輕鬆而有趣地找到。
從某種意義上說，一旦我們開發了使機器能夠進行不確定性推理的工具，我就離開了競技場從事更具挑戰性的任務：因果推理。我的許多AI同事仍然充滿不確定性。有許多研究領域正在繼續進行診斷，而不必擔心問題的因果關係。他們想要的只是預測好並診斷好。
我可以舉一個例子。我們今天看到的所有機器學習工作都是在診斷模式下進行的-例如，將物件標記為“貓”或“老虎”。他們只是想識別一個物體並預測它會隨著時間的變化而變化。
當我開發出功能強大的預測和診斷工具時，我已經感到背叛了，這已經是人類智慧的竅門。如果我們希望機器推理干預（“如果我們禁止吸菸該怎麼辦？”）和自省（“如果我讀完高中怎麼辦？”），我們必須呼叫因果模型。關聯還不夠-這是一個數學事實，而不是觀點。
當我深入研究深度學習的過程時，我發現它們都停留在關聯層次上：曲線擬合。這聽起來像是犧牲品，可以說，深度學習的所有令人印象深刻的成就都等於將曲線擬合到資料上。從數學層次結構的角度來看，無論您如何熟練地訓練資料以及在訓練資料時讀入了什麼資料，這都是一項曲線擬合的練習，儘管很複雜且很簡單。
我們沒想到純曲線擬合可以解決這麼多問題。事實證明他們可以。但是我在問未來，接下來是什麼？您是否可以安排一名機器人科學家來計劃實驗並找到懸而未決的科學問題的新答案？
未來絕對會擁有自由意志的機器人。我們必須瞭解如何對它們進行程式設計以及從中獲得什麼。
第一個證據是機器人是否會反事實地開始相互交流，例如“您應該做得更好。”如果一組踢足球的機器人開始以這種語言進行交流，那麼我們就會知道他們有一種自由意志。“你應該把球傳給我-我在等你，而你沒有！”“你應該擁有”意味著你可以控制一切促使你去做和不去做的衝動。因此，第一個跡象將是溝通；接下來將是更好的足球水平。(banq注：踢好足球的必要條件是具有自由意志)


 

相關文章