讀人工智慧全傳15意向立場
躺柒發表於2024-07-17
![](https://img2024.cnblogs.com/blog/3076680/202407/3076680-20240716214214150-1214348929.png)
1. 物理立場
1.1. 可以解釋一個實體行為
1.2. 在物理立場中,我們使用自然法則(物理、化學等)來預測系統的行為結果
1.3. 雖然物理立場在解釋這種行為的時候非常有效,但無法應用於理解或者預測人類行為
1.3.1. 因為人類的行為太過複雜,無法用這種方式去理解
1.4. 物理立場也不是理解計算機或者計算機程式行為的一種切實可靠的方法
1.4.1. 典型的現代計算機作業系統的原始碼長達數億行
2. 設計立場
2.1. 在這種立場下,我們根據系統應該實現的目的進行理解,並預測系統行為,即它的設計目的
2.2. 我們不需要使用物理定律去理解鬧鐘的行為,我們知道它是時鐘,就明白它顯示的數字指的是時間,因為時鐘就是用來顯示時間的
2.2.1. 在指定時間發出刺耳的噪音也是鬧鐘設計的目的
2.3. 這種解釋不需要了解時鐘的內部機制,不需要了解鬧鐘的具體物質構成方式、力學作用等,只需要瞭解它被設計出來的目的即可
3. 意向立場
3.1. 將心理狀態——諸如信念、慾望等歸因為實體,然後使用與心理狀態有關的常識去預測實體將如何行動,假設它根據自己的信念和慾望做出選擇
3.2. 意向立場是具有解釋力的,它允許我們解釋人們做了什麼,以及他們將(可能)做什麼
3.3. 與設計立場一樣,意向立場對實際產生這些行為的內部構造是不關心的
3.4. 社會生物的屬性與我們使用意向立場密切相關,理由是它似乎能夠讓我們理解和預測社會中其他智慧體的行為
3.4.1. 當我們身處複雜的社會關係中,會陷入更高層次的意向思維中,於是個體的計劃(不管是我們自己還是我們觀察到的人)會受到其他智慧體行為的影響,這裡的行為可以定義為可預期的有意識的行為
3.4.2. 意識思維在人類社會中普遍存在,我們也依靠它進行社交
3.5. 意向立場在人類社會中扮演著重要的角色,但它也適用於其他實體
3.6. 對一臺機器的意向立場的解釋應該表達出關於機器的資訊,就如對人的意向立場會表達出關於人的資訊一樣
3.6.1. 當我們不瞭解一個實體的內部構造時,意向立場是最適用於解釋它的
3.6.2. 意向立場提供了一種獨立於內部結構和操作(例如,它是人、是狗還是一臺機器)來解釋和預測行為的方法
3.6.2.1. 如果你是一個理性的智慧體,有保持乾爽的願望,並且相信正在下雨,那麼我可以解釋和預測你的行為,而不需要了解你的任何其他資訊
4. 意向系統
4.1. 用來描述那些行為可以被有效理解和預測的實體,這些實體的行為可以歸因於它們的信念、慾望和理性選擇
4.2. 意向系統有著自然的層級結構,越往上越複雜
4.2.1. 典型的一階意向系統確實廣泛存在,但更高層次的意向性就意味著更高的門檻
4.2.2. 一階意向系統有著自己的信念和慾望,但沒有關於任何有關信念和慾望的信念和慾望
4.2.3. 二階意向系統能夠對信念和慾望產生信念和慾望
4.2.4. 幾乎不會用到超過三階的意向立場等級
4.2.4.1. 除非我們研究人工智慧的活動,比如解決一個謎題
4.2.5. 對我們大多數人而言,似乎超過五階就很難釐清了
4.2.6. 高階意向推理能力大致上是大腦額葉相對大小的線性函式
4.2.6.1. 由於大腦的體積與社會群體的大小密切相關,因此,對於大腦自然進化的解釋是為了滿足在複雜社會體系中對社交推理(高階意向推理)的需要
4.2.6.2. 更大的社會群體會對更高階的社交推理提出更高的要求,從而解釋了鄧巴所確定的大腦體積和社會群體規模之間的關係
4.3. 社交推理的進化足以支援複雜的社會網路和大型社會群體
5. 智慧體
5.1. 以前,構建一個人工智慧程式,代表我們獨立行動,理性地實現我們的偏好
5.2. 現在討論的智慧體,從某種意義上來說,似乎是一種跟我們有著相似屬性的實體,就像有自主能力的演員
5.3. 智慧體能夠處理具有龐大分支因子的遊戲
5.3.1. 遊戲中存在有關遊戲狀態或者其他玩家行為的不完美資訊
5.3.2. 遊戲中執行的操作或許要等到很久以後才能得到獎勵的反饋
5.3.3. 智慧體必須執行的操作不是簡單的二元決策,例如打磚塊,而是涉及冗長而複雜的操作序列,還可能存在與其他玩家的協作或者競爭
5.4. 智慧體被放在一個需要有意義的、複雜的高階意向推理的場景中進行學習
5.5. 是一個需要智慧體說出複雜謊言的場景,這也意味著需要高階意向推理能力
5.6. 是在一個場景中,智慧體學會了交流,並且能夠有意向地表達出自己和其他實體的意識狀態
5.7. 如果一個人工智慧的智慧體系統能夠學會有意義地去做這些事情,那就是通往有意識的機器之路
6. 莎莉-安妮測試
6.1. Sally-Anne test
6.2. 這個測試被用來幫助診斷兒童自閉症
6.3. 自閉症是一種嚴重而常見的精神疾病,在兒童時期就會表現出來
6.4. 典型表現是缺乏正常的靈活性、想象力和偽裝本能
6.5. 心智理論
6.5.1. Theory of Mind
6.5.2. 心智理論能力是一種實際的、常識性的能力,成熟的成年人擁有這種能力,能夠對自己和他人的精神狀態(信念、慾望等)進行推理
6.5.3. 人類並不是天生就擁有心智理論能力的,但臨床上正常的人類天生就有發育它的能力
6.5.4. 名叫ToMnet(心智理論網路)的神經網路系統,它能夠學習如何對其他智慧體建模,並在類似莎莉-安妮測試的情況下選擇正確的行為
6.5.4.1. 這項研究還處於一個非常原始的階段,解決莎莉-安妮測試問題還不足以證明人工智慧擁有意識
6.6. 它給了我們一個目標:能夠透過自主學習達到人類心智理論水平的人工智慧系統
7. 像我們一樣
7.1. 大腦是人體主要的資訊處理器官,當我們執行諸如解決問題、理解故事等任務時,大腦起著很重要的作用
7.2. 真實的大腦是一個由各種元件緊密結合在一起的系統,這個系統包含的元件極其複雜,自從生命第一次出現在這個蔚藍色的星球上,這個系統作為一個單獨的有機體已經進化了數十億年
7.3. 我們目前擁有的能力——包括意識思維——是進化推動了原始祖先的結果
7.3.1. 歷史記錄可以給我們一些線索,關於意識的某些元素是如何以及為何出現的
7.4. 每一個現存的類人猿——包括智人(即我們人類)——在1800萬年前都有一個共同的祖先
7.4.1. 到了600萬到700萬年前,智人和大猩猩、黑猩猩分道揚鑣
7.4.1.1. 智人開始花費更多時間在地上行走,而不是在樹上攀爬,最終發展到可以使用雙腿直立行走
7.4.1.2. 智人需要更龐大的社會群體來保障生存,這就要求我們進化出容量更大的大腦來支援社交推理技能
7.4.2. 在大約50萬年前,原始人才開始普遍使用火
7.4.2.1. 為了避免火災,火的使用需要管理和維護,這就需要人們有合作的能力,以便輪流看管火堆、收集燃料等
7.4.2.2. 這種合作或許促使了高階意向推理能力(為了理解彼此的願望和想法)的出現,還有可能催生出了語言能力
7.5. 我們無法精準地重建進化的先後順序,以及它們帶來了哪些新的能力
7.5.1. 解讀人類成熟的意識中一些必要的組成部分是如何以及為何出現的
7.6. 圖靈認為如果機器正在做的事情與“真實的人類所做的事情”無法區分,那麼我們就應該停止爭論機器究竟是否存在“真正”的意識
7.6.1. 如果它能夠透過我們所發明的任何合理的測試,讓我們無法區分,這可能就是我們想要的結果了