一個國際研究小組研究了人工智慧所蘊含的語言偏見。

  • 一項新研究發現，AI聊天機器人也有“加法偏見”。演算法偏向於使用含加法而非減法的詞彙表述，而這也符合長期以來的語言趨勢。
  • 學者指出，在表達改善某事物時，包含加法的詞彙出現更頻繁，含義也更為積極。
  • 研究人員表示，GPT-3模型說：“在一物中加入另一物，通常會使它變得更好。例如，如果你往咖啡里加糖，咖啡就會變得更好喝。”

在英語中存在著這樣一種語言偏見：在改善某事物時，我們傾向於新增東西而非減少東西。一項新研究揭示了這個問題，而這種加法偏見在AI聊天機器人中甚至已經成為了根深蒂固的偏好。

與“改進”概念相關的語彙更加傾向於加法而非減法。這會導致我們做出過於複雜的決定，使我們試圖改進的事物變得更加複雜。

來自伯明翰大學、格拉斯哥大學、波茨坦大學和北倫敦大學的國際研究團隊在《認知科學》雜誌上發表了這項研究。

伯明翰大學認知語言學系副教授Bodo Winter表示：“此前已有研究表明，當人們試圖進行‘改進’時，通常會偏好‘新增’一些東西。

“我們發現同樣的偏見深深地根植於英語中。例如，單詞‘改進’（improve）的含義更接近於‘加入’（add）和‘增加’（increase），而不是‘去除’（subtract）和‘減少’（decrease）。因此，當會議上有人說，‘大家有沒有什麼想法來改進這個專案？’時，這已經是在隱性地呼籲與會者透過增加而不是減少來實現改進。”

研究還發現，其他與變化有關的動詞，比如“改變”（change）、“修改”（modify）、“修訂”（revise）和“增強”（enhance），也表現出類似的偏見。如果我們不對語言上的這種加法偏見加以反思，它會讓事情變得更加糟糕，而不是真的實現改進。例如，這可能會導致過度繁瑣的行政程式和官僚主義。

這一偏見倒過來依舊成立。在與“改進”有關的語境中，與“減少”相關的詞很少出現，而與“新增”相關的用詞則更多，且含義更為積極。這意味著加法偏見在英語語言結構及其使用的多個層面都切實地存在著。

加法偏見是如此地根深蒂固，以至於連AI聊天機器人都學會了它。研究人員詢問GPT-3關於“加入”（add）這個詞的看法。它回答說：“在一物中加入另一物，通常會使它變得更好。例如，如果你往咖啡里加糖，咖啡就會變得更好喝。如果有新朋友加入了你的朋友圈，你就會更快樂。”

Winter總結道：“英語中積極的加法偏見，是我們所有人都應該意識到的。它可以影響我們的決策，讓我們傾向於新增更多的層次或更多的事物，即使實際上，我們反倒可能會從去除或簡化中受益。

“也許下次我們在工作或生活中提出改進意見時，我們應該花更多的時間考慮自己的選擇。”

作者：伯明翰大學

來自： 世界經濟論壇