英：AI技術軍事化比核彈更加危險

人工智慧，對我們來說是一個既陌生又熟悉的東西，不論是我們在銀行業務大廳中見到的所謂“人工智慧”機器人，還是我們手機或者智慧音響中的“智慧”語音助手，亦或是汽車上的自動駕駛系統，其實這些都算是人工智慧的一部分。

（圖源：wikipedia）

最近英國《經濟學人》週刊9月7日釋出的題為《人工智慧與戰爭》的文章稱，世界大國之間的競爭涉及很多方面，最令人擔憂、但人們最不瞭解的一個方面是，使用人工智慧的戰爭。

目前許多國家都在對軍事化的人工智慧投入大量資金，任何一方都不希望落在後面。正如五角大樓人工智慧事務負責人所說：“我不希望看到的是，未來我們潛在的對手擁有一支完全實現人工智慧的部隊，而我們卻沒有。”

（圖源：sputniknews）

除此之外，文章還認為，具備人工智慧的武器和裝置將擁有超出人類能力範疇的速度和精準度，這也將打破人類和人工智慧之間的平衡。更可怕的是人工智慧由於運作速度飛快，如果其掌握更高的許可權，這樣在很多情況下是不會給外交活動和人情世故騰出時間而直接做出攻擊操作的，如果其被駭客入侵的話，則會更加危險。

也就是說，核彈雖然威力大，但是是由人來控制的，還是可控的，一旦人工智慧系統來接管軍事系統，這些後果可就無法估量了。

（圖源：WSJ）

其實從人工智慧剛開始發展的時候，就有人擔心人工智慧的發展會使人類走上一條危險的道路，太過智慧化的機器人也勢必會對人類的安全帶來一定的威脅。從我們所看的一系列機器人取代人類，佔領世界的電影中，也不難想象人們對未來的擔憂。

雖然我們不能以偏概全的全部否定人工智慧技術，也不可以阻礙人工智慧的發展，但是從某一方面來說，人工智慧確實會讓人產生害怕的感覺。這種害怕源自對未知機械裝置的害怕。

舉個簡單的例子，不論是開車的人還是坐車的人，我們在馬路上遇到大型貨車，是不是會有一種莫名的壓抑感和害怕的感覺，其實這也是源於對機械的恐懼感。而人工機器人也是一樣，你無法判斷它下一秒會作出什麼舉動，再加之其鋼鐵的軀幹以及強大的力氣，都會讓人更加恐懼。

（圖源：《終結者》）

我們在看好萊塢大片《終結者》系列的時候，除了會覺得這些機械人很威猛，而從另一個層面，我們也會覺得他們很可怕，不論是其刀槍不入的鋼鐵之軀還是其威力巨大的武器系統以及其靈活快速的移動，這些都是人類肉體所比不上的，這些也是我們在未來的軍事中所需要面對的東西，因為在未來，我們的軍事很有可能無人化，也就是說機械戰士將成為現實。

（圖源：Youtube）

然而，人類對於人工智慧的恐懼還不僅僅只侷限於《西部世界》以及《終結者》等這類影視劇中對機器人的恐懼，更加可怕的是那些功能強大，許可權更高的人工智慧系統。比如《終結者》中的控制了美軍武器並獲得了自我意識的天網系統，就是這樣。

（圖源：《西部世界》）

設想這樣一個場景，一個大型的軍事武器系統是由人工智慧系統來接管的，暫且不說其會不會被駭客攻擊，如果其系統出現故障，或者是判斷失誤，導致武器的錯誤發射，這樣所帶來的一系列連鎖反應是想也不敢想的。

（圖源：US Navy）

所以，對於人工智慧系統來說，有良好的防黑防禦以及完美的容錯機制都是十分重要的，並且更加重要的一點是大型的人工智慧系統還是不能完全脫離人來獨自運作的。

（圖源：pixabay）

在重要決定方面，還需要進行人工授權，也就是說一般情況下，人工智慧系統的最高許可權不能高於人類。當然這也不是絕對的，還需要進行許多複雜的判斷以及應急機制，這些都需要我們科學家和研發人員的繼續努力。