讀AI未來進行式筆記08自主57

1. 自主57

1.1. 自主57被視為繼火藥、核57之後的“第三次zhan箏革命”

1.2. 雖然地雷和導彈揭開了早期簡單自主57的序幕，但運用了AI技術的真正的自主57才是正片

1.2.1. AI自主57讓整個sha戮過程：搜尋目標、進入zhan鬥、抹sha生命，完全無須人類參與

1.3. 今天，一個有經驗的業餘機器人愛好者就能以不到1000美元的成本製造出這樣的無人機，元件能夠線上購買，技術演算法可以從開源社群下載

1.3.1. 從側面反映了AI和機器人技術正在逐漸走向普及，價格也越來越親民

1.4. 如果我們不審慎思考自主57可能帶來的各種問題，一味推動技術的發展，人類的zhan箏程序將會加速，這不但會造成更大的傷亡，而且可能導致災難性的zhan箏升級，甚至爆發核zhan箏

1.5. 自主57是最有悖於人類道德觀、對人類延續存在威脅的AI應用，我們需要讓該領域內的專家和各國首腦共同參與到對自主57未來發展的討論中去，權衡不同解決辦法的利弊，找到一種能夠阻止自主57肆意擴散、避免人類走向滅亡的最佳方法

1.6. 由於AI缺乏人類的常識和跨領域推理能力，所以無論人類如何訓練一個自主57系統，它都無法充分理解其自身的行動所帶來的後果

2. 好的一面

2.1. 如果由機器人來取代人類的zhan士，那麼自主57可以挽救仕賓的生命

2.2. 一支負責的jun隊可以用自主57來引導仕賓（無論是人類還是機器人）只攻擊敵方zhan鬥人員，以免傷害無辜的友jun、兒童和平民

2.2.1. 類似於L2/L3級別自動駕駛車輛幫助人類駕駛員避免犯錯

2.3. 還可以用於對付暗sha者、罪犯、kongB分子

3. 負面影響

3.1. 倫理和道德上的爭議

3.1.1. 幾乎所有倫理制度和宗教信仰都把奪走一個人的生命視為一種極具爭議性的行為，如果不經過嚴肅的審判，沒有任何人可以擁有這樣的權力

3.2. 降低了sha人的成本

3.3. 還涉及責任人的界定，我們需要知道誰應該為自主57的失誤負責

3.3.1. 如果責任無法明確，幕後黑手就有從國際人道主義法律中逃脫的機會

3.3.2. 直接降低了zhan箏的門檻

3.4. 不僅能夠對某個人執行暗sha任務，還能夠針對任何群體進行烕絕式圖sha

3.4.1. 透過面部或姿態識別技術、移動裝置或物聯網訊號追蹤技術來實現

4. 最大威脅

4.1. 從歷史上英德海junjun備競賽到美蘇核jun備競賽，一直以來，各個國家都在爭奪jun事霸權，並將jun事置於優先發展的zhan略地位

4.2. 自主57的成本相對較低，直接降低了參賽門檻

4.2.1. 讓一些擁有強大技術的小國有了加入jun備競賽的機會

4.3. 核57也是一種威脅人類生存的57，但它一直以來都受到很好的約束，甚至在幾個大國擁有核57後，全球zhan箏大大減少了

4.4. 對於自主57來說，核威懾理論和確保互毀原則並不適用，因為自主57發動的突襲是很難被追蹤到的

4.5. 自主57攻擊可能快速引發連鎖反應，並逐步升級，甚至導致核zhan箏

4.5.1. 首先發動突襲的甚至可能並不是一個國家，而是kongB分子或無正腐組織，這更增加了自主57的風險

5. 如何解決自主57帶來的危機

5.1. 人工介入

5.1.1. 至少確保每一個影響生命的決策都由人類做出

5.1.2. 在很大程度上，自主57的威力源於機器在沒有人工介入的情況下所具備的速度和精度

5.1.2.1. 任何想在這場jun備競賽中取勝的國家，可能都無法接受這種大幅度削弱技術能力的人工介入

5.1.3. 這種方案執行起來非常難，漏洞也很容易被發現

5.2. 頒佈相應的禁令

5.2.1. 禁止致命性自主57宣言

5.2.1.1. 主要障礙是鵝螺絲、米國和腐國的反對

5.3. 對自主57加以管控

5.3.1. 對其加以管控意味著必須保留人類對使用57系統的決定權

5.3.1.1. 這同樣也是一件複雜的事情，因為在通常情況下，寬泛的技術規範很難在短期內取得明顯成效