美國白宮：為人工智慧的未來做好準備

10月13日，奧巴馬主持白宮前沿峰會，展望美國在未來50年的發展，釋出了《為人工智慧的未來做好準備》和《國家人工智慧研究與發展策略規劃》兩份重要報告。前者審視了人工智慧的現狀，現有和潛在的應用以及它在社會和公共政策方面存在的問題；後者確定了國家資助人工智慧研究和發展的策略。本文是前者的總論，闡述了人工智慧引發的若干政策機遇，包括利用人工智慧提升社會福利和改進政府執政水平，如何在堅持鼓勵創新併兼顧公眾利益的原則下制定人工智慧監管措施；如何確保人工智慧應用是公正、安全和可控的。報告認為，該技術將開闢新的市場和機會，但也將產生就業等負面影響。現階段政府對人工智慧最重要的不是監管，而是指導和扶持。

人工智慧（AI）在未來將發揮越來越重要的作用。為使美國對此未來做好準備，作為一項貢獻，我們調查了人工智慧的當前狀態、其現有的和潛在的應用，以及人工智慧的進步對社會和公共政策所提出的問題。我們還為聯邦機構和其他參與者的具體進一步行動提出建議。另一份名為《國家人工智慧研究與發展策略計劃》的配套檔案闡述了由聯邦資助的人工智慧研究與開發的戰略計劃。

（一）人工智慧在公益方面的應用

人工智慧和機器學習的一個非常積極的應用是，它們具備改善人們生活的潛力，可以幫助解決一些世界上最大的挑戰和低效率，改善人們的生活。許多人將人工智慧的潛力與移動計算帶來的變革性進步相提並論。公共部門和私營部門對人工智慧基礎研發和應用投資，已經在衛生醫療、交通、環境、刑事司法和經濟包容等領域為公眾帶來重大好處。隨著各機構具備了更快、更靈敏和更高效地使用人工智慧的能力，政府本身的效率也在提高。

（二）人工智慧和監管

人工智慧已應用在許多產品中，例如汽車和飛機，這些產品受到監管，旨在保護公眾免受傷害並確保經濟競爭中的公平性。這些產品使用人工智慧將會如何影響相關的監管方式？總體而言，為保護公共安全而對使用人工智慧的產品進行監管，應通過以下方式使得人們知情：評估使用人工智慧後可能減少的風險，連同可能增加的風險。如果風險屬於現有監管制度範圍之內，那麼政策討論應首先考慮現有法規是否已經充分解決風險，或者現有法規是否需要針對人工智慧的使用而進行調整。此外，如果監管對策使得人工智慧的使用面臨增加合規成本的威脅，或減緩有利創新的開發及採用，則政策制定者應考慮如何調整政策應對這些反應，以降低成本和創新壁壘，同時避免對安全或市場公平性產生不利影響。

當前，在自動駕駛汽車（AV）和配備人工智慧的無人機系統（UAS）方面，出現了使用人工智慧的產品挑戰相關監管的例項。從長遠來看，AV可能通過減少司機人為失誤和增加個人移動性來挽救許多生命，而UAS將產生許多經濟效益。然而，隨著這些技術已經過測試並開始成熟，公共安全必須受到保護。交通部（DOT）正在使用一種方法來改進相關法規，該方法是基於在該部門建立專門知識、建立安全空間和試驗檯進行實驗、與行業和民間社會合作，以制定基於績效的法規，使得隨著安全操作的案例不斷累積，能有更多的使用。

（三）研究和勞動力

在促進人工智慧方面，政府還可以通過支援研發以及具備多樣化技能的勞動力的增長來發揮重要作用。除了本報告，由聯邦資助的人工智慧研究和開發的一份單獨戰略計劃也正在釋出。該計劃討論了聯邦研發的作用，確定了機會領域，並建議了協調研發的方式，以最大限度地提高效益和培養訓練有素的勞動力。

此外，鑑於人工智慧的戰略重要性，聯邦政府應監測全球範圍內的AI發展情況，以便對其他重要變化進行早期預警，以防美國政策需要因這些重要變化做出改變。

人工智慧的快速增長極大地增加了對有相關技能人才的需求，以支援和推進該領域發展。人工智慧世界需要能夠讀取、使用、解釋和傳達資料的通曉資料的公民，並參與關於受人工智慧影響的事務的政策辯論。人工智慧知識和教育在聯邦科學、技術、工程和數學（STEM）教育計劃中日益受到重視。人工智慧教育也是”全民電腦科學”的組成部分，”全民電腦科學”是總統的倡議，目的是使得所有的美國學生，從幼兒園到高中都能學習電腦科學，並賦予他們在一個技術驅動的世界所需的計算思維技能。

（四）人工智慧的經濟影響

人工智慧在短期內的主要經濟影響是將以前無法自動化的任務自動化。這可能會提高生產力和創造財富，但它也可能以不同的方式影響特定型別的工作，減少對某些可以自動化的技能的需求，同時增加對與人工智慧相輔相成的其他技能的需求。白宮經濟顧問委員會（CEA）的分析表明，自動化對低工資崗位的負面影響將是最大的，並且存在風險–人工智慧驅動的自動化會增加受教育程度較低和受教育程度較高的工人之間的工資差距，從而可能增加經濟不平等。公共政策可以解決這些風險，確保工人被再培訓並能夠在與自動化互補而不是競爭的職業中取得成功。公共政策還可以確保人工智慧創造的經濟效益得到廣泛共享，並確保人工智慧負責任地迎接全球經濟的新時代。

（五）公平、安全和治理

隨著人工智慧技術的更廣泛部署，技術專家、政策分析師和倫理學家對人工智慧廣泛採用的非預期後果表示擔憂。使用人工智慧對人作出相應的決定，經常取代人類驅動的官僚程式所作出的決定，導致人們對如何確保公正、公平和問責制的關注–以前在政府的2014年的《大資料：抓住機遇，保護價值》報告以及總統科學和技術顧問委員會於2014年發表的向總統提交的《大資料和隱私：技術觀點》報告中表達了同樣的擔憂。對透明度的關注不僅集中於所涉及的資料和演算法，還集中於對任何基於人工智慧的決定有某種形式解釋的可能性。然而人工智慧專家告誡說，在試圖理解和預測高階人工智慧系統的行為方面，存在固有的挑戰。

使用人工智慧來控制物質世界的裝置導致人們對安全性產生擔憂，特別是當系統暴露於十分複雜的人類環境時。人工智慧安全方面的一個主要挑戰是建立系統，這些系統可以從實驗室的”封閉世界”安全地過渡到外部”開放世界”，而在外部”開放世界”，可能發生不可預測的事情。恰當地適應不可預見的情況對於安全操作來說是困難的，然而卻是必要的。建立其他型別的安全攸關的系統和基礎設施（比如飛機、發電廠、橋樑和車輛）方面的經驗可以給人工智慧從業人員很多借鑑–關於確認和驗證，如何為某種技術建立安全案例，如何管理風險，以及如何與利益攸關方溝通風險。

在技術層面，對公平和安全的挑戰是相關的。在這兩種情況下，從業人員都努力避免意外的行為，併產生所需的證據，使利益攸關方有理由相信那些不可能發生意外的失敗。

人工智慧從業人員和學生的倫理培訓是解決方案的一個必要的部分。在理想情況下，每個學習人工智慧、電腦科學或資料科學的學生都將接觸到相關的倫理和安全主題的課程和討論。然而，僅僅有倫理是不夠的。倫理可以幫助從業人員瞭解他們對所有利益攸關方的責任，但是應當使用技術工具和方法來加強倫理培訓，通過做好防止不可接受結果所需的技術工作，將善意付諸實踐。

（六）全球考量和安全

人工智慧在國際關係和安全的一系列領域提出了政策問題。隨著國家、多邊機構和其他利益攸關方已開始獲得人工智慧的好處並受到其挑戰，人工智慧一直是最近國際討論中感興趣的話題。這些實體之間的對話和合作可能會有助於促進人工智慧的研發並駕馭好人工智慧，同時應對共同的挑戰。

今天的人工智慧在網路安全方面具有重要的應用，預計還將在防禦性和攻擊性網路措施方面發揮越來越大的作用。目前，設計和操作安全的系統需要專家的大量時間和關注。使這項專家工作部分或全部自動化，可以在大大降低成本的同時，在更廣泛的系統和應用程式之間增加安全性，並可以提高國家網路防禦的敏捷性。使用人工智慧可以幫助保持所需的快速響應，以偵測不斷變化的威脅並對其作出反應。

人工智慧在武器系統中的使用引發潛在的挑戰性問題。美國幾十年來在某些武器系統中建立了自主權，允許更精確地使用武器和更安全、更人道的軍事行動。然而，脫離人類對武器系統的直接控制涉及一些風險，並可能引起法律和倫理問題。

將自動和半自動武器系統納入美國防禦計劃的關鍵是確保美國政府實體始終按照國際人道主義法行事，採取適當步驟控制擴散，並與合作伙伴和盟國共同制定與這種武器系統的開發和使用相關的標準。美國積極參加了關於致命自動武器系統的國際討論，並預期對這些潛在武器系統的持續而強有力的國際討論。關於自動和半自動武器，美國政府各機構正在努力根據國際人道主義法制定一項單一的政府範圍的政策。

（七）為未來做準備

如果業界、公民社會、政府和公眾共同努力，支援人工智慧技術的發展，同時密切關注其潛力，管理其風險，則人工智慧將成為經濟增長和社會進步的主要驅動力。

美國政府可以承擔多個角色。它可以召集有關重要問題的對話，並幫助制定公開辯論的議程。它可以監控應用程式開發時的安全性和公平性，並調整監管框架以鼓勵創新，同時保護公眾。它可以提供公共政策工具，以確保人工智慧提供的工作手段和方法的中斷能提高生產率，同時避免對某些部門的勞動力造成不利的經濟後果。它可以支援人工智慧的基礎研究和應用於公共利益。它可以支援熟練、多樣化的勞動力的發展。並且，政府可以使用人工智慧，以更快、更有效且更低的成本為大眾服務。從教育和經濟安全網，到國防、環境保護和刑事司法等許多公共政策領域，將會看到人工智慧持續進步所帶來的新機會和新挑戰。美國政府必須繼續建立其理解和適應這些變化的能力。

隨著人工智慧技術的繼續發展，從業人員必須確保人工智慧系統是可控的；它們是開放、透明和可理解的；它們可以與人一起有效地工作；它們的行動將與人類價值觀和願望保持一致。研究人員和從業人員已經增加了對這些挑戰的關注，並且應當繼續關注它們。

開發和研究機器智慧可以幫助我們更好地理解和欣賞我們人類的智慧。如果使用經過深思熟慮，人工智慧可以增強我們的智力，幫助我們繪製一條更美好、更聰明的道路。

本文出處：暢享網
本文來自雲棲社群合作伙伴暢享網，瞭解相關資訊可以關注vsharing.com網站。