沈向洋:微軟研究院——求索不已,為全人類,打造負責任的AI

dicksonjyl560101發表於2019-09-09
2019-09-01 12:23:52
沈向洋:微軟研究院——求索不已,為全人類,打造負責任的AI

微軟全球執行副總裁,微軟人工智慧及微軟研究事業部負責人沈向洋博士

在微軟研究院(MSR),我們始終都在努力解決關於未來的問題——我們努力推動電腦科學最高水平的進展;我們將最新的技術快速轉化、融入到微軟的產品和服務中;我們還在幫助全球各地的客戶,孵化顛覆性的技術、開創嶄新的業務模式和解決方案。

微軟研究院遍佈全球各地,在美國的雷德蒙德、紐約、麻省的劍橋,在加拿大蒙特利爾,在英國劍橋,在印度的班加羅爾,以及中國的北京和上海,我們都開設了分院。過去的一年中,全球各地的微軟研究院,取得了許多了不起的成就,為微軟自身的發展,乃至整個電腦科學領域的進步,做出了重大貢獻。例如,我們開發出了第一個能將資料編碼儲存到 DNA 中的方法,能夠將一座倉庫那麼大的資料中心,壓縮到只有幾個骰 子大小;我們的 Project Natick 專案,在大洋深處的海底,建成了一座資料中心;我們開發了一套能夠解釋機器學習的開源方案,幫助人們開啟人工智慧的黑箱;我們還創造了一套叫做 Code Jumper 的工具,利用不同形狀的模組,幫助視力障礙的孩子們,學會如何程式設計。

1991 年,我們創立微軟研究院的時候,就立志於放眼未來,求索不已,創造能夠影響未來的重大突破。為了實現這一目標,我們制定了從今天到未來,跨越 10 到 20 年的戰略路線圖:我們為 18 個月內可能上市的產品和服務,做好設計和準備;我們為未來 3 到 5 年的專案,明確方向和要求;最重要的,是我們會對未來 10 到 20 年的技術趨勢投入更多的關注。

HoloLens 全息眼鏡的發展歷程最具代表性:早在 20 多年前,我們已經開始投資於 HoloLens 背後的基礎性研究;隨著 Kinect 感測器和 KinectFusion 的出現,我們實現了真正的突破,用 3D 感測器完整地重構出了三維結構;然後是 HoloDesk,可以將 3D 模型組裝成虛擬的三維環境;過去三四年間,HoloLens 的技術和應用逐漸成熟,真正實現了混合現實技術的重大突破——今天,我們就演示瞭如何以 HoloLens 配合神經網路文字到語音轉換技術,打造出一個會說多國外語的全息替身——簡直和科幻電影中的情形一模一樣。

未雨綢繆,代表了微軟研究院對未來的思考。今天,以人工智慧為代表的一系列技術創新,正在讓很多不可思議的事情成為現實。但我們不僅要推動技術的進步,更要認真思考可能由此帶來的社會影響,以及人類將要共同面對的潛在挑戰,未雨綢繆,防患於未然,從頭開始打造負責任的人工智慧。

沈向洋:微軟研究院——求索不已,為全人類,打造負責任的AI

微軟全球執行副總裁,微軟人工智慧及微軟研究事業部負責人沈向洋博士在“二十一世紀的計算”學術研討會上發

在科技行業裡,微軟率先提出了打造負責任的人工智慧的決心。2016 年,微軟 CEO 薩提亞·納德拉發表了一篇關於人工智慧共同責任的專欄文章,幾個月後,第一次公開提出了微軟的人工智慧準則:公平、可靠和安全、隱私和保障、包容、透明、責任。

我們出版了《計算未來》一書,對人工智慧發展過程中可能引發的道德、法律思考和社會影響,進行了全面詳實的探討。微軟成立了AETHER(“工程與科研中的人工智慧道德”的縮寫)人工智慧倫理道德委員會,這個委員會由微軟公司領導、工程師、科研人員、律師等組成,負責對微軟內部與人工智慧倫理道德相關的事宜,進行探討和評估。如今,微軟在開發和應用人工智慧的過程中,始終堅持遵循六項人工智慧準則,我們推出的每一個產品,都要經過人工智慧道德審查。

透過技術創新消除 AI 偏見,確保人工智慧公平、包容的發展,我們在這些方面已經取得了一些進展。例如,我們的研究團隊,利用稱為“單詞嵌入”的自然語言處理工具,解決了文字搜尋中的性別偏見的問題。

所謂單詞嵌入,是一種用來將單詞轉換為向量數字的演算法,它能夠以來自新聞資料或者網頁資料的海量文字資料為依據,為每個單詞賦予一個對應的向量數字。透過在向量座標系中,比對常見詞彙與“他”、“她”這兩個性別代詞之間的關聯度,研究人員發現了一些明顯的特徵,例如“sassy(刁蠻)”、“knitting(編織)”這樣的詞更靠近女性,而“hero(英雄)”、“genius(天才)”更靠近男性。演算法之所以會為這些詞彙賦予性別特徵,原因在於訓練演算法用的基準資料集——通常是來自新聞和網頁的資料——本身,就存在著由語言習慣造成的“性別偏見”,演算法也自然“繼承”了人類對這些詞彙理解的性別差異。

其結果就是,當我們用試驗演算法,根據梅林達·蓋茨的 LinkedIn 資訊推測其職業時,得到了“教師”的判斷,但只要將人稱代詞換成“他”,蓋茨夫人的職業就會變為“律師”。今天的很多 AI 系統都在使用這樣的單詞嵌入機制,為了解決由此造成的性別偏見問題,我們提出了一個簡單易行的方案:在單詞嵌入中,刪除區分“他”和“她”的判斷維度。關於這個方案的更多細節,我們發表了一篇論文,相關資料也共享在 GitHub上 供大家使用。

科學研究只尊重未來,因此,作為科學工作者,我們的使命就是挑戰現實、探索新知、創造不同——這也正是微軟研究院幾十年來取得成功和發展的關鍵。在微軟研究院,我們相信,所謂未來,是由我們在不斷求索中創造出來的。我們要做的,就是去引導、去創新、去啟迪,透過推動從今天到明天的轉變,為全人類創造出更美好的世界。

來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/29829936/viewspace-2656420/,如需轉載,請註明出處,否則將追究法律責任。

相關文章