01 清華量子資訊中心發現具有指數加速可能的量子機器學習演算法
尋找具有指數加速能力的演算法是量子計算機的一個核心研究方向。迄今發現的具有指數加速可能的量子演算法屈指可數,而每個具有指數加速能力的量子演算法的發現,都是量子計算機研究的重要突破。
清華大學量子資訊中心段路明團隊發現了一種具有指數加速可能的量子機器學習演算法。他們首次提出了一種基於最佳化多體量子糾纏態的量子生成模型,並證明了該量子生成模型在學習能力與預測能力方面都存在指數加速。在量子生成模型中,經典圖中表示機率的引數由正實數擴大至複數域,這種新的量子圖模型所需的引數個數相比於經典圖模型(包括貝葉斯網路、馬爾科夫隨機場、玻爾茲曼機、深度信念網路等)有指數級的減少,這對於生成模型來說,在空間和時間的效率上都是巨大的優勢。
基於這一模型,他們進而提出了啟發式量子機器學習演算法。該演算法可以將生成模型的推斷和訓練問題轉化成量子多體哈密頓量的基態製備問題,並由此證明量子演算法的指數加速。
這一發現展示了量子計算機在人工智慧研究領域中的巨大潛力,該成果也發表在了科學子刊 Science Advances(《科學 • 進展》)上,題目為 A quantum machine learning algorithm based on generative models 。
02 AI 在醫療方面取得革命性突破
人工智慧在醫療方面也取得了突破性進展。吳恩達團隊利用深度神經網路僅透過心率資料就可以診斷患者是否心律失常。據介紹,心電圖資料全部由專家標註,分成 12 種不同情況,包括 10種心律失常,竇性心律以及噪音。
基於這些資料,研究人員訓練了一個包含 33 個卷積層和線性輸出層的神經網路。只需輸入心電圖資料,該系統就可以將其拆分成每個時長1.28秒的資料樣本,判斷每個1.28秒屬於12種心率(及噪音)中的哪一種。實驗表明其準確度高達 83.7%,超過了人類心臟病醫生的 78.0%。目前,該研究成果已經發表在了最新的一期 Nature Medicine 上。
• https://www.nature.com/articles/s41591-018-0268-3
另一研究成果同樣發表在最新的一期 Nature Medicine 上, 題目為《透過深度學習識別遺傳疾病的面部表型》( Identifying facial phenotypes of genetic disorders using deep learning)。
該研究使用了 17000 多張患者的面部影像來訓練神經網路,所有這些患者被確診的遺傳綜合徵總計超過200種。研究人員利用兩個獨立的測試資料集測試該深度學習演算法DeepGestalt的表現,每一個資料集都包含數百張之前經過臨床專家分析的患者面部影像。對於每一張測試影像,DeepGestalt被要求列出每張面部影像可能代表的綜合徵,並按不同綜合徵的機率依次排序。在兩組測試中,在 90% 左右的情況下,DeepGestalt成功的在提出的前 10 個答案中都包括了正確的綜合徵。雖然這項研究採用的測試資料集規模相對較小,而且沒有和其他已有的識別方法或人類專家進行直接比較,但是研究結果表明人工智慧有望在臨床實踐中,輔助罕見遺傳綜合徵的優先順序劃分與診斷。
•https://www.nature.com/articles/s41591-018-0279-0.epdf?sharedaccesstoken=62PW4OHG-NDsJk7uOtQZo9RgN0jAjWel9jnR3ZoTv0Os8H3zP0FWM-ifOxgr-DPy08bRFUpsGFc9h1bmip3gmtgoS-0vr5cLbAyWW7ei9mrVX73uG9ODN-yrWpdIFxLc_hyY5xd6TaqA5wVr8FsDwo5mSHnYezC7u-pL90IyE%3D
03 微軟公開小冰系統設計
微軟小冰團隊發表論文公開了其聊天機器人“小冰”的開發過程,詳述了設計原則、系統架構和關鍵元件,包括對話管理器、核心聊天、技能和移情計算模組,展示了小冰是如何在長時間的對話中動態地識別人類的情感和狀態,理解使用者的意圖,並響應使用者的需求。
研究團隊在文中強調,作為一個獨特的人工智慧伴侶,小冰可以在情感與人們產生聯絡,滿足人們對交流,感情和社會歸屬的需求。在小冰的系統設計中,智商與情商的結合是核心,同時又具有獨一無二的個性。針對這樣的設計原則,他們將人機社交聊天視為基於馬爾可夫決策過程 (MDP) 的決策,並針對長期使用者參與度和每次會話的對話輪數 (Conversation-turns Per Session, CPS) 進行最佳化。
自 2014 年釋出以來,小冰已與超過 6.6 億使用者進行了聊天,併成功地與其中許多使用者建立了長期關係。透過對大規模線上日誌的分析,小冰的平均 CPS 已經達到 23輪,顯著高於其他聊天機器人甚至人類之間的對話。
論文地址:https://static.aminer.cn/misc/pdf/weixin/XiaoIce.pdf
04 Transformer 再升級
Transformer 是谷歌在 2017 年提出的一個革新性的 NLP 框架。在機器翻譯領域 ,Transformer 已經幾乎全面取代遞迴神經網路 RNN。近日,來自卡內基梅隆大學和谷歌的研究人員提出了 Transformer 的升級版:Transformer-XL。
儘管 Transformer 具有學習長期依賴關係的潛力,但在語言模型中受到固定長度上下文的限制。針對這一限制,Transformer-XL可以使 Transformer 能夠在不破壞時間一致性的情況下學習超過固定長度的依賴關係。具體地說,Transformer-X 包含一個 segment-level 的遞迴機制和一種新的位置編碼方案。這樣不僅可以捕獲長期依賴關係,還可以解決上下文碎片問題。
實驗表明,Transformer-XL 學習的依賴關係比 RNN 長約 80%,比 vanilla Transformer 長 450%,在短序列和長序列上都能獲得更好的效能。並且在評估過程中比 vanilla Transformer 快 1800+ 倍。 此外,這一新架構在 5 個資料集上都獲得了強大的結果。目前,研究人員已經公開了 Tensorflow 和 PyTorch 版本的程式碼、預訓練模型和超引數。
程式碼地址:https://github.com/kimiyoung/transformer-xl
論文地址:https://static.aminer.cn/misc/pdf/weixin/TRANSFORMER-XL.pdf
05 歐盟將投入 200 億歐元發展人工智慧
2018 年 12 月,歐盟宣佈計劃在 2020 年底實現私人投資和公共投資至少 200億歐元,用於發展人工智慧。經過近六個月的會議討論,歐盟成員國對以下內容達成一致。
• 透過合作伙伴關係最大化投資效益,投資目標包括:
所有成員國將制定自己的人工智慧發展戰略;
建立新的人工智慧研究和創新合作伙伴關係;
為初創公司提供支援;
開發和連線歐洲人工智慧卓越中心,在互聯移動等領域建立世界參考測試設施,並透過數字化創新中心鼓勵在整個經濟中吸納人工智慧。
• 建立歐洲資料空間,致力於開發人工智慧技術需要用到大型、安全且可靠的資料集。
• 培養人才、技能和終身學習精神,將透過專門的獎學金等方式支援人工智慧領域高等教育,充分利用藍卡(Blue Card)系統留住和吸引歐洲的高技能人工智慧專業人士。
• 開發有道德且值得信賴的人工智慧,專家小組目前正在制定開發和使用人工智慧的道德準則,讓歐洲注重道德的方法進入全球舞臺。
歐盟委員會希望透過實施其人工智慧(AI)戰略,促進人工智慧在歐洲的開發和使用。
06 IEEE 計算機協會公佈 2019 年十大技術趨勢
2018 年 12 月 18 日,IEEE計算機協會(IEEE-CS)技術專家公佈了他們對技術發展趨勢的年度預測,提出了他們認為 2019 年會被最廣泛採用的技術發展趨勢。
這些技術發展趨勢有:
(1)深度學習加速器,如GPU、FPGA和最近的TPU;
(2)輔助駕駛,該技術高度依賴於深度學習加速器來進行影片識別;
(3)身聯網(Internet of Bodies, IoB),物聯網和自我監測技術正在更加靠近人體甚至進入人體內部;
(4)社會信用演算法,透過生物識別技術和混合型社交資料流的結合,可以將觀察轉化為對個人的好壞及是否值得得到公眾社會認可的判斷;
(5)先進(智慧)材料和裝置,他們將在醫療保健、包裝、家電等領域創造激動人心的應用;
(6)主動安全保護,如在新的攻擊型別暴露時能被啟用的鉤子以及識別複雜攻擊的機器學習機制等;
(7)虛擬現實(VR)和擴增實境(AR),除了遊戲方面,VR和AR技術在教育、工程和其他領域也可以發揮巨大的作用;
(8)聊天機器人,除了基本客戶服務、虛擬助理,業界也在尋求將這一技術作為提供治療支援的一種方式,例如擴充套件到與認知障礙兒童的互動;
(9)自動語音垃圾(robocall)預防,這一技術現在可以阻止被假冒的呼叫者 ID,並攔截可以來電;
(10)人性化技術(特別是機器學習),機器學習、機器人和無人機的大規模使用將有助於改善各行各業的工作流程和工作效率。