京東科技集團21篇論文高票入選國際頂會AAAI 2021

京東科技開發者發表於2021-02-09

近日,國際人工智慧領域頂級學術會議AAAI 2021(第35屆AAAI)正式開始。在國內AI陣營前列的京東科技集團以高達21篇論文的入選量成為本屆AAAI的一大黑馬。其研究方向包含了計算機視覺、聯邦學習、對抗學習、深度學習、序列推薦、社交推薦、圖神經網路、風險管理的反因果推斷,以及智慧城市領域的時空AI等領域。


在AAAI今年整體錄取率僅為21%的激烈競爭中,京東科技集團的高入選量極為難得。值得注意的是,京東科技集團的系列研發能力已走出了單純實驗室階段,轉化為在智慧城市、大宗商品、零售、農業以及AI機器人等產業場景的落地應用,助力整個行業的產業數字化程式。



京東科技集團21篇論文高票入選國際頂會AAAI 2021



AAAI(Association for the Advance of Artificial Intelligence)是人工智慧領域中歷史最悠久、涵蓋內容最廣泛的的國際頂級學術會議之一,每年都會吸引大量研究員、開發者投稿和參會,論文競爭更是異常激烈。在中國計算機學會的國際學術會議排名中,AAAI被列為人工智慧領域的A類頂級會議,是未來人工智慧產業發展方向的重要風向標。


AAAI 2021聯合主席Kevin Leyton-Brown在Twitter上表示,今年接受的投稿論文總數達到“驚人的高技術水平”。9034篇投稿論文中,7911篇接受評審,最終僅有1692篇論文被錄取,錄取率為21%。


京東科技自主研發聯邦學習平臺 破解資料孤島


如何在資料共享基礎上破解“資料孤島”難題,是業界近年來在聯邦學習方向上的重點探索。京東科技集團此前也推出自主研發的聯邦學習平臺——Fedlearn,融合了密碼學、機器學習、區塊鏈等聯邦學習演算法,搭建出一套安全、智慧、高效的連結平臺,在各機構資料不用向外傳輸的前提下,透過聯合多方機構資料,實現共同構建模型等多方資料聯合使用場景,獲得加成效應。


憑藉在聯邦學習平臺上的技術投入,京東科技集團此次在該領域有兩篇論文入選AAAI 2021。《Secure Bilevel Asynchronous Vertical Federated Learning with Backward Updating 基於反向更新的雙層非同步安全垂直聯邦學習》,提出一種新穎的融合了反向更新和雙層非同步並行的垂直聯邦學習框架(VFB2),以及在此框架下的VFB2-SGD,VFB2-SVRG和VFB2-SAGA三種新演算法,助力多方協同訓練模型並且不洩漏資料隱私,並在一定程度上破解垂直聯邦學習演算法不夠高效的難點。



京東科技集團21篇論文高票入選國際頂會AAAI 2021
基於反向更新的雙層非同步安全垂直聯邦學習



《On the Convergence of Communication-Efficient Local SGD for Federated Learning聯邦學習中高效通訊的本地隨機梯度演算法的收斂性分析》,在聯邦學習最經常使用的模型訓練演算法“本地隨機梯度”之外,提出一種新的高效通訊分散式隨機梯度演算法,可以透過錯誤補償雙重壓縮機制,解決在聯邦學習大規模模型有效訓練中通訊開銷較大的難題,顯著降低通訊成本。


以時空AI打造智慧城市作業系統  助力民生與產業發展


在城市管理中,如何精準預測城市交通流量峰值、智慧監管危化品全流程、“領導駕駛艙”實時檢視城市執行全貌,這些背後支撐的都是智慧城市領域的一系列領先技術。京東科技集團核心聚焦“時空AI”技術,此次也有論文入選AAAI 2021。如《Traffic Flow Forecasting with Spatial-Temporal Graph Diffusion Network基於時空圖擴散模型的交通流量預測》,設計了一種基於異構圖神經網路的深度學習模型, 分別從時間和空間上對不同區域的流量資訊進行建模。相較於現有僅考慮區域性空間關係的流量預測演算法有一定優越性, 可以實現整個城市不同區域更加精確的預測結果。


此外,《Robust Spatio-Temporal Purchase Prediction via Deep Meta Learning基於深度元學習的魯棒時空銷量預測》,提出了時空元學習預測(STMP)模型,用於零售行業在購物節期間的銷量預測。STMP是基於元學習的時空多工深度生成模型,採用具有少量學習能力的元學習框架來捕獲銷量資料的時空表示。然後,生成模組使用提取的時空表示和當前的銷量資料來推斷預測結果,從而助力商家基於爆發式銷量的預測提前做好充分準備。


值得注意的是,京東科技集團推出的智慧城市作業系統,實際上包含了時空資料引擎、以時空AI為核心的時空智慧引擎、基於聯邦學習的數字閘道器技術以及莫奈視覺化平臺等諸多前沿科技,可以讓城市中海量資料高效、安全“對話”,AI演算法模組化輸出。以“時空大資料引擎”為例,“智慧城市作業系統”的實現處理速度相比傳統資料平臺要快10—100倍,並且還不斷迭代;依託時空智慧引擎,以前一個20人團隊做空氣質量分析和預測AI模型開發需要花費兩年時間。現在,“智慧城市作業系統”只需要一個人花兩天時間即可完成,極大降低了人工智慧開發成本。


在一系列技術應用下,京東科技集團的智慧城市作業系統在雄安落地為塊資料平臺,成為雄安新區城市大資料資源中心的實際載體;基於京東科技集團“智慧城市作業系統”,江蘇省南通市也建成了全國首個市域治理現代化指揮中心,匯聚南通市75個部門數十億量級的資料。全南通市交通執行、公共安全、環境汙染等情況都在一張大螢幕上實時呈現,從而實現一屏統覽。


序列推薦、社交推薦讓營銷服務更精準


如何基於使用者已有的行為標籤,為其推薦真正需要的商品智慧化服務,進行千人千面的智慧營銷?這背後則是推薦演算法。京東科技集團此次圍繞推薦方向亦有論文入選AAAI 2021。


現有基於會話的序列推薦演算法目前被廣泛應用,但它僅僅只是考慮了每個會話內商品的點選轉換模式,忽略了不同會話間商品的潛在關聯性。為了解決現在演算法的缺陷,論文《Graph-Enhanced Multi-Task Learning of Multi-Level Transition Dynamics for Session-based Recommendation基於圖模式增強多工學習的會話序列推薦系統》提出了一種基於圖模式增強多工學習的框架,運用異構的注意力機制對每個會話內的商品轉換模式進行學習,來實現基於會話的序列推薦;還引入了跨越不同會話的圖學習模型,在商品的表徵學習中增加了其全域性關係的建模,因此可以實現對商品的短期以及長期序列關係同時進行學習。



京東科技集團21篇論文高票入選國際頂會AAAI 2021
基於圖模式增強多工學習的會話序列推薦系統





論文《Knowledge-aware Coupled Graph Neural Network for Social Recommendation基於知識關係的聯結圖神經網路的社交推薦系統》則是在社交推薦場景中引入商品的關係,並提出了一種基於知識關係的聯結圖神經網路模型,從而學習到更加精確的使用者偏好,可以在一定程度上緩解稀疏使用者在推薦中帶來的影響,以增強推薦模型的魯棒性。

在計算機視覺的底層技術能力領域,京東科技集團圍繞影像生成、點雲資料語義分割、自監督影片特徵學習、跨模態預訓練等領域,有多篇論文入選。《Exploiting Relationship for Complex-scene Image Generation 基於關係語義的多物體影像生成》首次提出利用關係資訊指導多物體影像生成,透過原創的關聯物體間空間佈局以語義合理性約束,大幅提升從複雜文字場景圖端到端生成單幅影像的質量;《SeCo: Exploring Sequence Supervision for Unsupervised Representation Learning 基於序列監督資訊的影片特徵自監督學習演算法》在國際上早期利用對比學習進行影片自監督特徵學習,同時引入影片幀內部,影片幀之間以及影片幀順序的自監督資訊完成影片特徵的預訓練,達到優於基於ImageNet有監督預訓練的效果,提升了模型泛化能力;《Scheduled Sampling in Vision-Language Pretraining with Decoupled Encoder-Decoder Network 基於解耦型編解碼網路和策略取樣機制的跨模態預訓練演算法》提出首個解耦的“二對二”跨模態預訓練網路結構,利用後端兩個解耦的Transformer結構實現了同時服務於跨模態理解和生成的預訓練技術。


此外,在風控領域京東科技集團也有論文入選,《The Causal Learning of Retail Delinquency消費違約場景的因果學習》探討了額度對使用者風險的因果效應方法,透過前沿的雙重機器學習,克服了現有資料中的“倖存者偏差”問題,構造出能夠反映“策略——風險”因果關係的無偏估計量,促進風險管理與機器學習理論更深地結合,幫助信貸機構制定更科學的授信策略。


事實上,截至2021年1月,京東科技集團在AAAI、IJCAI、CVPR、KDD、NeurIPS、ICML、ACL、ICASSP等國際AI頂級會議上共發表相關論文近350篇,並已在多項國際性學術賽事中斬獲19項世界第一,在機器學習、計算機視覺、語音與自然語言處理等領域均取得研究突破;與此同時,京東科技集團注重技術人才的培養,與美國史丹佛大學、中國科技大學等多所國內外高校合作建立人工智慧實驗室,並充分展開產學研一體化實踐。


歡迎點選【 京東科技 】,瞭解開發者社群

更多精彩技術實踐與獨家乾貨解析

歡迎關注【京東科技開發者】公眾號




來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/69912185/viewspace-2756905/,如需轉載,請註明出處,否則將追究法律責任。

相關文章