中新網(wǎng)1月7日電 近日，國(guó)際人工智能領(lǐng)域頂級(jí)學(xué)術(shù)會(huì)議AAAI 2021(第35屆AAAI)論文收錄結(jié)果出爐。在國(guó)內(nèi)AI陣營(yíng)前列的京東數(shù)科以高達(dá)16篇論文的入選量成為本屆AAAI的一大黑馬。其研究方向包含了聯(lián)邦學(xué)習(xí)、對(duì)抗學(xué)習(xí)、深度學(xué)習(xí)、序列推薦、社交推薦、圖神經(jīng)網(wǎng)絡(luò)、風(fēng)險(xiǎn)管理的反因果推斷，以及智能城市領(lǐng)域的時(shí)空AI等尖端技術(shù)領(lǐng)域。
在AAAI今年整體錄取率僅為21%的激烈競(jìng)爭(zhēng)中，京東數(shù)科的高入選量極為難得。一系列研發(fā)成果的集中爆發(fā)，也充分顯示了京東數(shù)科在以AI驅(qū)動(dòng)產(chǎn)業(yè)數(shù)字化的實(shí)踐中，在人工智能領(lǐng)域具備的國(guó)際頂尖技術(shù)實(shí)力，以及高科技人才儲(chǔ)備方面的領(lǐng)先布局。值得注意的是，京東數(shù)科的系列研發(fā)能力已走出了單純實(shí)驗(yàn)室階段，轉(zhuǎn)化為在智能城市、農(nóng)業(yè)、大宗商品、零售、以及AI機(jī)器人等產(chǎn)業(yè)場(chǎng)景的落地應(yīng)用，助力整個(gè)行業(yè)的產(chǎn)業(yè)數(shù)字化進(jìn)程。
AAAI(Association for the Advance of Artificial Intelligence)是人工智能領(lǐng)域中歷史最悠久、涵蓋內(nèi)容最廣泛的的國(guó)際頂級(jí)學(xué)術(shù)會(huì)議之一，每年都會(huì)吸引大量研究員、開(kāi)發(fā)者投稿和參會(huì)，論文競(jìng)爭(zhēng)更是異常激烈。在中國(guó)計(jì)算機(jī)學(xué)會(huì)的國(guó)際學(xué)術(shù)會(huì)議排名中，AAAI被列為人工智能領(lǐng)域的A類頂級(jí)會(huì)議，是未來(lái)人工智能產(chǎn)業(yè)發(fā)展方向的重要風(fēng)向標(biāo)。據(jù)了解，新一屆 AAAI 2021 將全程在線上舉辦，時(shí)間為2月2日-2月9日。
AAAI 2021聯(lián)合主席Kevin Leyton-Brown在Twitter上表示，今年接受的投稿論文總數(shù)達(dá)到“驚人的高技術(shù)水平”。9034篇投稿論文中，7911篇接受評(píng)審，最終僅有1692篇論文被錄取，錄取率為21%。
京東數(shù)科自主研發(fā)聯(lián)邦學(xué)習(xí)平臺(tái) 破解數(shù)據(jù)孤島
如何在數(shù)據(jù)共享基礎(chǔ)上破解“數(shù)據(jù)孤島”難題，是業(yè)界近年來(lái)在聯(lián)邦學(xué)習(xí)方向上的重點(diǎn)探索。京東數(shù)科此前也推出自主研發(fā)的聯(lián)邦學(xué)習(xí)平臺(tái)Fedlearn，融合了密碼學(xué)、機(jī)器學(xué)習(xí)、區(qū)塊鏈等聯(lián)邦學(xué)習(xí)算法，搭建出一套安全、智能、高效的鏈接平臺(tái)，在各機(jī)構(gòu)數(shù)據(jù)不用向外傳輸?shù)那疤嵯拢ㄟ^(guò)聯(lián)合多方機(jī)構(gòu)數(shù)據(jù)，實(shí)現(xiàn)共同構(gòu)建模型等多方數(shù)據(jù)聯(lián)合使用場(chǎng)景，獲得加成效應(yīng)。
憑借在聯(lián)邦學(xué)習(xí)平臺(tái)上的前沿技術(shù)投入，京東數(shù)科此次在該領(lǐng)域有兩篇論文入選AAAI 2021�！禨ecure Bilevel Asynchronous Vertical Federated Learning with Backward Updating 基于反向更新的雙層異步安全垂直聯(lián)邦學(xué)習(xí)》，提出一種新穎的融合了反向更新和雙層異步并行的垂直聯(lián)邦學(xué)習(xí)框架(VFB2)，以及在此框架下的VFB2-SGD，VFB2-SVRG和VFB2-SAGA三種新算法，助力多方協(xié)同訓(xùn)練模型并且不泄漏數(shù)據(jù)隱私，并在一定程度上破解垂直聯(lián)邦學(xué)習(xí)算法不夠高效的難點(diǎn)。
基于反向更新的雙層異步安全垂直聯(lián)邦學(xué)習(xí)
《On the Convergence of Communication-Efficient Local SGD for Federated Learning聯(lián)邦學(xué)習(xí)中高效通信的本地隨機(jī)梯度算法的收斂性分析》，在聯(lián)邦學(xué)習(xí)最經(jīng)常使用的模型訓(xùn)練算法“本地隨機(jī)梯度”之外，提出一種新的高效通信分布式隨機(jī)梯度算法，可以通過(guò)錯(cuò)誤補(bǔ)償雙重壓縮機(jī)制，解決在聯(lián)邦學(xué)習(xí)大規(guī)模模型有效訓(xùn)練中通信開(kāi)銷較大的難題，顯著降低通信成本。
以時(shí)空AI打造智能城市操作系統(tǒng) 助力民生與產(chǎn)業(yè)發(fā)展
而在城市管理中，如何精準(zhǔn)預(yù)測(cè)城市交通流量峰值、智能監(jiān)管�；啡鞒�、“領(lǐng)導(dǎo)駕駛艙”實(shí)時(shí)查看城市運(yùn)行全貌，這些背后支撐的都是智能城市領(lǐng)域的一系列領(lǐng)先技術(shù)。京東數(shù)科核心聚焦“時(shí)空AI”技術(shù)，此次也有論文入選AAAI 2021。如《Traffic Flow Forecasting with Spatial-Temporal Graph Diffusion Network基于時(shí)空?qǐng)D擴(kuò)散模型的交通流量預(yù)測(cè)》，設(shè)計(jì)了一種基于異構(gòu)圖神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)模型， 分別從時(shí)間和空間上對(duì)不同區(qū)域的流量信息進(jìn)行建模。相較于現(xiàn)有僅考慮局部空間關(guān)系的流量預(yù)測(cè)算法有一定優(yōu)越性， 可以實(shí)現(xiàn)整個(gè)城市不同區(qū)域更加精確的預(yù)測(cè)結(jié)果。
此外，《Robust Spatio-Temporal Purchase Prediction via Deep Meta Learning基于深度元學(xué)習(xí)的魯棒時(shí)空銷量預(yù)測(cè)》，提出了時(shí)空元學(xué)習(xí)預(yù)測(cè)(STMP)模型，用于零售行業(yè)在購(gòu)物節(jié)期間的銷量預(yù)測(cè)。STMP是基于元學(xué)習(xí)的時(shí)空多任務(wù)深度生成模型，采用具有少量學(xué)習(xí)能力的元學(xué)習(xí)框架來(lái)捕獲銷量數(shù)據(jù)的時(shí)空表示。然后，生成模塊使用提取的時(shí)空表示和當(dāng)前的銷量數(shù)據(jù)來(lái)推斷預(yù)測(cè)結(jié)果，從而助力商家基于爆發(fā)式銷量的預(yù)測(cè)提前做好充分準(zhǔn)備。
值得注意的是，京東數(shù)科推出的智能城市操作系統(tǒng)，作為政府?dāng)?shù)字化服務(wù)的數(shù)字基石和技術(shù)底座，實(shí)際上包含了時(shí)空數(shù)據(jù)引擎、以時(shí)空AI為核心的時(shí)空智能引擎、基于聯(lián)邦學(xué)習(xí)的數(shù)字網(wǎng)關(guān)技術(shù)以及莫奈可視化平臺(tái)等諸多前沿科技，可以讓城市中海量數(shù)據(jù)高效、安全“對(duì)話”，AI算法模塊化輸出。以“時(shí)空大數(shù)據(jù)引擎”為例，“智能城市操作系統(tǒng)”的實(shí)現(xiàn)處理速度相比傳統(tǒng)數(shù)據(jù)平臺(tái)要快10100倍，并且還不斷迭代；依托時(shí)空智能引擎，以前一個(gè)20人團(tuán)隊(duì)做空氣質(zhì)量分析和預(yù)測(cè)AI模型開(kāi)發(fā)需要花費(fèi)兩年時(shí)間�，F(xiàn)在，“智能城市操作系統(tǒng)”只需要一個(gè)人花兩天時(shí)間即可完成，極大降低了人工智能開(kāi)發(fā)成本，加快AI落地的步伐。
在一系列技術(shù)領(lǐng)先應(yīng)用下，京東數(shù)科的智能城市操作系統(tǒng)在雄安落地為塊數(shù)據(jù)平臺(tái)，成為雄安新區(qū)城市大數(shù)據(jù)資源中心的實(shí)際載體；基于京東數(shù)科“智能城市操作系統(tǒng)”，江蘇省南通市也建成了全國(guó)首個(gè)市域治理現(xiàn)代化指揮中心，匯聚南通市75個(gè)部門數(shù)十億量級(jí)的數(shù)據(jù)。全南通市交通運(yùn)行、公共安全、環(huán)境污染等情況都在一張大屏幕上實(shí)時(shí)呈現(xiàn)，從而實(shí)現(xiàn)一屏統(tǒng)覽。
序列推薦、社交推薦讓營(yíng)銷服務(wù)更精準(zhǔn)
如何基于用戶已有的行為標(biāo)簽，為其推薦真正需要的商品智能化服務(wù)，進(jìn)行千人千面的智能營(yíng)銷？這背后則是推薦算法。京東數(shù)科此次圍繞推薦方向亦有論文入選AAAI 2021。
現(xiàn)有基于會(huì)話的序列推薦算法目前被廣泛應(yīng)用，但它僅僅只是考慮了每個(gè)會(huì)話內(nèi)商品的點(diǎn)擊轉(zhuǎn)換模式，忽略了不同會(huì)話間商品的潛在關(guān)聯(lián)性。為了解決現(xiàn)在算法的缺陷，論文《Graph-Enhanced Multi-Task Learning of Multi-Level Transition Dynamics for Session-based Recommendation基于圖模式增強(qiáng)多任務(wù)學(xué)習(xí)的會(huì)話序列推薦系統(tǒng)》提出了一種基于圖模式增強(qiáng)多任務(wù)學(xué)習(xí)的框架，運(yùn)用異構(gòu)的注意力機(jī)制對(duì)每個(gè)會(huì)話內(nèi)的商品轉(zhuǎn)換模式進(jìn)行學(xué)習(xí)，來(lái)實(shí)現(xiàn)基于會(huì)話的序列推薦；還引入了跨越不同會(huì)話的圖學(xué)習(xí)模型，在商品的表征學(xué)習(xí)中增加了其全局關(guān)系的建模，因此可以實(shí)現(xiàn)對(duì)商品的短期以及長(zhǎng)期序列關(guān)系同時(shí)進(jìn)行學(xué)習(xí)。
基于圖模式增強(qiáng)多任務(wù)學(xué)習(xí)的會(huì)話序列推薦系統(tǒng)
論文《Knowledge-aware Coupled Graph Neural Network for Social Recommendation基于知識(shí)關(guān)系的聯(lián)結(jié)圖神經(jīng)網(wǎng)絡(luò)的社交推薦系統(tǒng)》則是在社交推薦場(chǎng)景中引入商品的關(guān)系，并提出了一種基于知識(shí)關(guān)系的聯(lián)結(jié)圖神經(jīng)網(wǎng)絡(luò)模型，從而學(xué)習(xí)到更加精確的用戶偏好，可以在一定程度上緩解稀疏用戶在推薦中帶來(lái)的影響，以增強(qiáng)推薦模型的魯棒性。
此外，在風(fēng)控領(lǐng)域京東數(shù)科也有論文入選，《The Causal Learning of Retail Delinquency消費(fèi)違約場(chǎng)景的因果學(xué)習(xí)》探討了額度對(duì)用戶風(fēng)險(xiǎn)的因果效應(yīng)方法，通過(guò)前沿的雙重機(jī)器學(xué)習(xí)，克服了現(xiàn)有數(shù)據(jù)中的“幸存者偏差”問(wèn)題，構(gòu)造出能夠反映“策略風(fēng)險(xiǎn)”因果關(guān)系的無(wú)偏估計(jì)量，促進(jìn)風(fēng)險(xiǎn)管理與機(jī)器學(xué)習(xí)理論更深地結(jié)合，幫助信貸機(jī)構(gòu)制定更科學(xué)的授信策略。
此次16篇論文入選AAAI 2021，是京東數(shù)科技術(shù)實(shí)力集中爆發(fā)的一大例證。事實(shí)上，截至2021年1月，京東數(shù)科在AAAI、IJCAI、CVPR、KDD、NeurIPS、ICML等國(guó)際AI頂級(jí)會(huì)議上共發(fā)表相關(guān)論文近150篇，在機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺(jué)、語(yǔ)音與自然語(yǔ)言處理等領(lǐng)域均取得世界級(jí)研究突破。此外，京東數(shù)科還持續(xù)加大對(duì)技術(shù)研發(fā)的投入力度，目前公司研發(fā)及專業(yè)人員占比近70%，2020年上半年公司用于技術(shù)研發(fā)的投入占比接近16%，該比例已與國(guó)際互聯(lián)網(wǎng)科技巨頭持平甚至更高。
未來(lái)，京東數(shù)科還將繼續(xù)沿著以AI推動(dòng)產(chǎn)業(yè)數(shù)字化的方向，在國(guó)際頂尖研發(fā)領(lǐng)域不斷探索突破，打好堅(jiān)實(shí)的科技基礎(chǔ)，以科技(Technology)+產(chǎn)業(yè)(Industry)+生態(tài)(Ecosystem)為客戶提供全方位數(shù)字服務(wù)，與實(shí)體產(chǎn)業(yè)共進(jìn)。
