微博上近日流傳一個段子，“2020年曾是各大科幻片中遙遠的未來，但是現(xiàn)在離這個遙遠的未來也只有6個月時間了”。只是借此感慨一下2019年轉(zhuǎn)瞬之間半年的時間已經(jīng)過去了，目前深度學(xué)習(xí)火熱朝天，深度學(xué)習(xí)在推薦系統(tǒng)和CTR預(yù)估工業(yè)界的論文也是一篇接著一篇良莠不齊。

接下來主要總結(jié)一下2019年上半年工業(yè)界深度推薦系統(tǒng)與CTR預(yù)估上值得精讀的論文。個人整理難免遺漏，也歡迎各位同行朋友評論另外哪些想額外推薦精讀的論文。

1. Top-K Off-Policy Correction for a REINFORCE Recommender System, WSDM 2019, Google作者：Minmin Chen, Alex Beutel, Paul Covington, Sagar Jain, Francois Belletti, Ed Chi；論文：t.cn/EUus1wu；Keynote：t.cn/EJFyMBk；

位列首位的當屬Youtube推薦強化學(xué)習(xí)的兩篇論文。雖然強化學(xué)習(xí)目前在推薦系統(tǒng)和CTR預(yù)估領(lǐng)域工業(yè)界由于系統(tǒng)復(fù)雜、效果未有顯著提升等眾所周知的原因確實不夠成熟也尚未大規(guī)模應(yīng)用起來。但是Youtube推薦的這兩篇論文從某種程度上讓強化學(xué)習(xí)的應(yīng)用方向變得更明確了一些，而且作者在Industry Day上也宣稱線上實驗效果顯示這個是YouTube單個項目近兩年來最大的reward增長，也從某種程度上會激發(fā)各大公司的研究者們繼續(xù)跟進的興趣。

這是第一篇論文，提出了一種Top-K的Off-Policy修正方案將RL中Policy-Gradient類算法得以應(yīng)用在動作空間數(shù)以百萬計的Youtube在線推薦系統(tǒng)中。

2. Reinforcement Learning for Slate-based Recommender Systems: A Tractable Decomposition and Practical Methodology, IJCAI 2019, Google作者：Eugene Ie, Vihan Jain, Jing Wang, ..., Jim McFadden, Tushar Chandra, Craig Boutilier；論文：t.cn/AiKFHvYU；

這是Youtube推薦應(yīng)用強化學(xué)習(xí)的第二彈，主要貢獻是提出了一種名為SLATEQ的Q-Learning算法，優(yōu)化推薦系統(tǒng)里面同時展示給用戶多個item情況的長期收益LTV（Long-term Value），將長期收益加入排序多目標中進行建模優(yōu)化。重點在于與baseline使用的深度網(wǎng)絡(luò)和輸入特征都完全一樣。詳見：Youtube推薦已經(jīng)上線RL了，強化學(xué)習(xí)在推薦廣告工業(yè)界大規(guī)模應(yīng)用還遠嗎？

3. Deep Learning Recommendation Model for Personalization and Recommendation Systems作者：Maxim Naumov, Dheevatsa Mudigere, Hao-Jun Michael Shi,..., Bill Jia, Liang Xiong, Misha Smelyanskiy；論文：t.cn/Ai0rIUd0；代碼：t.cn/AiNGzCsY；解讀：t.cn/AiOX38PL；

FaceBook推薦最新論文，通過建模與系統(tǒng)協(xié)同設(shè)計提出一種butterfly-shuffle的機制來提升模型并行化，離線訓(xùn)練上在沒有任何超參調(diào)優(yōu)下收斂速度與準確率優(yōu)于DCN，并開源了代碼。

4. Feature Generation by Convolutional Neural Network for Click-Through Rate Prediction, WWW 2019, Huawei作者：Bin Liu, Ruiming Tang, Yingzhi Chen, Jinkai Yu, Huifeng Guo, Yuzhou Zhang；論文：t.cn/AipAFS3p；

華為 at WWW 2019，提出基于卷積神經(jīng)網(wǎng)絡(luò)的CTR特征生成方法FGCNN，包含特征生成和深度分類器兩部分，可以和任意CTR預(yù)估模型進行組合。

5. Deep Spatio-Temporal Neural Networks for Click-Through Rate Prediction, KDD 2019, Alibaba作者：Wentao Ouyang, Xiuwu Zhang, Li Li, Heng Zou, Xin Xing, Zhaojie Liu, Yanlong Du；論文：t.cn/Ai0jTY68；代碼：t.cn/Ai0jTY6u；

阿里 at KDD 2019，提出DSTN模型用于點擊率CTR預(yù)估，考慮更多空域與時域的輔助信息包括上下文展示過的ad以及歷史點擊/未點擊ad來更好地預(yù)測目標item的點擊率。從論文實驗數(shù)據(jù)看，效果大幅度超過DeepFM和GRU，并開源了代碼。

6. AutoInt: Automatic Feature Interaction Learning via Self-Attentive Neural Networks作者：Weiping Song, Chence Shi, Zhiping Xiao, Zhijian Duan, Yewen Xu, Ming Zhang, Jian Tang；論文：t.cn/AipG8aXz；代碼：t.cn/EI8Pnso；

最新的深度CTR預(yù)估模型AutoInt，通過過Multi-head注意力機制將特征投射到多個子空間中，并在不同的子空間中捕獲不同的特征組合形式，效果超過xDeepFM等達到最好。

7. Real-time Attention Based Look-alike Model for Recommender System, KDD 2019, Tencent作者：Yudan Liu, Kaikai Ge, Xu Zhang, Leyu Lin論文：t.cn/AiOaAg1Q；解讀：t.cn/AiOaAg1E；

騰訊 at KDD2019，微信看一看團隊對傳統(tǒng)Look-alike進行了改造，提出實時Look-alike算法RALM，解決推薦系統(tǒng)多樣性問題，效果好于YoutubeDNN。

8. Joint Optimization of Tree-based Index and Deep Model for Recommender Systems作者：Han Zhu, Daqing Chang, Ziru Xu, Pengye Zhang, Xiang Li, Jie He, Han Li, Jian Xu, Kun Gai；論文：t.cn/AiN5T8Ks；TDM論文：t.cn/RQ5MrSg；

還記得阿里 at KDD 2018的深度樹匹配召回模型TDM嗎？升級版JTM提出索引與模型同時優(yōu)化的方案，大幅提升召回效果。

9. A User-Centered Concept Mining System for Query and Document Understanding at Tencent, KDD 2019, Tencent作者：Bang Liu, Weidong Guo, Di Niu, Chaoyue Wang, Shunnan Xu, Jinghong Lin, Kunfeng Lai, Yu Xu論文：t.cn/Ai09Dxkd；解讀：t.cn/Ai09DxkB；數(shù)據(jù)資源：t.cn/Ai09Dxkr；

騰訊 at KDD2019，構(gòu)建了ConcepT概念挖掘標記系統(tǒng)，利用query搜索點擊日志從用戶視角提取不同的概念，以提高對短文本（query）和長文章（document）的理解，從而推動推薦，搜索等業(yè)務(wù)的提升。實驗證明，ConcepT在 QQ 瀏覽器信息流業(yè)務(wù)中性能優(yōu)異，曝光效率相對提升6.01%。

10. Deep Session Interest Network for Click-Through Rate Prediction, IJCAI 2019, Alibaba作者：Yufei Feng, Fuyu Lv, Weichen Shen, Menghan Wang, Fei Sun, Yu Zhu, Keping Yang；論文：t.cn/AiN9QZnV；代碼：t.cn/AiN9QZnV；

阿里 at IJCAI2019，考慮到不同用戶行為序列的session內(nèi)行為同構(gòu)與session之間行為異構(gòu)的特性提出了基于sesssion的CTR預(yù)估模型DSIN。使用self-attention機制抽取session內(nèi)用戶興趣，使用Bi-LSTM針對用戶跨session興趣進行建模。

11. Interaction-aware Factorization Machines for Recommender Systems, AAAI2019, Tencent作者：Fuxing Hong, Dongbo Huang, Ge Chen；論文：t.cn/Ai0WHak5；代碼：t.cn/Ai0WHakt；

騰訊 at AAAI2019，提出IFM通過特征以及特征組不同角度靈活學(xué)習(xí)特征間交互的重要性，并提出了通用的Interation-NN框架和DeepIFM來捕捉高階交互，效果優(yōu)于DeepFM并開源了代碼。

12. Multi-Interest Network with Dynamic Routing for Recommendation at Tmall作者：Chao Li, Zhiyuan Liu, Mengmeng Wu, ..., Qiwei Chen, Wei Li, Dik Lun Lee論文：t.cn/AiOao6I4；解讀：t.cn/AiOao6I4；

阿里天貓?zhí)岢鯩IND模型通過Dynamic Routing的方法從用戶行為和用戶屬性信息中動態(tài)學(xué)習(xí)出多個表示用戶興趣的向量，更好的捕捉用戶的多樣興趣，來提升召回的豐富度和準確度，效果好于YoutubeDNN。

13. Practice on Long Sequential User Behavior Modeling for Click-Through Rate Prediction, KDD 2019, Alibaba作者：Qi Pi, Weijie Bian, Guorui Zhou, Xiaoqiang Zhu, Kun Gai；論文：t.cn/AiN4s4oe；

阿里 at KDD2019，通過系統(tǒng)設(shè)計解決用戶超長行為歷史下CTR建模與在線預(yù)測性能瓶頸，效果好于GRU4Rec和DIEN。

14. Neural News Recommendation with Long- and Short-term User Representations, ACL 2019, Microsoft作者：Mingxiao An，F(xiàn)angzhao Wu，Chuhan Wu，Kun Zhang，Zheng Liu，Xing Xie；論文：t.cn/Ai029G81；

微軟 at ACL 2019，LSTUR用于在新聞推薦任務(wù)中同時學(xué)習(xí)用戶長期和短期的興趣表示。模型的整體結(jié)構(gòu)可分為新聞編碼器、用戶長期興趣和短期興趣模型、以及候選新聞的個性化分數(shù)預(yù)測模型，效果好于GRU4Rec。

15. Hierarchical Gating Networks for Sequential Recommendation, KDD 2019作者：Chen Ma, Peng Kang, Xue Liu；論文：t.cn/AipuFYkG；代碼：t.cn/AipuFYkb；

KDD2019，HGN提出通過feature與instance gating的多層級結(jié)構(gòu)結(jié)合BPR來更好的捕獲用戶的長短期興趣，效果好于GRU4Rec以及NextItRec。

16. Behavior Sequence Transformer for E-commerce Recommendation in Alibaba, KDD 2019, Alibaba作者：Qiwei Chen, Huan Zhao, Wei Li, Pipei Huang, Wenwu Ou論文：t.cn/Ai9JgWoJ；解讀：t.cn/AiKBda4q

阿里巴巴搜索推薦事業(yè)部的新研究，首次使用強大的 Transformer 模型捕獲用戶行為序列的序列信號，供電子商務(wù)場景的推薦系統(tǒng)使用。原有DIN 提出使用注意力機制來捕獲候選項與用戶先前點擊商品之間的相似性，但未考慮用戶行為序列背后的序列性質(zhì)。離線實驗和在線 A/B 測試表明，BST 與現(xiàn)有方法相比有明顯優(yōu)勢。目前 BST 已經(jīng)部署在淘寶推薦的 rank 階段，每天為數(shù)億消費者提供推薦服務(wù)[2]。

17. Operation-aware Neural Networks for User Response Prediction作者：Yi Yang, Baile Xu, Furao Shen, Jian Zhao；論文：t.cn/AiO2Dp5k；代碼：t.cn/Ev4H3Jm；

深度CTR預(yù)估新積木：PNN + FFM - FM = ONN模型，效果好于DeepFM和PNN。

18. BERT4Rec: Sequential Recommendation with Bidirectional Encoder Representations from Transformer, Alibaba作者：Fei Sun, Jun Liu, Jian Wu, Changhua Pei, Xiao Lin, Wenwu Ou, Peng Jiang；論文：t.cn/AiNqPitA；

Transformer引入推薦系統(tǒng)工業(yè)界，利用用戶歷史點擊序列預(yù)測下一個點擊item，效果超過GRU4Rec。

19. A Capsule Network for Recommendation and Explaining What You Like and Dislike, SIGIR2019, Alibaba作者：henliang Li, Cong Quan, Li Peng, Yunwei Qi, Yuming Deng, Libing Wu；論文：t.cn/AiOLWp6x；

阿里 at SIGIR2019，膠囊神經(jīng)網(wǎng)絡(luò)應(yīng)用于推薦提出CARP模型來從評論中更好地建模用戶對商品的喜好程度，效果好于最新的ANR等。

20. Representation Learning-Assisted Click-Through Rate Prediction, IJCAI 2019, Alibaba作者：Wentao Ouyang, Xiuwu Zhang, Shukui Ren, Chao Qi, Zhaojie Liu, Yanlong Du；論文：t.cn/Ai0jcGIZ；代碼：t.cn/Ai0jcGIw；

阿里 at IJCAI2019，提出DeepMCP模型通過匹配、關(guān)聯(lián)、預(yù)測三個子模塊更好地建模用戶-ad，ad之間以及特征-CTR關(guān)系，效果優(yōu)于DeepFM并開源了代碼。