简析阿里 BST: 当用户行为序列邂逅Transformer
本文介绍 阿里搜索推荐团队 2019年 发布在 arXiv 上的文章《Behavior Sequence Transformer for E-commerce Recommendation in Alibaba》。文中提出BST模型，利用近年因 Transformer 而备受关注的 Multi-head Self-at…
AutoInt：基于Multi-Head Self-Attention构造高阶特征
本文介绍 2018年 发布在 arXiv 上文章《AutoInt: Automatic Feature Interaction Learning via Self-Attentive Neural Networks》（补：后发表在CIKM‘2019）。在之前的专栏文章中，我们介绍过 Deep&Cross 和xD…
xDeepFM：名副其实的 ”Deep” Factorization Machine
今天介绍 中科大、北大 与 微软 合作发表在 KDD’18 的文章《xDeepFM: Combining Explicit and Implicit Feature Interactions for Recommender Systems》。Paper写得很流畅，还清晰梳理了FNN / PNN / Wide&D…
阿里CVR预估模型之ESMM
本文介绍 阿里妈妈团队 发表在 SIGIR’2018 的论文《Entire Space Multi-Task Model: An Effective Approach for Estimating Post-Click Conversion Rate》。文章基于 Multi-Task Learning 的思路，提出一种新…
速览 DeepFM: 使用 FM 取代 Wide & Deep 中的 LR
本文介绍 华为诺亚方舟Lab 与 哈工大 发表在 IJCAI 2017 的论文《DeepFM: A Factorization-Machine based Neural Network for CTR Prediction》。DeepFM结构非常简单，在Wide & Deep结构框架基础上，使用 FM 取代Wi…
详解 PNN: 在NN中显式引入Product
本文介绍 上交大 和 UCL 联合发表在 ICDM 2016 的论文《Product-based Neural Networks for User Response Prediction》。该论文提出PNN结构应用于CTR预估，相比Embedding+MLP的传统结构，PNN在embedding层后设计了Product…
详解 KDD'2018 best paper—Embedding在Airbnb房源排序中的应用
本文介绍 Airbnb 发表在 KDD 2018 的论文《Real-time Personalization using Embeddings for Search Ranking at Airbnb》。该文获得了 KDD 2018 Applied Data Science Track 的 Best Paper，主要介…
揭秘 Deep & Cross : 如何自动构造高阶交叉特征
本文介绍斯坦福与Google联合发表在AdKDD 2017上的论文《Deep & Cross Network for Ad Click Predictions》。这篇论文是Google 对 Wide & Deep工作的一个后续研究，文中提出 Deep & Cross Network，将Wide部…
详解 Deep Interest Network: 为阿里创造更多广告收入
本文介绍 阿里妈妈 算法团队发表在 KDD 2018 上的文章《Deep Interest Network for Click-Through Rate Prediction》，其相关工作的初版早在 2017 就已在arXiv上发表。本文会结合论文从预发表到正式发表的4个版本综合进行介绍。 点击率预估模型在广告等业务场景…
详解 Wide & Deep 结构背后的动机
本文介绍 Google 发表在 DLRS 2016 上的文章《Wide & Deep Learning for Recommender System》。Wide & Deep 模型的核心思想是结合线性模型的记忆能力和 DNN 模型的泛化能力，从而提升整体模型性能。Wide & Deep 已成功应…