DeepFM- A Factorization-Machine based Neural Network for CTR Prediction

再来看一篇。。有点累了都。。这篇文章是一篇FM和DL的结合,2017年的文章,这篇文章读起来就给人感觉比较符合当前的主流想法了。

模型的主要结构如下图所示

1

与谷歌之前wide & deep的model不同的是,DeepFM的输入层共享同样的embedding,模型也分为两部分,FM和Deep。

FM部分的结构如下图所示

2

就是一个FM模型 \[ y_{\text{FM}}=\langle w,x\rangle+\sum^d_{i=1}\sum^d_{j=i+1}\langle V_i,V_j\rangle x_i\cdot x_j \] 用来抓住一阶和二阶的特征。

Deep部分如图所示

3

总的来说就是去用NN学习非线性特征,并做了embedding。

作者在后面还做了和其他几种基于DL的模型的对比

4
5