Factorization Machines

FM模型：

• 公式：2-way FMs (d=2)

 1） w_0是全局bias；

2）w_i描述特征x_i的强度；

3）w_i_j描述了特征x_i与x_j之间的关联；

• 参数估计：
• 计算复杂度： O(kn^n)  --> O(kn)
• 模型训练：梯度下降

 

• 延伸：d-way FM

 FM与SVM的关系：

优点：

• 对svm无法进行的稀疏数据进行参数估计；
• FMs具有线性时间复杂度，处理海量数据；
• 属于通用预测器，可用于实值特征向量；