logistic regression 最基础的分类算法

介绍

logistic regression是一种最基本的分类算法。它的模型为，其中。

 

其代价函数。

对于二分类问题，y的取值为0和1，这里，我们设定为y=1概率。当其大于等于0.5时，我们预测结果为1，当其小于0.5时，我们预测结果为0。

 

使用梯度下降算法

迭代公式：其中。推导过程见下图。

 

 

 

矢量化表达：。