线性回归用于回归,逻辑回归用于分类
逻辑回归是在线性回归的基础上进行的,所以一般面试回问逻辑回归
LR是逻辑回归,虽然两者缩写都是LR
1.线性回归
参数是θ,解线性矩阵方程不好解或者可能没有解,所以求参数化为解最小误差,由于是回归,所以误差用均方误差来衡量:
这个问题可以用最小二乘法或者梯度下降法求解
2.逻辑回归
逻辑回归用逻辑回归函数映射了线性回归,逻辑回归函数:
把线性回归的结果作为t带入上面函数,就是逻辑回归函数
求解参数和线性回归一样,求解最小误差,不过这里是分类问题,所以用的是0/1损失函数来衡量:
可以用梯度下降法求解