Python线性回归算法【解析解，sklearn机器学习库】

一.概述

　　参考博客：https://www.cnblogs.com/yszd/p/8529704.html

二.代码实现【解析解】

import numpy as np
import matplotlib.pyplot as plt

__author__ = 'zhen'

# 这里相当于是随机X维度X1，rand是随机均匀分布
X = 2 * np.random.rand(100, 1)
# 人为的设置真实的Y一列，np.random.randn(100, 1)是设置error，randn是标准正太分布
y = 3 + 6 * X + np.random.randn(100, 1)
# 整合X0和X1
X_b = np.c_[np.ones((100, 1)), X] #combine聚合两数据集
# print(X_b)

# 常规等式求解theta
# invert
theta_best = np.linalg.inv(X_b.T.dot(X_b)).dot(X_b.T).dot(y)
print(theta_best)

# 创建测试集里面的X1
X_new = np.array([[0], [2]]) 
X_new_b = np.c_[(np.ones((2, 1))), X_new]
print(X_new_b)
y_predict = X_new_b.dot(theta_best)
print(y_predict)

plt.plot(X_new, y_predict, 'r-')
plt.plot(X, y, 'b.')
plt.axis([0, 2, 0, 15])
plt.show()

三.结果【解析解】

 　　

　　可视化：

　　

 四.代码实现【sklearn机器学习库】

import numpy as np
import matplotlib.pyplot as plt
from sklearn.linear_model import LinearRegression

__author__ = 'zhen'

X = 2 * np.random.rand(100, 1)
y = 3 + 6 * X + np.random.randn(100, 1)

lin_reg = LinearRegression()
lin_reg.fit(X, y)
print(lin_reg.intercept_, lin_reg.coef_)

X_new = np.array([[0], [2]])
y_predict = lin_reg.predict(X_new)
print(y_predict)

# 可视化
plt.plot(X_new, y_predict, 'r-')
plt.plot(X, y, 'b.')
plt.axis([0, 2, 0, 15])
plt.show()

五.结果【sklearn机器学习库】

 　　

 　　可视化：

　　

 六.总结

　　根据图示可以得出结论，使用解析解或者是sklearn机器学习库都可以得到大致的结论，所花费时间和达到的效率都比较类似。但这仅限于一元线性回归，当参数类别增加时，使用解析解会大大增加程序复杂程度和计算耗能，因此建议多使用sklearn库，并根据情况进行参数配置和优化。