正规方程（Normal Equation）_正规化方程

在线性回归的梯度下降法当中，求损失函数J(θ)中θ的最优解是根据损失函数的斜率（梯度）来判断J(θ)是否收敛，需要多次迭代。
在某些情况中可以使用正规方程直接求θ的最优解。
正规方程的优缺点：
优点：
1.不需要指定学习速率α
2.不需要进行多次迭代
缺点：
1.由于正规方程需要求解(X^TX)^-1，所以当n很大（n>10000）时进行计算的速度会很慢。
2.正规方程只适用于线性方程求解，适用范围窄。
而梯度下降法对n很大的情况也能很好的进行计算。

参考文章：
https://blog.csdn.net/melon__/article/details/80589759