一、

1.多元线性回归

具有多个输入特征的线性回归模型

2.向量化

使代码更加简洁，更容易编写，也更容易阅读，同时使代码运行速度更快。

3.向量化的实现：

4.多重线性回归梯度下降算法：

5.正规方程方法

一种只适用于线性回归算法，几乎不适用于本专业中的其他算法，不需要迭代梯度下降算法，它是通过使用高级线性代数库一次性求解w和b，无需迭代，缺点是不能推广到其他学习算法，且不适用于大量的n。

6.使梯度下降函数工作得更好的技术

特征缩放技术，当有不同特征取值范围差异很大时，可能会导致梯度下降运行缓慢，但是通过参数重新缩放不同的特征，使得它们都取值在可比范围内，可以显著加大梯度下降的运行速度。

7.特征缩放的实现

（1）除以最大值

（2）均值归一化：

（3）Z分数归一化：

8.检查梯度下降是否收敛：

（1）查看图标，横轴表示迭代次数，纵轴表示代价，当代价随着迭代次数基本无变化时，收敛。

（2）自动收敛测试：

9.选择合适的学习率：

通过下图每次调整α的大小如果梯度下降不起作用，就用一个较小的α来看看是否会导致代价在每次迭代中下降，如果α非常小也没有是j每次迭代下降，而是有时大有时小，那就是代码有问题。

10.多项式回归算法

多项式回归：多元线性回归和特征工程的思想结合起来，可以将曲线、非线性函数拟合到数据中。