(个人笔记)机器学习01次-吴恩达
·
机器学习有监督学习以及无监督学习
监督学习:分类与回归等(监督学习的关键特征是你给学习算法提供学习的例子)
无监督学习:聚类、异常检测和降维算法等(可以根据学习的结果进行分类)
损失函数 :f(w) 与 j(w),要找到使j(w)是最小值的w和b
梯度下降 (同步更新w和b,找到适合的最小值点)
公式中的阿法(a)是学习率:控制在更新模型参数w和b所采取的步长

学习率:学习率的大小影响找到最小点的次数。
学习率过小,可能就需要运算很多步到达。梯度下降次数多
学习率过大,可能就会错过最小值点,造成更大的误差。梯度下降会超过最小值点,甚至永远到达不了
局部最小值问题,学习率不变,但是偏导数值为0,故新得到的w值与旧的w值保持一直,不会变化,则会认为此时为最小值点(局部)
更多推荐





所有评论(0)