机器学习有监督学习以及无监督学习

监督学习:分类与回归等(监督学习的关键特征是你给学习算法提供学习的例子)

无监督学习:聚类、异常检测和降维算法等(可以根据学习的结果进行分类)

损失函数 :f(w) 与 j(w),要找到使j(w)是最小值的w和b

梯度下降 (同步更新w和b,找到适合的最小值点)

公式中的阿法(a)是学习率:控制在更新模型参数w和b所采取的步长

学习率:学习率的大小影响找到最小点的次数。

学习率过小,可能就需要运算很多步到达。梯度下降次数多

学习率过大,可能就会错过最小值点,造成更大的误差。梯度下降会超过最小值点,甚至永远到达不了

局部最小值问题,学习率不变,但是偏导数值为0,故新得到的w值与旧的w值保持一直,不会变化,则会认为此时为最小值点(局部)

Logo

码道开发者社区,聚焦华为云码道 CodeArts 代码智能体,沉淀 Agent、Skill、鸿蒙开发实战内容,供开发者查阅资料、交流技术、分享工程实践

更多推荐