深度学习基础概念

深度学习旨在通过数据自动学习输入到输出的映射函数 f，区别于传统人工智能的硬编码规则。其核心是通过大量数据和答案（标签）让模型自主归纳规律。

机器学习与深度学习的区别

• 传统机器学习：依赖数学统计方法（如KNN算法），基于距离度量进行预测，可解释性强但灵活性低。
• 深度学习：通过神经网络自动学习复杂特征，灵活性高但需大量数据支撑。

数据形式与任务类型

输入数据形式：

1. 向量：结构化数据（如身高、体重）。
2. 矩阵/张量：图像（RGB通道构成的张量）。
3. 序列：时序或关联数据（视频、文本）。

输出任务类型：

1. 回归：连续值预测（如温度预测）。
2. 分类：离散类别选择（如图像识别）。
3. 生成/结构化：复杂输出（如图像生成、多模态融合）。

回归与神经元原理

核心步骤：

1. 定义模型：线性函数 y = wx + b，通过权重 w 和偏差 b 调整预测。
2. 损失函数：衡量预测误差（如均方误差），是 w 和 b 的函数。
3. 优化方法：
   • 随机初始化 w₀ 和 b₀。
   • 计算损失对参数的偏导（梯度）。
   • 梯度下降更新参数：
     $$ w_{\text{new}} = w_{\text{old}} - \eta \frac{\partial \text{Loss}}{\partial w} $$
     其中 η 为学习率。

神经元与非线性：

• 单层神经元为线性组合，多层堆叠（如激活函数引入非线性）可拟合复杂映射。

项目学习路径

1. 回归项目：掌握基础模型（线性回归）和优化方法。
2. 图像项目：学习卷积神经网络（CNN）处理矩阵数据。
3. 文本分类：应用循环神经网络（RNN）或Transformer处理序列数据。
4. 生成/大模型：进阶到生成对抗网络（GAN）或大语言模型（LLM）。

注：分类与回归是基础任务，多模态需融合不同数据形式（如图像+文本）。