插座学院1. 项目概述
唐宇迪课程作为国内知名的AI教育品牌，其课程体系覆盖机器学习、深度学习、计算机视觉等前沿技术领域。这套学习笔记是我在系统学习过程中的知识沉淀，包含核心算法推导、代码实现细节和项目实战经验三大部分。
不同于普通课堂笔记的简单记录，这份文档的特点在于：
- 对公式进行了完整的数学推导过程还原
- 包含PyTorch/TensorFlow双框架实现对照
- 整理了20+个典型项目的调参经验
- 记录了模型部署时的工程化处理技巧
需要模型API调用？ 免费领10W Token，多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 课程知识体系解析
2.1 机器学习基础模块
该部分涵盖从线性回归到集成学习的完整知识链，特别需要注意：
- 梯度下降法的六种变体比较（标准GD、Momentum、Adam等）
- 决策树分裂时的信息增益计算陷阱
- SVM对偶问题的推导技巧
重点提示：理解核函数映射时，建议通过二维到三维的升维案例建立直观认知
2.2 深度学习核心内容
包含CNN/RNN/Transformer三大架构的底层实现原理：
- CNN中的感受野计算：采用递推公式
RF_{l} = (RF_{l-1}-1)*stride + kernel_size - LSTM的细胞状态更新流程可视化
- Self-Attention的矩阵运算时间复杂度分析
框架实现差异对比表：
| 功能点 | PyTorch实现方式 | TensorFlow实现方式 |
|---|---|---|
| 自定义层 | nn.Module继承 | keras.Layer继承 |
| 数据加载 | DataLoader+Dataset | tf.data.Dataset |
| 混合精度训练 | torch.cuda.amp | tf.train.experimental |
3. 实战项目关键要点
3.1 图像分类项目
在Kaggle猫狗分类比赛中总结的经验：
-
数据增强策略：
- 使用albumentations库实现动态裁剪
- 对医疗影像禁用随机翻转
- 色彩抖动幅度控制在0.2以内
-
模型微调技巧：
python复制# 分层学习率设置示例
optimizer = torch.optim.Adam([
{'params': model.backbone.parameters(), 'lr': 1e-4},
{'params': model.head.parameters(), 'lr': 1e-3}
])
3.2 目标检测实践
YOLOv5训练时的关键参数：
- 输入分辨率必须是32的倍数
- 初始学习率与batch size成正比
- 使用--rect参数可减少显存消耗20%
4. 工程化部署经验
4.1 模型优化技术
- ONNX导出时的算子兼容性检查清单
- TensorRT加速中的FP16量化精度损失测试
- 服务化部署时的请求批处理实现
4.2 性能调优记录
在边缘设备部署时发现：
- OpenVINO对INT8量化的支持最完善
- TVM对ARM架构的编译优化效果显著
- 模型剪枝超过30%准确率会急剧下降
5. 常见问题解决方案
5.1 训练过程问题
-
损失震荡：
- 检查学习率与batch size的匹配关系
- 尝试添加梯度裁剪
- 验证数据标注质量
-
过拟合处理：
- 在验证集上早停
- 尝试Label Smoothing
- 添加MixUp数据增强
5.2 部署阶段问题
- 显存不足时尝试梯度累积
- 遇到CUDA错误先检查驱动版本
- 多卡并行时注意BN层同步
这份笔记持续更新了8个月，累计整理代码示例200+个，记录异常case解决方案50余种。对于想系统掌握AI工程实践的学习者，建议重点关注模型调试和部署优化部分的内容，这些都是在实际工作中最能体现技术深度的环节。