课程路线
建议按顺序学习。已经理解的部分可以快速通过自测;遇到形状、矩阵求导或广播问题时,先回到对应基础课。每个项目都明确区分教学实验和真实系统。
FOUNDATION
01张量与必要基础形状、轴、reshape、交换轴、广播与 NumPy 训练→
数学向量与矩阵求导梯度、雅可比、矩阵参数梯度和数值差分→
02模型怎样学习损失、梯度下降、反向传播与批次训练→
03判断模型是否有效数据划分、过拟合、指标、正则化与泄漏→
训练模型的基础
先理解数据的形状、参数如何影响损失,以及怎样判断模型是否真的有效。
MACHINE LEARNING
04常见机器学习方法决策树、森林、提升、K-means 与 PCA→
05表格数据项目预处理、交叉验证、基线、错误分析与报告→
机器学习全流程
认识常用方法,并完成一次从数据到报告的表格项目。
DEEP LEARNING
06PyTorch 基础Tensor、autograd、DataLoader、训练循环与保存→
07训练更可靠的神经网络激活、初始化、Adam、Dropout 与归一化→
08卷积神经网络卷积、通道、池化、感受野与数据增强→
09图像分类项目从头训练、迁移学习、混淆矩阵与误判分析→
深度学习实践
使用 CPU 版 PyTorch 训练、诊断并评估神经网络。
LANGUAGE MODELS
10文本与序列建模Token、Embedding、批次、RNN 与 LSTM→
11注意力机制Q/K/V、softmax、因果掩码与多头形状→
12Transformer残差、LayerNorm、前馈网络与逐字生成→
13大语言模型的训练与使用预训练、SFT、对齐、采样、幻觉与 RAG→
Transformer 与大语言模型
从 Token 和序列开始,逐步搭出注意力与小型 Transformer。
REINFORCEMENT LEARNING
14从预测走向决策状态、动作、奖励、回报、V/Q 与 Bellman→
15表格型强化学习价值迭代、MC、TD、Q-learning 与 SARSA→
16深度强化学习与 DQN经验回放、目标网络、探索与多种子评估→
17策略梯度与大语言模型对齐REINFORCE、优势、PPO、RLHF 与 DPO→
强化学习
先在小网格理解序列决策,再连接神经网络和语言模型对齐。
FINAL PROJECT
18构建知识问答系统切分、TF-IDF、余弦检索、上下文与来源引用→
知识问答项目
把前面的检索、模型边界和评估意识带进一个可核查的应用。
19评估与改进 待制作检索质量、回答质量、失败类型与改动对照
20整理毕业项目 待制作代码、说明、测试集、实验记录与已知局限
学习建议:先看图解和数字例子,再尝试交互演示,最后用自测检查理解。配套代码的运行方法见各节课件。