深度学习系列讲义
三篇连续讲清深度学习的实践基础：先掌握数学与 PyTorch 工具，再进入卷积视觉，最后学习序列模型与自然语言处理。
数学与 PyTorch 工具
张量、自动求导、神经网络模块：搭建模型之前需要掌握的基础工具。
-
01
为什么学习 PyTorch
深度学习框架的重要性、PyTorch 核心特点、张量概念与学习路线。
-
02
张量的创建与基本操作
torch.tensor、randn、zeros、ones、arange、linspace，理解标量/向量/矩阵/高维张量。
-
03
张量的属性
shape、dtype、device 三大核心属性，CPU/GPU 设备迁移与类型转换。
-
04
张量的操作与变换
矩阵乘法、reshape/view/squeeze、张量拼接（cat/stack）与数值提取。
-
05
自动求导机制
requires_grad、backward、计算图、梯度累积、no_grad、detach 与梯度下降实战。
-
06
神经网络基础模块
nn.Linear、激活函数、损失函数、优化器，用 nn.Module 和 nn.Sequential 搭建网络。
-
07
常见错误与习题
PyTorch 典型报错解决、总结回顾与自测习题。
卷积与视觉
从卷积核、池化和数据增强出发，走到经典 CNN、迁移学习与完整训练。
-
08
从零开始理解卷积
图像的像素表示、卷积的滑动窗口直觉、数学公式、常见卷积核、通道与特征图。
-
09
PyTorch 中的卷积操作
nn.Conv2d 详解、卷积参数（stride/padding/dilation/groups）、输出尺寸计算。
-
10
池化层与归一化
MaxPool2d、AvgPool2d、自适应池化、BatchNorm、Dropout、LayerNorm。
-
11
数据增强与数据集加载
transforms 系列变换、数据增强策略、ImageFolder、自定义 Dataset、DataLoader。
-
12
CNN 模型构建与迁移学习
LeNet、AlexNet、VGG、ResNet 实现，预训练模型、特征提取、微调与模型保存。
-
13
训练技巧与模型评估
学习率调度、早停、混合精度、GradCAM 可视化、常见错误与速查表。
序列与自然语言处理
从 RNN、LSTM 和 GRU 出发，学习语言模型、文本任务、Seq2Seq 与注意力。
-
14
RNN 基础概念与数学原理
序列数据的本质、RNN 核心思想、前向传播推导、BPTT 反向传播与梯度消失问题。
-
15
用 NumPy 手写 RNN
从公式到代码，用 NumPy 实现 RNN 前向传播，与 PyTorch nn.RNN 对比验证。
-
16
PyTorch 中的 RNN 实现
nn.RNN 参数详解、输入输出格式、多层与双向 RNN、隐藏状态管理。
-
17
LSTM 与 GRU
LSTM 门控机制与梯度高速公路、GRU 简化设计、手动实现与 PyTorch 对比。
-
18
字符级语言模型
语言模型的训练目标、困惑度、字符级 RNN 实现与温度采样文本生成。
-
19
文本处理与情感分析
分词与词汇表、词嵌入（Word2Vec）、预训练向量、BiLSTM 文本分类实战。
-
20
Seq2Seq 与注意力机制
编码器-解码器架构、Bahdanau 注意力、Teacher Forcing 与 Beam Search。
-
21
高级主题与 Transformer 过渡
训练技巧、时间序列预测、从 RNN 到 Transformer 的演进、常见错误与速查表。