- 代码下载: ☕autograd
任务名称：
学习率调整；TensorBoard简介与安装
任务简介：
熟悉pytorch的学习率调整策略；安装可视化工具TensorBoard
详细说明：
本节第一部分讲解pytorch中提供的学习率调整策略，首先介绍基类_LRScheduler基本属性与方法，然后逐个学习率方法进行讲解使用，分别Step、MultiStep、Exponential、CosineAnnealing、ReduceLROnPleateau和Lambda，一共六种学习率调整策略；
本节第二部分讲解可视化工具TensorBoard的运行机制与安装过程，TensorBoard是强大的可视化工具，起初为TensorFlow的副产品，但目前PyTorch已支持TensorBoard的使用。目前，TensorBoard支持Scalars, Images, Audio, Graphs, Distrbutions, Histograms, Embeddings, Text等数据的可视化。
作业名称（详解）：
- 熟悉TensorBoard的运行机制，安装TensorBoard，并绘制曲线 y = 2*x。
任务名称：
TensorBoard使用(一)；TensorBoard使用(二)；
任务简介：
学习TensorBoard中scalar与histogram的使用；学习TensorBoard中Image与PyTorch的make_grid使用。
详细说明：
本节第一部分学习TensorBoard的SummaryWriter类的基本属性，然后学习add_scalar, add_scalars和add_histogram的使用，最后采用所学函数实现模型训练过程中的Loss曲线，Accuracy曲线的对比监控，同时对参数及其梯度的分布进行可视化。
本节第二部分学习TensorBoard的add_image方法，并学习PyTorch的make_grid函数构建网格图片，对批量图片进行可视化，最后采用所学函数对AlexNet网络卷积核与特征图进行可视化分析。
作业名称（详解）：
-
可视化任意网络模型训练的Loss，及Accuracy曲线图，Train与Valid必须在同一个图中。
-
采用make_grid，对任意图像训练输入数据进行批量可视化。
任务名称：
hook函数与CAM(class activation map, 类激活图)
任务简介：
学习pytorch的hook函数机制以及CAM可视化算法
详细说明： 深入学习了解pytorch的hook函数运行机制，介绍pytorch中提供的4种hook函数，分别为：
- torch.Tensor.register_hook(hook)
- torch.nn.Module.register_forward_hook
- torch.nn.Module.register_forward_pre_hook
- torch.nn.Module.register_backward_hook 最后，介绍CAM可视化及其改进算法Grad-CAM
作业名称（详解）：
- 采用torch.nn.Module.register_forward_hook机制实现AlexNet第一个卷积层输出特征图的可视化，并将/torchvision/models/alexnet.py中第28行改为：nn.ReLU(inplace=False)，观察inplace=True与inplace=False的差异。