一、简化前馈网络LeNet
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 |
|
二、优化器基本使用方法
- 建立优化器实例
- 循环:
- 清空梯度
- 向前传播
- 计算Loss
- 反向传播
- 更新参数
1 2 3 4 5 6 7 8 9 10 11 |
|
三、网络模块参数定制
为不同的子网络参数不同的学习率,finetune常用,使分类器学习率参数更高,学习速度更快(理论上)。
1.经由构建网络时划分好的模组进行学习率设定,
1 2 3 |
|
2.以网络层对象为单位进行分组,并设定学习率
1 2 3 4 5 6 7 8 9 10 |
|
四、在训练中动态的调整学习率
1 2 3 4 5 6 7 8 9 |
|
可以看到optimizer.param_groups结构,[{‘params‘,‘lr‘, ‘momentum‘, ‘dampening‘, ‘weight_decay‘, ‘nesterov‘},{……}],集合了优化器的各项参数。
原文地址:https://www.cnblogs.com/ranjiewen/p/9240512.html