训练集与验证集损失分析 - YH.2HANG ' Blog

训练集与验证集损失分析

训练集损失下降 验证集损失下降 ——> 网络正在学习(理想状态)

训练集损失下降 验证集损失不变 ——> 网络过拟合(尝试dropout、L2等手段)

训练集损失不变 验证集损失下降 ——> 数据集有问题(检查数据集)

训练集损失不变 验证集损失不变 ——> 网络遇到学习瓶颈(减小learning rate或batch size)

训练集损失上升 验证集损失上升 ——> 网络结构设计不当、超参设置不当、数据集经过清洗等

打赏
评论区
头像