目录
过拟合、欠拟合及其解决方案
训练误差和泛化误差
过拟合和欠拟合的概念
模型复杂度和误差之间的关系
解决过拟合的方案
梯度消失及梯度爆炸
循环神经网络进阶
GRU
LSTM
深度神经网络
过拟合、欠拟合及其解决方案
训练误差和泛化误差
在解释上述现象之前,我们需要区分训练误差(training error)和泛化误差(generalization error)。通俗来讲,前者指模型在训练数据集上表现出的误差,后者指模型在任意一个测试数据样本上表现出的误差的期望,并常常通过测试数据集上的误差来近似。计算训练误差和泛化误差可以使用之前介绍过的损失函数,例如线性回归用到的平方损失函
1