0
损失越低,模型越好(除非该模型已经过度拟合训练数据)。损失是通过训练和验证计算得出的,它的作用是衡量模型的这两组性能有多好。与准确性不同,损失不是百分比。它是对训练或验证集中每个示例所犯错误的总和。
在神经网络的情况下,损失通常分别为负对数似然率和分别用于分类和回归的残差平方和。那么自然地,学习模型的主要目标是通过不同的优化方法(例如神经网络的反向传播)来更改权重向量值,从而相对于模型的参数来减少(最小化)损失函数的值。
损失值表示在每次优化迭代后某个模型的表现好坏。理想情况下,可以期望在每次或多次迭代后减少损失。
通常在学习并固定了模型参数并且没有进行学习之后,才能确定模型的准确性。然后,在与真实目标进行比较之后,将测试样本输入模型,并记录模型产生的错误数(零一损失)。然后计算错误分类的百分比。
例如,如果测试样本的数量为1000,并且模型正确分类了952个样本,则模型的准确性为95.2%。 在降低损失值的同时,还有些微妙之处。例如,你可能会遇到过拟合的问题,在该问题中,模型“记忆”了训练示例,并且对测试集无效。如果不使用正则化,模型非常复杂(可用参数W的数量很大)或数据点的数量N很低,也会发生过度拟合。
收藏