caffe 训练模型 loss为很小的数字且呈现周期性现象的原因（shuffle参数的作用）_强化学习loss呈周期性

作者：从前慢现在也慢 | 2024-02-23 03:30:01

踩

强化学习loss呈周期性

最近在用caffe训练自己的SSD模型，结果发现loss会跳到一个几乎为0的数字，然后又会跳出来，之后一直出现周期性的现象，如图：

找了很多的原因，没在网上找到相同的问题，倒是有人提到产生数据集要采用shuffle参数，我自己也知道这个参数，但是没太在意。最终发现在生成数据集的时候，只要加上shuffle参数就可以了。

后来自己也思考了一下原因，可能是没有shuffle的情况下，连续几个batchsize内的数据高度的相似，导致训练梯度过小产生的问题。通过计算，发现一个epoch的周期刚好为880，跟loss表现出来的周期一致，更加确认了这个猜想。现在终于正常了。

本文内容由网友自发贡献，转载请注明出处：https://www.wpsshop.cn/w/从前慢现在也慢/article/detail/133354

caffe 训练模型 loss为很小的数字 且呈现周期性现象 的原因 （shuffle参数的作用）_强化学习loss呈周期性