深度学习中的Epoch, Batch, Iteration


一些深度学习基本概念 

  • Epoch(时期):
  • 当一个完整的数据集通过了神经网络一次并且返回了一次,这个过程称为一次>epoch。(也就是说,所有训练样本在神经网络中 进行了一次正向传播一次反向传播
    再通俗一点,一个Epoch就是将所有训练样本训练一次的过程。

然而,当一个Epoch的样本(也就是所有的训练样本)数量可能太过庞大(对于计算机而言),就需要把它分成多个小块,也就是就是分成多个Batch 来进行训练。**

  • Batch(批 / 一批样本):
    将整个训练样本分成若干个Batch。

  • Batch_Size(批大小):
    每批样本的大小。

  • Iteration(一次迭代):
    训练完一个Batch就是一次Iteration。

参考:https://www.jianshu.com/p/22c50ded4cf7

相关