TF02——感受野


TF02——感受野

  • 感受野(Receptive Field):卷积神经网络各输出特征图的每个像素点,在原始输入图片上映射区域的大小

image-20220319204126124

如果对上面这个5*5的原始输入图片,用黄色的3*3卷积核作用,会输出这样一个3*3的输出特征图,这个输出特征图上的每一个像素点,映射到原始图片时3*3的区域,所以他的感受野是3

如果再对这个3*3的特征图,用这个绿色的3*3卷积核作用,会输出一个1*1的输出特征图,这个输出特征上的像素点,映射到原始图片上是5*5的区域,所以它的感受野是5

如果对这个5*5的输入图片,直接用蓝色的5*5卷积核作用,会输出一个1*1的输出特征图,这个像素点映射到原始输入图片是5*5的区域,所以它的感受野也是5

同样一个5*5的原始图片,经过两层3*3的卷积核作用,和经过一层5*5的卷积核作用,都得到一个感受野是5的输出特征图,所以这两层3*3的卷积核和一层5*5的卷积核的特征提取能力是一样的

是两层3*3的卷积核和一层5*5的卷积核选择哪一个更好那?

这时就要考虑,他们要承载的待训练参数量计算量

对于两层3*3的卷积核来说,待训练参数共有18个,对于一层5*5的卷积核计算带训练参数共有25个

假设输入特征宽和高都是x,卷积计算步长是1

  • 每个3*3*1的卷积核,计算得到一个像素点,需要9次乘加计算,两层3*3卷积核,共需要

\[18 x^{2}-108 x+180 \]

? 次的乘加运算

  • 每个5*5*1的卷积核,计算得到一个像素点,需要25次乘加计算,两层3*3卷积核,共需要

\[25 x^{2}-200 x+400 \]

? 次的乘加运算

当x>10时,两层3*3的卷积核一层5*5卷积性能好,这也是为什么现在的神经网络在卷积计算中,常使用3*3卷积核替换一层5*5卷积核的原因