Loading...
墨滴

algolearn

2021/12/28  阅读:39  主题:默认主题

卷积神经网络中的池化操作

常用的池化操作主要针对非重叠区域,包括均值池化最大池化等。其中均值池化通过对邻域内特征数值求平均来实现,能够抑制由于邻域大小受限造成估计值方差增大的现象,特点是对背景的保留效果更好。最大池化则通过取邻域内特征的最大值来实现,能够抑制网络参数误差造成估计均值偏移的现象,特点是更好地提取纹理信息。池化操作的本质是降采样。

特殊的池化方式还包括对相邻重叠区域的池化空间金字塔池化。 相邻重叠区域的池化,顾名思义,是采用比窗口宽度更小的步长,使得窗口在每次滑动时存在重叠的区域。空间金字塔池化主要考虑了多尺度信息的描述,例如 同时计算1×1、2×2、4×4的矩阵的池化并将结果拼接在一起作为下一网络层的输入。

池化操作除了能显著降低参数量外,还能够保持对平移、伸缩等操作的不变性。平移不变性是指输出结果对输入的小量平移基本保持不变。例如,输入 为(1,5,3),最大池化将会取5,如果将输入右移一位得到(0,1,5),输出的结果 仍将为5。对伸缩的不变性(一般称为尺度不变性)可以这样理解,如果原先神经元在最大池化操作之后输出5,那么在经过伸缩(尺度变换)之后,最大池化操作 在该神经元上很大概率的输出仍然是5。因为神经元感受的是邻域输入的最大值, 而并非某一个确定的值。

欢迎关注微信公众号(算法工程师面试那些事儿),本公众号聚焦于算法工程师面试,期待和大家一起刷leecode,刷机器学习、深度学习面试题等,共勉~

algolearn

2021/12/28  阅读:39  主题:默认主题

作者介绍

algolearn