AlexNet-文献阅读笔记( 二 ) _生活百科

Overlapping Pool池化层在卷积神经网络中汇集同一卷积核映射中的向量神经元的输出。一般相邻的神经元汇总的池化层并不重合。池化层可以看作是相邻s个像素的池化单元网格组成，每个网格汇总了以池化单元位置为中心的z*z的领域。如果s=z，那么该池化操作就是卷积网络中的局部池化层。如果 s<z，那么该池化层就是重叠池化。重叠池化能够减少模型错误率并且一定程度上防止过拟合。
模型架构网络在第一层和第二层卷积层之后添加了响应归一化（Response normalization），最大池化层（max pooling）在每一个Response normalization后记第四层卷积层后添加，ReLu非线性激活函数在每一层卷积层和全连接层的输出上应用。最后一层全连接层的输出通过1000-way softmax处理后产生一个1000类标签的分布。第一个卷积层的输入是224