学习 深度学习8-GoogLeNet总结

一、模型概述GoogLeNet又名 Inception v1由 Google 团队于 2014 年提出在当年的 ImageNet 图像分类竞赛中获得第一名。其核心贡献在于引入 Inception 模块通过多尺度卷积核并行提取特征再在通道维度融合。用全局平均池化替代全连接层大幅减少参数量抑制过拟合并使模型能接受任意尺寸的输入。使用辅助分类器在网络中间层注入梯度信号有效缓解深层网络的梯度消失问题。以22 层的深度实现了比同年 VGG 更少的参数量约 1/12和更高的计算效率。全局架构二、Inception 模块详解以 GoogLeNet 的 3a 模块为例输入28×28×192分支操作流程输出尺寸分支164 个 1×1 卷积步长 1填充 028×28×64分支2① 96 个 1×1 卷积降维② 128 个 3×3 卷积步长 1填充 128×28×128分支3① 16 个 1×1 卷积降维② 32 个 5×5 卷积步长 1填充 228×28×32分支4① 3×3 最大池化步长 1填充 1② 32 个 1×1 卷积28×28×32最终拼接28×28 × (64 128 32 32) 28×28×256三、1×1 卷积的优势1×1 卷积在这里扮演了降维/升维和跨通道信息整合的关键角色。优势极大减少参数量在昂贵的 3×3、5×5 卷积前先用 1×1 卷积压缩通道数。增加非线性每个 1×1 卷积后通常跟 ReLU提升了网络的表达能力。跨通道信息融合在不改变空间尺寸的前提下线性组合所有通道的信息。实例验证针对分支2仍以输入 28×28×192、输出 28×28×128 为例。方案计算过程参数量不用 1×1 降维直接用 128 个 3×3 卷积处理 192 通道3×3×192×128 221,184使用 1×1 降维① 96 个 1×1 卷积1×1×192×96 18,432② 128 个 3×3 卷积3×3×96×128 110,59218,432 110,592 129,024仅这一个分支参数量就减少了约41.7%。整个网络大量使用这种设计从而在加深网络的同时依然能控制模型规模。四、全局平均池化的再认识GoogLeNet 用全局平均池化Global Average Pooling取代了传统 CNN 尾部的全连接层。优点避免过拟合没有全连接层的大量参数天然起到正则化效果。输入尺寸灵活不论最后一层特征图尺寸多大平均池化后都会变成 1×1×通道数模型能适应不同的输入分辨率。保留空间信息的总结能力每个特征图对应一个类别置信度增强了可解释性。五、辅助分类器的作用除了最终的分类输出GoogLeNet 还在网络中间层增加了两个辅助分类器。总损失为三个分类器损失的加权和缓解梯度消失将中间层的特征直接用于分类为浅层网络提供更强的梯度信号。提供正则化促使中间层也能学习有判别力的特征。推理时可丢弃测试阶段辅助分类器不参与计算不增加推理成本。