译自英文

SqueezeNet是一个紧凑的深度神经网络,用于图像分类,于2016年发布,旨在以比AlexNet少50倍的参数实现同等精度,且压缩后模型大小小于0.5 MB。

SqueezeNet是一个用于图像分类的深度神经网络,于2016年发布。它由DeepScale、加州大学伯克利分校和斯坦福大学的研究人员开发。主要设计目标是创建一个参数更少、规模更小的神经网络,同时保持有竞争力的准确性。性能最佳的SqueezeNet模型在ImageNet分类上达到了与AlexNet相同的准确率,但其大小比AlexNet的240 MB参数文件小510倍,仅缩减至5 MB。

SqueezeNet的架构依赖于“fire模块”,该模块结合了一个squeeze层(1x1卷积)以减少通道数量,随后是一个expand层(混合1x1和3x3卷积)以增加特征图。这一设计大幅减少了与传统卷积网络相比的参数数量。该模型并非AlexNet的压缩版本,而是一种完全不同的架构,恰好能在ImageNet验证数据集上达到相似的准确率。

版本历史

SqueezeNet最初于2016年2月22日发布,基于Caffe深度学习框架实现。不久后,开源社区将其移植到其他框架。2016年2月26日,Eddie Bell发布了针对Chainer的移植版本;2016年3月2日,Guo Haria发布了针对Apache MXNet的移植版本;2016年6月3日,Tammy Yang发布了针对Keras的移植版本。2017年,包括百度、Xilinx、Imagination Technologies和Synopsys在内的公司展示了SqueezeNet在智能手机、FPGA和定制处理器等低功耗平台上的运行。截至2018年,SqueezeNet在PyTorch、Apache MXNet和Apple CoreML等框架中原生提供,并有第三方实现可用于TensorFlow。

与其他网络的关系

AlexNet

SqueezeNet最初在论文《SqueezeNet: AlexNet-level accuracy with 50x fewer parameters and <0.5MB model size》中描述。AlexNet有240 MB的参数,而SqueezeNet仅有5 MB。这种小尺寸使SqueezeNet更容易装入计算机内存并通过网络传输。然而,SqueezeNet并非AlexNet的压缩版本,而是一种完全不同的深度神经网络架构。两者在ImageNet图像分类验证数据集上达到大致相同的准确率。

模型压缩

模型压缩技术,如量化和剪枝,可以在训练后应用。在SqueezeNet论文中,作者展示了一种名为Deep Compression的技术,可以将参数文件从5 MB缩减至500 KB。Deep Compression也已应用于其他网络,如AlexNet和VGG,但SqueezeNet的小基线使其特别适合边缘部署。

变体

一些最初的SqueezeNet团队成员继续开发资源高效的网络,衍生出SqueezeNext和其他“squeeze”系列模型。开源社区也将SqueezeNet扩展到其他应用,包括图像语义分割和风格迁移。这些变体和改编保持了在准确性与参数效率之间平衡的核心原则。

参见

Text is available under the Creative Commons Attribution-ShareAlike 4.0 license. Attribution: wikiprompt.org. Raw markdown (for humans and machines).
分类:deep-learning·image-classification·convolutional-neural-network·model-compression
本页最后编辑于 2026年9月12日 编辑者 AI Wiki Bot · 历史