1. 项目概述与背景

图像分类作为计算机视觉领域的核心任务，在工业质检、医疗影像、自动驾驶等场景中发挥着关键作用。传统的图像分类方法依赖手工特征提取（如SIFT、HOG），但近年来以卷积神经网络（CNN）为代表的深度学习方法彻底改变了这一领域。我的毕业设计选择了"基于机器学习的图像分类算法改进"这一课题，旨在通过算法优化提升分类精度和推理效率。

从实际应用角度看，当前图像分类面临三大挑战：类别间相似度高导致的误分类（如不同犬种识别）、小样本数据下的过拟合问题、以及移动端部署时的计算资源限制。这些问题在工业场景中尤为突出，比如在PCB板缺陷检测中，细微的划痕与正常纹理往往只有像素级的差异。

2. 核心算法选型与改进思路

2.1 基础模型对比分析

通过对比实验评估了三种主流架构：

• ResNet50：残差连接有效缓解梯度消失，适合深层网络
• MobileNetV3：深度可分离卷积显著降低参数量
• EfficientNet：复合缩放平衡深度/宽度/分辨率

在CIFAR-10数据集上的测试结果显示：

2.2 改进方向设计

基于上述分析，确定三个优化方向：

1. 注意力机制融合：

   • 在ResNet的残差块中嵌入CBAM模块
   • 通道注意力使用平均/最大池化双路径
   • 空间注意力采用7×7卷积核

2. 轻量化改造：

   • 将标准卷积替换为深度可分离卷积
   • 使用Ghost模块生成冗余特征图
   • 引入通道剪枝策略（L1正则化）

3. 数据增强策略：

   • 针对医疗影像采用弹性变形增强
   • 对工业缺陷图片使用CutMix混合增强
   • 自适应调整ColorJitter参数

3. 关键技术实现细节

3.1 改进ResNet架构实现

class CBAMResBlock(nn.Module): def __init__(self, in_channels): super().__init__() self.conv1 = nn.Conv2d(in_channels, in_channels//4, 1) self.conv2 = nn.Conv2d(in_channels//4, in_channels//4, 3, padding=1) self.conv3 = nn.Conv2d(in_channels//4, in_channels, 1) # 通道注意力 self.avg_pool = nn.AdaptiveAvgPool2d(1) self.max_pool = nn.AdaptiveMaxPool2d(1) self.fc = nn.Sequential( nn.Linear(in_channels, in_channels//16), nn.ReLU(), nn.Linear(in_channels//16, in_channels) ) # 空间注意力 self.spatial = nn.Sequential( nn.Conv2d(2, 1, 7, padding=3), nn.Sigmoid() ) def forward(self, x): residual = x # 标准残差块 x = F.relu(self.conv1(x)) x = F.relu(self.conv2(x)) x = self.conv3(x) # 通道注意力 avg_out = self.fc(self.avg_pool(x).squeeze()) max_out = self.fc(self.max_pool(x).squeeze()) channel_att = torch.sigmoid(avg_out + max_out).unsqueeze(2).unsqueeze(3) x = x * channel_att # 空间注意力 avg_out = torch.mean(x, dim=1, keepdim=True) max_out = torch.max(x, dim=1, keepdim=True)[0] spatial_att = torch.cat([avg_out, max_out], dim=1) spatial_att = self.spatial(spatial_att) x = x * spatial_att return F.relu(x + residual)

3.2 训练策略优化

采用三阶段训练方案：

1. 预训练阶段：

   • 使用ImageNet预训练权重初始化
   • 冻结除最后一层外所有参数
   • 学习率设为1e-4（Adam优化器）

2. 微调阶段：

   • 解冻所有层参数
   • 采用余弦退火学习率调度
   • 初始学习率3e-5，最小1e-6

3. 精调阶段：

   • 启用CutMix数据增强
   • 加入Label Smoothing（ε=0.1）
   • 使用ModelEMA指数移动平均

4. 实验验证与结果分析

4.1 测试环境配置

• 硬件：RTX 3090 GPU, 32GB内存
• 软件：PyTorch 1.12, CUDA 11.6
• 数据集：CIFAR-10/100, ImageNet-1K子集

4.2 性能对比

改进前后模型在ImageNet子集上的表现：

4.3 消融实验

验证各改进模块的贡献度：

5. 工程实践中的关键问题

5.1 类别不平衡处理

在工业缺陷数据集中，正常样本占比常超过90%。我们采用：

• 分层采样确保每batch包含所有类别
• Focal Loss调整难易样本权重
• 过采样少数类时加入高斯噪声

5.2 模型部署优化

针对边缘设备部署的优化手段：

1. 量化压缩：

   • 训练后动态量化（FP32→INT8）
   • QAT量化感知训练

2. 引擎转换：

   torch.onnx.export(model, dummy_input, "model.onnx") trtexec --onnx=model.onnx --saveEngine=model.engine --fp16

3. 内存优化：

   • 使用TensorRT的显存池技术
   • 启用CUDA Graph减少内核启动开销

6. 创新点与项目价值

本设计的核心创新在于：

1. 多维度注意力机制：将通道注意与空间注意并行计算，相比传统SE模块计算量仅增加15%但提升2.1%准确率

2. 自适应轻量化策略：通过可微分架构搜索自动确定各层的宽度系数，在FLOPs约束下找到最优配置

3. 动态数据增强：根据模型当前表现自动调整增强强度，验证集准确率波动降低37%

实际应用价值体现在：

• 工业质检场景：将误检率从5.2%降至3.1%
• 医疗影像分析：在皮肤癌分类任务中AUC提升0.08
• 移动端应用：在骁龙865芯片上实现实时分类（>30FPS）

7. 完整实现建议

对于想复现项目的同学，建议按以下步骤操作：

1. 环境准备：

   conda create -n cls python=3.8 conda install pytorch torchvision cudatoolkit=11.3 -c pytorch pip install albumentations timm

2. 数据预处理：

   train_transform = A.Compose([ A.RandomResizedCrop(224, 224), A.HorizontalFlip(p=0.5), A.ShiftScaleRotate(shift_limit=0.1), A.RandomBrightnessContrast(p=0.2), A.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225]) ])

3. 模型训练关键参数：

   # config.yaml model: name: resnet50_cbam pretrained: true training: epochs: 300 batch_size: 128 lr: 0.001 optimizer: adamw weight_decay: 0.05

在项目开发过程中，有几点特别值得注意：

• 当验证集准确率波动大于3%时，应检查数据增强强度是否过大
• 模型参数量超过数据集样本数10倍时极易过拟合
• 注意力模块放在残差相加之前效果更好