1. 项目背景与竞赛解读去年参加李沐老师《动手学深度学习》课程配套的树叶分类竞赛时我花了三周时间从零实现了一个准确率98.7%的模型。这个竞赛本质上是计算机视觉领域的细粒度图像分类任务要求参赛者基于提供的10类树叶图像数据集每类约800张构建高效的分类模型。数据集中的树叶样本存在以下典型挑战类间差异小如不同枫树品种、拍摄光照条件不一、存在部分遮挡和背景干扰。竞赛评分标准主要考量三个维度测试集准确率权重70%、模型推理速度20%和代码可读性10%。值得注意的是官方禁止使用预训练模型进行迁移学习这要求参赛者必须从零开始设计网络结构。我在初赛阶段尝试了ResNet变体发现参数量过大导致推理速度不达标最终改用自定义的轻量化网络结构。关键提示竞赛提供的叶片图像尺寸统一为256x256像素但部分样本存在约15度的旋转偏移建议在数据增强阶段加入随机旋转修正。2. 数据处理与增强策略2.1 数据预处理流水线原始数据集需要经过标准化处理才能输入网络。我采用的预处理流程包括像素值归一化将RGB通道值从[0,255]线性映射到[0,1]区间通道标准化对每个通道计算均值(0.485, 0.456, 0.406)和标准差(0.229, 0.224, 0.225)异常样本剔除通过计算图像熵值过滤掉模糊样本阈值设为6.2# PyTorch实现示例 transform transforms.Compose([ transforms.ToTensor(), transforms.Normalize(mean[0.485, 0.456, 0.406], std[0.229, 0.224, 0.225]), transforms.RandomRotation(15), transforms.RandomHorizontalFlip(p0.3) ])2.2 数据增强方案针对叶片图像特点我设计了分层增强策略基础层随机水平翻转概率30%、±15度随机旋转进阶层ColorJitter调整亮度0.8-1.2倍、饱和度0.9-1.1倍防御层添加高斯噪声σ0.01和随机遮挡最大遮挡面积10%实测发现过度增强反而会降低模型性能。最佳配置是基础层亮度调整可使验证集准确率提升约3.2个百分点。3. 模型架构设计与优化3.1 轻量化网络结构受MobileNetV3启发我设计了一个参数量仅1.7M的轻量网络基准ResNet-18有11.7M参数。核心创新点包括倒残差结构在3x3卷积前使用1x1卷积升维扩展比为6注意力机制在每组卷积后添加SE模块压缩比16渐进式降采样通过步长2卷积实现避免池化操作的信息损失class LeafBlock(nn.Module): def __init__(self, in_c, out_c, stride1): super().__init__() hidden_c in_c * 6 # 扩展比 self.conv nn.Sequential( nn.Conv2d(in_c, hidden_c, 1, biasFalse), nn.BatchNorm2d(hidden_c), nn.Hardswish(), nn.Conv2d(hidden_c, hidden_c, 3, stride, 1, groupshidden_c), nn.BatchNorm2d(hidden_c), SELayer(hidden_c, 16), nn.Conv2d(hidden_c, out_c, 1, biasFalse), nn.BatchNorm2d(out_c) )3.2 训练技巧与超参调优采用分阶段训练策略热身阶段5 epochs学习率线性增加到0.1使用Label Smoothingε0.1主训练阶段50 epochsCosine退火学习率最小降至0.001微调阶段5 epochs冻结除分类层外的所有参数学习率0.0001优化器选择RAdam而非AdamW实测在batch size64时更稳定。关键超参配置权重衰减0.0005Dropout率0.2仅在全连接层使用Batch size64需根据GPU显存调整4. 模型压缩与部署优化4.1 量化与剪枝为满足推理速度要求我对训练好的模型进行了以下优化动态量化将卷积层权重从FP32转为INT8模型大小缩减65%通道剪枝移除特征图通道数小于阈值的卷积核阈值1e-4层融合将ConvBNReLU序列合并为单个计算单元# 量化实现示例 model torch.quantization.quantize_dynamic( model, {nn.Conv2d, nn.Linear}, dtypetorch.qint8 )4.2 部署性能对比优化前后关键指标对比指标原始模型优化后参数量(M)1.70.6推理时延(ms)4216准确率(%)98.798.2在Jetson Nano开发板上测试优化后模型能满足实时性要求15FPS。5. 常见问题与解决方案5.1 过拟合应对策略当验证集准确率停滞时可尝试增加CutMix数据增强将两幅图像随机区域混合引入MixUp线性插值输入和标签α0.4早停机制连续5个epoch验证损失未下降则终止训练5.2 类别不平衡处理数据集存在约5%的类别不平衡解决方案样本重加权根据类别频率调整损失权重焦点损失γ2.0α0.25过采样少数类使用旋转、镜像等增强手段经验之谈实际测试发现单纯使用加权交叉熵损失效果最好比焦点损失提升约0.5%准确率。6. 扩展思路与进阶技巧知识蒸馏用大模型如ResNet-50作为教师模型提升小模型性能自监督预训练基于SimCLR框架进行对比学习预训练多尺度特征融合在网络不同深度提取特征并融合测试时增强(TTA)对测试图像进行5种增强并投票我在最终方案中采用了TTA使准确率从98.7%提升到99.1%。具体实现是对每张测试图像生成水平翻转、±10度旋转等5个变体取预测结果的平均概率。 
长河君 · 2026/10/26 20:21:02 · 阅读 1.2k 轻量化CNN在细粒度树叶分类竞赛中的实践与优化
1. 项目背景与竞赛解读去年参加李沐老师《动手学深度学习》课程配套的树叶分类竞赛时我花了三周时间从零实现了一个准确率98.7%的模型。这个竞赛本质上是计算机视觉领域的细粒度图像分类任务要求参赛者基于提供的10类树叶图像数据集每类约800张构建高效的分类模型。数据集中的树叶样本存在以下典型挑战类间差异小如不同枫树品种、拍摄光照条件不一、存在部分遮挡和背景干扰。竞赛评分标准主要考量三个维度测试集准确率权重70%、模型推理速度20%和代码可读性10%。值得注意的是官方禁止使用预训练模型进行迁移学习这要求参赛者必须从零开始设计网络结构。我在初赛阶段尝试了ResNet变体发现参数量过大导致推理速度不达标最终改用自定义的轻量化网络结构。关键提示竞赛提供的叶片图像尺寸统一为256x256像素但部分样本存在约15度的旋转偏移建议在数据增强阶段加入随机旋转修正。2. 数据处理与增强策略2.1 数据预处理流水线原始数据集需要经过标准化处理才能输入网络。我采用的预处理流程包括像素值归一化将RGB通道值从[0,255]线性映射到[0,1]区间通道标准化对每个通道计算均值(0.485, 0.456, 0.406)和标准差(0.229, 0.224, 0.225)异常样本剔除通过计算图像熵值过滤掉模糊样本阈值设为6.2# PyTorch实现示例 transform transforms.Compose([ transforms.ToTensor(), transforms.Normalize(mean[0.485, 0.456, 0.406], std[0.229, 0.224, 0.225]), transforms.RandomRotation(15), transforms.RandomHorizontalFlip(p0.3) ])2.2 数据增强方案针对叶片图像特点我设计了分层增强策略基础层随机水平翻转概率30%、±15度随机旋转进阶层ColorJitter调整亮度0.8-1.2倍、饱和度0.9-1.1倍防御层添加高斯噪声σ0.01和随机遮挡最大遮挡面积10%实测发现过度增强反而会降低模型性能。最佳配置是基础层亮度调整可使验证集准确率提升约3.2个百分点。3. 模型架构设计与优化3.1 轻量化网络结构受MobileNetV3启发我设计了一个参数量仅1.7M的轻量网络基准ResNet-18有11.7M参数。核心创新点包括倒残差结构在3x3卷积前使用1x1卷积升维扩展比为6注意力机制在每组卷积后添加SE模块压缩比16渐进式降采样通过步长2卷积实现避免池化操作的信息损失class LeafBlock(nn.Module): def __init__(self, in_c, out_c, stride1): super().__init__() hidden_c in_c * 6 # 扩展比 self.conv nn.Sequential( nn.Conv2d(in_c, hidden_c, 1, biasFalse), nn.BatchNorm2d(hidden_c), nn.Hardswish(), nn.Conv2d(hidden_c, hidden_c, 3, stride, 1, groupshidden_c), nn.BatchNorm2d(hidden_c), SELayer(hidden_c, 16), nn.Conv2d(hidden_c, out_c, 1, biasFalse), nn.BatchNorm2d(out_c) )3.2 训练技巧与超参调优采用分阶段训练策略热身阶段5 epochs学习率线性增加到0.1使用Label Smoothingε0.1主训练阶段50 epochsCosine退火学习率最小降至0.001微调阶段5 epochs冻结除分类层外的所有参数学习率0.0001优化器选择RAdam而非AdamW实测在batch size64时更稳定。关键超参配置权重衰减0.0005Dropout率0.2仅在全连接层使用Batch size64需根据GPU显存调整4. 模型压缩与部署优化4.1 量化与剪枝为满足推理速度要求我对训练好的模型进行了以下优化动态量化将卷积层权重从FP32转为INT8模型大小缩减65%通道剪枝移除特征图通道数小于阈值的卷积核阈值1e-4层融合将ConvBNReLU序列合并为单个计算单元# 量化实现示例 model torch.quantization.quantize_dynamic( model, {nn.Conv2d, nn.Linear}, dtypetorch.qint8 )4.2 部署性能对比优化前后关键指标对比指标原始模型优化后参数量(M)1.70.6推理时延(ms)4216准确率(%)98.798.2在Jetson Nano开发板上测试优化后模型能满足实时性要求15FPS。5. 常见问题与解决方案5.1 过拟合应对策略当验证集准确率停滞时可尝试增加CutMix数据增强将两幅图像随机区域混合引入MixUp线性插值输入和标签α0.4早停机制连续5个epoch验证损失未下降则终止训练5.2 类别不平衡处理数据集存在约5%的类别不平衡解决方案样本重加权根据类别频率调整损失权重焦点损失γ2.0α0.25过采样少数类使用旋转、镜像等增强手段经验之谈实际测试发现单纯使用加权交叉熵损失效果最好比焦点损失提升约0.5%准确率。6. 扩展思路与进阶技巧知识蒸馏用大模型如ResNet-50作为教师模型提升小模型性能自监督预训练基于SimCLR框架进行对比学习预训练多尺度特征融合在网络不同深度提取特征并融合测试时增强(TTA)对测试图像进行5种增强并投票我在最终方案中采用了TTA使准确率从98.7%提升到99.1%。具体实现是对每张测试图像生成水平翻转、±10度旋转等5个变体取预测结果的平均概率。