简介水稻害虫目标检测数据集面向算法工程师、农业信息化研究者与机器学习初学者覆盖褐飞虱、绿叶蝉、叶夹、稻蝽、蛀干虫、轮生蛆等典型水稻害虫包含5229张田间实拍图可支撑多尺度、密集小目标场景下的识别与定位适用于无人机巡田、智能虫情测报灯等植保监测项目也可用于YOLO、Faster R-CNN、SSD等模型训练与迁移学习。压缩包为VOC标记格式共包含2000个xml标注文件这类标注文件通常记录目标类别、边界框坐标与图像尺寸等信息与LabelImg等工具导出的格式一致可直接解析为COCO、YOLO等格式便于做数据增强、难例挖掘或标签质量检查资源包整体约109.96MB文件命名与样本对应结构清楚便于批量训练与验证。数据集已有1218人学习下载配合原始图像使用可以快速搭建害虫检测基线降低数据采集与标注成本。对于高校农业AI课程、科研课题及智能植保产品研发而言这份数据既能作为算法课堂的实战案例也能为识别模型提供可靠的验证数据帮助使用者聚焦建模与迭代。1. 5229张水稻害虫图VOC标记能不能直接扔进目标检测网络收到一份“水稻害虫数据集5229张图可检测褐飞虱、绿叶蝉、叶夹稻蝽、蛀干虫、轮生蛆VOC标记.zip”这类压缩包基本是农业目标检测项目的常态起点。5229张图听着不少可六类害虫多数是小目标稻叶背景又高度相似直接拿VOC XML去训练通常得到的就是“指标好看、实地翻车”的模型。下面按我处理这类VOC标记数据集的顺序来先摸清XML结构再转成YOLO训练格式跑通YOLOv8后回头验证模型到底学到了害虫还是背景。适合刚拿到数据集准备做病虫害识别的工程师也适合想把老VOC数据迁到YOLO体系上的老手。2. 拆开VOC标记的底细XML结构、六类害虫难度与数据清洗2.1 解压后先别急着训练VOC目录结构与XML里到底存了什么VOC标记是当前目标检测里最常见的中间数据格式labelImg这类标注工具默认能导出这种结构。它把一张图的标注信息存成同名XML常见目录大致分三块JPEGImages放原图Annotations放标注XMLImageSets/Main放官方划分。这个zip如果只给了前两块说明数据划分得自己写。如果你以前接触的是coco2017数据集结构会发现那里用json存标注而VOC用XML两者转YOLO的路径完全不同不能混用。打开一个XML会看到filename、size、object三组关键信息。size里的width/height是归一化换算的唯一依据object里name是类别名bndbox里四个顶点是像素坐标。我先跑一个统计脚本把全部XML的类别分布拉出来import xml.etree.ElementTree as ET from pathlib import Path xml_dir Path(Annotations) stats {} for xml_path in sorted(xml_dir.glob(*.xml)): try: tree ET.parse(xml_path) root tree.getroot() except (ET.ParseError, OSError) as e: print(bad xml:, xml_path, e) continue for obj in root.findall(object): name obj.find(name).text stats[name] stats.get(name, 0) 1 for name, cnt in sorted(stats.items(), keylambda x: x[1], reverseTrue): print(f{name}: {cnt})这段脚本按XML里的name字段累加每个类别框数并把有问题的XML直接打印出来。看到统计结果后做三个判断类别拼写是否统一会不会同一个褐飞虱被标成两个名字各类别框数量是否悬殊有没有某个XML的object数为0。这些信息决定后面的转换脚本要不要加类别归并逻辑也决定训练时要不要给少数类加权。以5229张图这个规模来说VOC标注本身已经是能直接用的数据资产但离可训练还差两步一是把XML里的像素坐标换算成YOLO需要的归一化坐标二是把图片路径和标签路径按训练/验证拆开。 这两步做得不干净后续所有训练问题都会反馈到“数据集不行”这个结论上实际往往是格式转换埋的雷。2.2 褐飞虱、绿叶蝉、叶夹稻蝽、蛀干虫、轮生蛆的检测难点目标检测模型面对这六类害虫和人类看图完全不是一回事。六类里面褐飞虱是典型的“多而小”褐色小虫聚集在稻株根部叶鞘几十只挤在一起还互相遮挡漏检通常从这里开始。绿叶蝉颜色与嫩叶高度接近浅绿身体贴在叶脉上特征是“背景即本体”。叶夹稻蝽这类稻蝽多数时间藏在叶鞘缝隙里露出来的只有半个腹部。蛀干虫本身在茎秆内部地面能看到的只有蛀孔和周围变色的组织标注框和稻茎重合度很高模型很容易学会框茎秆而不是框虫。轮生蛆是白色小蛆状幼虫喜欢聚在心叶与穗部目标尺度最小。拿这六类去套小目标检测的经典问题踩坑点都集中在两类一类是背景混淆绿叶蝉、叶夹稻蝽一类是密集重叠褐飞虱、轮生蛆。我整理了一张对照表训练前先对着它判断哪些类要特殊照顾类别常见形态特点聚集方式最容易出的问题褐飞虱褐色小虫多在稻株下部密集群集漏检多重叠框多绿叶蝉浅绿与嫩叶颜色相近分散或少数聚集贴背景特征被叶子吃掉叶夹稻蝽稻蝽类常藏叶鞘单只为主框出半截虫学成叶鞘纹理蛀干虫幼虫在茎内外露痕迹少单只框和茎重合学的是茎节轮生蛆白色小蛆状多在穗部/心叶小簇聚集目标太小imgsz不足直接消失表里列的是普遍现象具体还要以zip里的图片为准。5229张图按六类分配平均每类不到900张再扣除不同拍摄角度和光照每类真正能用来训练的有效样本可能只有几百张这个量级基本离不开预训练权重做迁移学习。迁移学习能成前提是数据的拍摄条件和真实田间场景接近如果压缩包里的图是网图混拍的训练完的模型对特定田块有效换个生态区就明显掉点。还有一个常被忽略的问题图片分辨率和目标像素占比。假如褐飞虱在一张1920×1080的图里只有30×40像素imgsz640时缩到10像素左右特征基本消失而如果原图本身是800×600的近景目标能占到80像素模型学起来就轻松很多。先按类别统计标注框的宽度和高度分布能直接告诉你该把imgsz定到多少而不是盲目套默认值。2.3 训练前先清一次底账缺失标注、重复图片、读不出来的坏图数据集里经常混着一些脏文件不清理就训练会在某个epoch突然让预处理中断而且报错位置很难从日志看出来。我习惯写一个集合求差脚本先把“有图无标注”和“有标注无图”两个方向都扫出来from pathlib import Path jpg_dir Path(JPEGImages) xml_dir Path(Annotations) jpg_stems {p.stem for p in jpg_dir.glob(*.jpg)} xml_stems {p.stem for p in xml_dir.glob(*.xml)} print(jpg without xml:, sorted(jpg_stems - xml_stems)) print(xml without jpg:, sorted(xml_stems - jpg_stems))集合差集的第一行是那些会被送进训练列表但实际上没有标签的图第二行是标注了但找不到原图的孤儿XML。两类都直接跳过或补对应文件。注意jpg_stems取文件名主体不要带上扩展名否则“.JPG”和“.jpg”会被当成两个文件。再做一步图片可读性检查import cv2 from pathlib import Path for p in Path(JPEGImages).glob(*.jpg): img cv2.imread(str(p)) if img is None: print(unreadable:, p)cv2.imread返回None说明文件头损坏或实际不是图片这类文件在Ultralytics加载时会导致训练停止。清完这三个方向再谈转换才有意义。3. 把VOC转成YOLO格式转换脚本、数据划分与三个标注边界坑3.1 用一套voc2yolo.py完成坐标换算VOC和YOLO的标注本质区别只有一点VOC存的是像素坐标顶点xmin、ymin、xmax、ymaxYOLO存的是归一化中心点和宽高class xc yc bw bh并且类别从0开始编号。转换就是一次简单坐标运算但5229张图手工改不现实写个脚本一次跑完import xml.etree.ElementTree as ET from pathlib import Path classes [brown_plant_hopper, leafhopper, daochun, stem_borer, grub] # 这里按zip内的实际类别名和顺序为准顺序决定label编号 def voc2yolo(xml_path: Path, out_dir: Path): tree ET.parse(xml_path) root tree.getroot() size root.find(size) w int(size.find(width).text) h int(size.find(height).text) if w 0 or h 0: print(bad size:, xml_path) return lines [] for obj in root.findall(object): name obj.find(name).text if name not in classes: print(unknown class:, name, xml_path) continue cls_id classes.index(name) b obj.find(bndbox) xmin float(b.find(xmin).text) ymin float(b.find(ymin).text) xmax float(b.find(xmax).text) ymax float(b.find(ymax).text) xc ((xmin xmax) / 2.0) / w yc ((ymin ymax) / 2.0) / h bw (xmax - xmin) / w bh (ymax - ymin) / h xc min(max(xc, 0.0), 1.0) yc min(max(yc, 0.0), 1.0) bw min(max(bw, 0.0), 1.0) bh min(max(bh, 0.0), 1.0) lines.append(f{cls_id} {xc:.6f} {yc:.6f} {bw:.6f} {bh:.6f}) out_dir.mkdir(parentsTrue, exist_okTrue) out_path out_dir / (xml_path.stem .txt) out_path.write_text(\n.join(lines)) xml_dir Path(Annotations) out_dir Path(labels) for xml_path in xml_dir.glob(*.xml): voc2yolo(xml_path, out_dir)坐标换算的核心是中心点算完做一次[0,1]截断能避免边界框越界把训练拉崩。如果脚本输出的txt里出现整行都是1.000000大概率是size节点读错或原始标注画出了图片边界要回头修XML而不是硬训练。classes列表的顺序直接决定最终模型的类别编号一旦定下来data.yaml必须完全一致中途改动会让已生成的标签全部作废。写这个脚本时还要注意一个细节每个XML只生成一个txt文件名用XML的stem确保和jpg一一对应。如果zip里出现了两个同名文件在不同目录脚本会互相覆盖需要提前用绝对路径去重。3.2 按图划分train/val并写好data.yaml数据划分最忌讳直接copy整个目录更忌讳按“框”抽样。同一张图里的多个目标天然相关按框划分会把同图信息泄漏进验证集让mAP虚高。正确做法是按图划分把图片路径写进txtfrom pathlib import Path import random random.seed(42) jpg_files list(Path(JPEGImages).glob(*.jpg)) random.shuffle(jpg_files) split int(len(jpg_files) * 0.8) train_files jpg_files[:split] val_files jpg_files[split:] with open(train.txt, w) as f: for p in train_files: f.write(str(p.resolve()) \n) with open(val.txt, w) as f: for p in val_files: f.write(str(p.resolve()) \n)随机种子固定成42每次跑脚本生成的划分一致方便复现实验。划分比例按5229张图的经验80/20足够如果后续要调阈值可以把有难度的类多留一些进验证集。然后写data.yaml注意names顺序必须和3.1里classes一致path: /home/you/rice_pests train: train.txt val: val.txt names: 0: brown_plant_hopper 1: leafhopper 2: daochun 3: stem_borer 4: grubtrain和val指向txt不要求目录结构必须是images/train/val。yolo train读取train.txt里的图片路径后会自动去同目录或指定labels目录找对应txt。如果图片和标签不在一个目录需要在data.yaml里用names之外的方式手动指定Ultralytics默认规则是图片路径的父目录换成labels所以JPEGImages对应的标签目录最好就叫labels否则要在脚本里做路径替换。3.3 转换阶段最容易翻车的三个边界坑第一个坑是XML里没有size节点。部分工具导出的标注不写图片尺寸脚本读width时直接报NoneType错误。解决方法是先用PIL或OpenCV读原图尺寸回填不要依赖XML里的size。第二个坑是bndbox坐标越界或反序。手绘标注偶尔会把xmin画在xmax右边直接用会生成负宽度的框训练时标签变异常。解决读取后做一次min/max矫正宽或高小于1像素的框直接丢弃。第三个坑是classes列表顺序和XML里的类别名对不上。比如XML里既有brown_plant_hopper又有褐飞虱脚本会把第二个当unknown class跳过导致这个类别整类消失。解决先跑第2章的统计脚本把所有name打出来统一成一份类别映射表再写进classes。这三个坑的共同特点是训练时不会马上报错而是等模型跑几十个epoch后表现异常排查成本远高于转换时多写几行防御。所以我现在的习惯是转换完立刻抽样可视化标签直接看jpg上叠的框对不对省得后面做无头排查。4. 用YOLOv8训练水稻害虫模型先跑通再调参微调崩了也不怕4.1 环境、目录布局和最小训练命令转换完成后数据集就算能被YOLO读了。我用Ultralytics YOLOv8做训练先把环境装好pip install ultralytics装完后验证一行命令能找到yolo入口即可。目录布局用最简单的方式图片放在JPEGImages标签放在labelsdata.yaml里写train.txt和val.txt的路径不强制复制成images/train这类官方结构。第一次训练不要直接上大图长epoch先用最小配置跑通管线yolo train datadata.yaml modelyolov8n.pt epochs30 imgsz640这段能把环境、数据路径、标签编号是否匹配全部验证一遍。如果这条命令报标签错误或类别数错误说明问题出在前面转换阶段先修再继续。第一次训练建议用yolov8n这个最小模型不是因为它精度高而是它迭代快能快速暴露数据问题等确认数据没问题再换yolov8m或yolov8l。训练前快速看一遍目录结构能避免一半的路径问题rice_pests/ ├── JPEGImages/ │ ├── 000001.jpg │ └── ... ├── labels/ │ ├── 000001.txt │ └── ... ├── train.txt ├── val.txt └── data.yamllabels下每一行txt对应一张图行数等于这张图里标注框的个数。没有txt的图片会被Ultralytics当成背景图处理如果这类图混进训练集过多模型会偏向输出空预测。4.2 针对小目标害虫的四个必调参数跑通之后真正影响这5229张图效果的是下面四个参数。我按优先级排序列成表参数默认值这个数据集的调法原因imgsz640调到1280褐飞虱、轮生蛆在640下只有十几个像素特征被压缩掉batch自动显存不够就降到4或8imgsz变大后显存翻倍batch要跟着降mosaic1.0视情况降到0.5密集小目标被mosaic裁剪后出现大量半截虫close_mosaic10提前到30最后阶段让模型回到完整目标上精修对应的训练命令如下yolo train \ datadata.yaml \ modelyolov8n.pt \ epochs200 \ imgsz1280 \ batch8 \ lr00.001 \ mosaic0.8 \ close_mosaic30 \ patience30imgsz调大是最直观有效的一步但显存代价也最大。batch8跑不动就降到4再不行就换yolov8n或者把imgsz降到960不要硬扛。mosaic这个参数在密集小目标场景要特别注意mosaic会把四张图拼在一起随机裁剪如果褐飞虱的框正好落在拼接缝上模型见到的是半只虫训练多了反而学偏。close_mosaic30的意思是最后30个epoch关闭mosaic让模型回到完整目标上精修边缘回归。训练日志里要盯两个数box_loss和cls_loss。小目标场景box_loss降得慢是正常的真正危险的是cls_loss在后期反弹或恒定不动那多半是类别不均衡导致模型在多数类上过拟合少数类彻底放弃。4.3 目标检测模型微调崩了先查这三个原因模型微调崩了这几年成了高频问题拿5229张图微调YOLOv8最常见的崩法有三种。第一种是loss出现NaN。一般发生在第一个epoch原因多为学习率太大或AMP半精度在浅模型上不稳定。解决把lr0降到0.0005并关掉AMPyolo train datadata.yaml modelyolov8n.pt epochs50 imgsz640 lr00.0005 ampFalse第二种是训练正常但mAP50全程为0。检查顺序train.txt里的路径是否存在labels目录里对应txt是否非空data.yaml的names编号是否从0开始连续。这三个问题都属于黑匣子数据管线日志只会报一句很暧昧的warning。第三种是loss掉得很快但验证集框全贴边通常是归一化时用了XML里错误的size或验证图片没有letterbox模型学了个寂寞。微调崩了的时候不要急着改网络结构也别信“换更深的模型就能解决”这种玄学。按数据路径、标签内容、学习率、AMP顺序排查九成以上的训练事故都出在这几层里。5. 避坑水稻害虫检测最常见的五次训练事故排查5.1 现象训练报错“class id out of range”现象Ultralytics启动时报标签编号越界具体指向某个txt的第几行。原因转换脚本的classes顺序和YOLO读取的标签编号对不上常见的是XML里出现了统计时没发现的第6个类别名转换时类别名没匹配上标签文件里混进了脏数据。解决回到第2章统计脚本把所有name打印全确认classes列表覆盖全部类别后重新生成labels。5.2 现象loss在降但预测框全部贴边或覆盖整张图现象训练后期可视化预测结果框在图像边缘堆积或一个框覆盖大半张图。原因XML坐标和图片尺寸不匹配常见于原图被压缩后XML没有同步更新归一化结果失真也有的是bndbox反序未被矫正。解决检查转换时读到的w/h和实际图片尺寸写一个脚本逐个对比不一致的图用真实尺寸重新转换。5.3 现象褐飞虱漏检率特别高绿叶蝉几乎全被当成叶子现象混淆矩阵里褐飞虱的召回率明显低于其它类而绿叶蝉那一路的false positive主要是背景。原因这两个目标尺度太小或对比度太低imgsz640时特征已经消失另一个原因是训练集里这两类的大目标居多模型没机会看小的。解决imgsz提到1280数据增强里增加尺度抖动必要时对密集区块做切图训练。5.4 现象验证集mAP很高拿到大田拍的照片直接翻车现象在验证集上mAP50超过0.9换一个相机或换一天光照就漏掉大半。原因验证集和训练集来自同一批图片、同一拍摄环境相当于测试集分布泄漏。解决按拍摄时间、田块或光源条件划分验证集不要让同一场景的连续帧同时出现在训练和验证训练时打开光度扰动让模型见过更多色彩偏移。5.5 现象调整参数后效果反而更差且复现不了现象换一个batchsize或imgszmAP下降明显同一份参数跑两次结果不一致。原因数据量本来就少随机初始化、mosaic随机裁剪、数据增强放大了验证集的偶然性有时顺手改动了data.yaml里的path模型实际加载的数据不全。解决固定随机种子把每次训练的超参数存成独立配置比较实验时只改一个变量复现不出来的先查数据目录是否有缓存。6. 最后一步验证模型学到的是害虫而不是背景6.1 看懂混淆矩阵和PR曲线训练结束后不要只看mAP50一个数。去runs/detect/val下找confusion_matrix.png重点看褐飞虱和绿叶蝉的互相串扰程度这两类如果互相误判说明模型在用小虫的“某个局部特征”分类而不是完整虫形。PR曲线里那条陡降的线段对应着置信度阈值应该设在哪密集害虫场景一般要把conf压低到0.2到0.3才能把重叠漏检捞回来。6.2 把预测框画回原图逐类过目这一步最笨但最有效yolo predict modelruns/detect/train/weights/best.pt sourceval_images saveTrue conf0.25保存下来的标注图按类别翻一遍重点看两类一是框住整片叶子的假阳性说明模型学到的是叶型二是框只有几个像素的极端小目标说明imgsz还不够。我遇到过在验证集上正常的模型画完图才发现叶夹稻蝽和蛀干虫的框都偏左上角几个像素那是数据标注本身的系统性偏移。6.3 小目标害虫的进阶验证切图推理和TTA如果画完图确认漏检集中在密集小目标先别急着加epoch试试切图推理把大图切成512或640的patch按patch分别预测再合并结果。常见做法是用SAHI这类切片推理库它能保持原图坐标映射几十行代码就能接入YOLOv8。切图后的召回通常比一次整图推理高不少代价是推理时间变长。另一个低成本技巧是开启TTA让模型对翻转、缩放后的图像各预测一次再投票对小目标召回有实际帮助。我现在的习惯是训练前一定先花十分钟把标签可视化过一遍训练后再把预测框画回原图过一遍。这一步看着笨却能省掉后面所有参数上的玄学调参。5229张图能支撑的模型上限就在那想往下走还得靠切图、补拍和多尺度训练慢慢把精度抠出来。希望帮到你。本文还有配套的精品资源点击获取