【RT-DETR实战】125、模型安全与对抗攻击：当目标检测开始“看走眼”

从一次诡异的误报说起

上周在产线测试RT-DETR部署版本时，遇到一个让我后背发凉的现象：产线上正常通过的电路板，在过检时被模型频繁报出“电容缺失”的缺陷。

但人工复检时，所有电容明明焊得好好的。更诡异的是，只要把板子旋转15度，或者把检测工位的照明灯调暗一档，误报就消失了。

起初怀疑是模型泛化能力问题，但重新训练后问题依旧。

直到我把误报区域的图像像素值打印出来，和正常样本做了个差分——发现误报样本在电容引脚边缘的像素梯度分布存在一种极细微的、规律性的扰动。这种扰动人眼完全无法察觉，但模型却会因此“坚信”那里没有电容。

这就是典型的对抗样本（Adversarial Example）在真实场景中的体现。今天我们就来聊聊，当RT-DETR这类高性能检测器遇到精心设计的“视觉陷阱”时，会发生什么，以及我们能做些什么。

对抗攻击：给模型“下套”的艺术

对抗攻击的本质，是在输入数据上添加人眼难以察觉的扰动，使得模型产生错误的预测。在目标检测任务中，这种攻击可以表现为：

• 让模型“看不见”实际存在的目标（漏检）
• 让模型“看见”不存在的目标（误检）
• 让模型把A类别识别成B类别（类别错乱）

# 一个简单的FGSM攻击示例（示意代码）def