【RT-DETR实战】 119、瑞芯微RKNN平台部署实战:从模型转换到板端推理的坑与经验
模型转换的第一道坎
上周三深夜,实验室的RK3588开发板又亮起了红灯。同事传过来的PyTorch模型在RKNN转换时卡在了quantize阶段,日志里那行“Quantization failed due to abnormal values in input data”让人头皮发麻。
这不是第一次遇到量化问题,但每次报错都像在解谜——RKNN的工具链日志总是那么含蓄。
问题出在模型输出层的激活值分布上。RT-DETR的最后一层输出范围太大,直接扔给RKNN的量化工具会出问题。我的临时解决方案是在转换前给模型加个输出裁剪:
classClippedOutputWrapper(nn.Module):def__init__(self,origi