一、深夜的推理异常
上周三凌晨两点,我在嵌入式设备上跑RT-DETR的MNN模型时遇到了诡异现象:
同一张测试图片,在PC端推理结果正常,到了ARM板子上却输出一堆乱框。量化参数没对齐?输入尺寸没匹配?还是内存越界了?这种跨平台部署的“玄学问题”正是MNN部署中最磨人的部分。
今天我们就来拆解MNN框架部署RT-DETR的全流程,把那些容易踩的坑一个个填平。
二、模型转换:别急着一键转换
直接从PyTorch转MNN最容易出问题。我现在的固定流程是:
# 先转ONNX,这里有个细节要注意torch.onnx.export(model,dummy_input,"rtdetr.onnx",opset_version=