BiRefNet(swin_v1_tiny)模型性能调优,求助有无合适的优化建议
收藏回复举报
BiRefNet(swin_v1_tiny)模型性能调优,求助有无合适的优化建议
t('forum.solved') 已解决
发表于2026-01-09 15:24:54
0 查看
算子替换信息:

NPU不支持模型原本使用的torchvision.ops.deform_conv2d算子,使用 mmcv.ops.ModulatedDeformConv2替换。此外也尝试过torchvision_npu.ops.deform_conv2d算子,性能最好到2.87 its/s。

基本优化手段后的性能

true

距离客户要求还差3倍

Profiling观察结论:

(1)推理的最后阶段有Conv2d算子耗时最长;

(2)除去Conv2d算子,其余部分统计,free占比高,属于单算子调度产生的性能瓶颈; true

希望咨询一下有效的性能优化手段或优化方向。

我要发帖子