华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
1.300 I DUO卡是否支持qwen2-1.5b-instruct模型的w8a8量化操作,如若不支持则是否有别的性能优化策略。
2.官方是否有测试开源qwen模型在300 I DUO卡上的推理性能
我要发帖子
1.300 I DUO卡是否支持qwen2-1.5b-instruct模型的w8a8量化操作,如若不支持则是否有别的性能优化策略。
2.官方是否有测试开源qwen模型在300 I DUO卡上的推理性能