华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
当前使用mindie 版本:2.0RC1
硬件: 2台910B3
模型: DeepSeek-R1-0528-w8a8
关于function call 的问题,mindie 是支持这个特性的
DeepSeek-R1-0528 官方也是支持的
问题: 当前测试发现不支持
这个是什么原因?是量化导致的么?还是部署推理环境的问题?
我要发帖子
当前使用mindie 版本:2.0RC1
硬件: 2台910B3
模型: DeepSeek-R1-0528-w8a8
关于function call 的问题,mindie 是支持这个特性的
DeepSeek-R1-0528 官方也是支持的
问题: 当前测试发现不支持
这个是什么原因?是量化导致的么?还是部署推理环境的问题?