一、问题描述:
MindIE1.0.0容器内尝试跑deepseekv2对话测试demo,执行了examples/models/deepseekv2/run_pa.sh脚本,推理输出为乱码。运行日志详见附件。
所用权重为:deepseekv2-lite-chat-16B
执行指令:
运行结果:

二、系统版本:
1.系统:ubuntu22.04 arm64
2.驱动版本:24.1.rc2

三、镜像版本:MindIE:1.0.0-800I-A2-py311-openeuler24.03-lts arm64
四、容器启动指令:
一、问题描述:
MindIE1.0.0容器内尝试跑deepseekv2对话测试demo,执行了examples/models/deepseekv2/run_pa.sh脚本,推理输出为乱码。运行日志详见附件。
所用权重为:deepseekv2-lite-chat-16B
执行指令:
运行结果:
二、系统版本:
1.系统:ubuntu22.04 arm64
2.驱动版本:24.1.rc2
三、镜像版本:MindIE:1.0.0-800I-A2-py311-openeuler24.03-lts arm64
四、容器启动指令: