大模型推理服务化不同版本,不同框架之间可能存在性能差异,服务化性能数据比对工具支持对使用msServiceProfiler工具采集的性能数据进行差异比对,通过比对快速识别可能存在的问题点。详细介绍请参见《服务化性能数据比对工具》。
MindCluster Ascend Deployer支持通过SSH密钥认证(免密登录)和SSH密码认证两种方式远程连接其他待安装服务器,推荐用户参考以下步骤进行SSH密钥认证。配置HCCN参数时必须配置免密登录。