FAQ

• 如何开启加速库的强制同步来定位报错
  
• 当出现undefinedsymbols: xxx这样的报错如何定位
  
• 为什么跑精度数据集的时候，最后的精度结果有浮动
  
• LLM推理结果存在乱码
  
• 什么是确定性计算
  
• 为什么相同输入送入MindIE Server推理，输出存在一定的不确定性
  
• 为什么相同输入，组batch顺序不同，送入LLM模型推理输出不同
  
• 在昇腾上进行LLM推理，如何保证确定性计算
  
• 常见的LLM推理性能优化手段都有哪些
  
• 服务化拉起LLaMA2-13b-hf失败，显示coredump，报错显示和protobuf相关，怎么解决