性能指标介绍
在计算性能指标中,优先级排序为:吞吐率 > 单步迭代时间 > 线性度 > 内存占用 > 带宽占比 > 训练效率 > 浮点计算次数每秒 > 算力利用率。各指标如下表所示:
指标名称  | 
单位  | 
|---|---|
吞吐率  | 
samples/s、tokens/s  | 
单步迭代时间  | 
s  | 
线性度  | 
values  | 
内存占用  | 
%  | 
训练效率  | 
tokens/day  | 
浮点计算次数每秒  | 
TFLOPS/s  | 
算力利用率  | 
%  | 
通信性能指标  | 
%  | 
Pipeline并行效率指标  | 
%  | 
以下仅对重点的性能指标进行介绍。
父主题: 性能指标