性能指标介绍

在计算性能指标中,优先级排序为:吞吐率 > 单步迭代时间 > 线性度 > 内存占用 > 带宽占比 > 训练效率 > 浮点计算次数每秒 > 算力利用率。各指标如下表所示:
表1 参数说明

指标名称

单位

吞吐率

samples/s、tokens/s

单步迭代时间

s

线性度

values

内存占用

%

带宽占比

%

训练效率

tokens/day

浮点计算次数每秒

TFLOPS/s

算力利用率

%

以下介绍各指标具体含义。