性能指标介绍
在计算性能指标中,优先级排序为:吞吐率 > 单步迭代时间 > 线性度 > 内存占用 > 带宽占比 > 训练效率 > 浮点计算次数每秒 > 算力利用率。各指标如下表所示:
指标名称 |
单位 |
---|---|
吞吐率 |
samples/s、tokens/s |
单步迭代时间 |
s |
线性度 |
values |
内存占用 |
% |
训练效率 |
tokens/day |
浮点计算次数每秒 |
TFLOPS/s |
算力利用率 |
% |
通信性能指标 |
% |
Pipeline并行效率指标 |
% |
以下仅对重点的性能指标进行介绍。
父主题: 性能指标