GetRequestBlockQuotas接口

接口功能

获取remainBlocks、remainPrefillSlots和remainPrefillTokens的值。

接口格式

Status GetRequestBlockQuotas(uint64_t *remainBlocks, uint64_t *remainPrefillSlots, uint64_t *remainPrefillTokens);

接口参数

使用样例

获取剩余block数量，剩余prefill slots数量和剩余prefill token数量。

1
2
3
4

uint64_t remainBlocks;
uint64_t remainPrefillSlots;
uint64_t remainPrefillTokens;
engine.GetRequestBlockQuotas(&remainBlocks, &remainPrefillSlots, &remainPrefillTokens);

返回值

返回获取remainBlocks、remainPrefillSlots和remainPrefill的结果。

• Status(Error::Code::OK)：操作成功。
• Status(Error::Code::ERROR)：操作失败。
• Status(Error::Code::INVALID_ARG)：非法参数。
• Status(Error::Code::NOT_FOUND)：无法找到指定操作。