产品 |
是否支持 |
|---|---|
√ |
|
x |
|
x |
|
x |
|
x |
配置序列长度所在维度，对应底层llm.RefInputSeqLenDimIndex配置项。
1 | kv_seq_len_dim_index(kv_seq_len_dim_index) |
参数名称 |
数据类型 |
取值说明 |
|---|---|---|
kv_seq_len_dim_index |
int |
配置序列长度所在维度。 |
1 2 3 | from llm_datadist import ModelConfig model_config = ModelConfig() model_config.kv_seq_len_dim_index = 1 |
无
无