GetMaxPositionEmbeddings接口
接口功能
获取maxPositionEmbeddings数值。
接口格式
uint32_t GetMaxPositionEmbeddings() const
接口参数
无。
使用样例
mindie_llm::GetRequestsCallback getRequestCallback; mindie_llm::SendResponsesCallback sendResponsesCallback; mindie_llm::ControlSignalCallback stopSignalCallback; mindie_llm::LlmManagerStatsCallback statsCallback; mindie_llm::SendStatusResponseCallback sendStatusCallback; const std::string llmConfigPath; std::map<std::string, std::string> ipInfo; std::shared_ptr<mindie_llm::LlmManager> llmManager = std::make_shared<mindie_llm::LlmManager>(llmConfigPath, getRequestCallback, sendResponsesCallback, stopSignalCallback, statsCallback, sendStatusCallback,ipInfo); uint32_t maxposition = llmManager->GetMaxPositionEmbeddings();
返回值
返回值为uint32_t类型的maxPositionEmbeddings数值。
父主题: LlmManager