华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
希望举几个自动寻优工具常见的使用案例及对应的config.toml文件。
1.在无限制的情况下,如何找到模型最大并发数。
2.在无限制的情况下,如何找到模型最大上下长度。
3.在无限制的情况下,如何找到模型最大吞吐速率。
我要发帖子
希望举几个自动寻优工具常见的使用案例及对应的config.toml文件。
1.在无限制的情况下,如何找到模型最大并发数。
2.在无限制的情况下,如何找到模型最大上下长度。
3.在无限制的情况下,如何找到模型最大吞吐速率。