问题描述:
在基于昇腾(Ascend)平台镜像 swr.cn-south-1.myhuaweicloud.com/ascendhub/mindie:2.0.T3.1-800I-A2-py311-openeuler24.03-lts 启动的容器环境中,安装 mamba-ssm 时出现缺少 Triton 框架的问题。具体表现为环境未检测到 Triton 的安装配置。
咨询内容:
1. 在该昇腾容器环境中,如何正确配置 Triton 框架以兼容 mamba-ssm 的安装需求?
2. 是否有针对昇腾硬件平台的 Triton 版本推荐或特定的安装方式?
3. 若需额外依赖(如特定版本的 CUDA/PyTorch),应如何协调与现有镜像环境的兼容性?
补充说明:
* 当前容器基础环境:OpenEuler 24.03 LTS, Python 3.11
* 期望实现:在保持昇腾 NPU 支持的前提下,完成 mamba-ssm 及其依赖(含 Triton)的完整部署;
谢谢!
在基于昇腾(Ascend)平台镜像 swr.cn-south-1.myhuaweicloud.com/ascendhub/mindie:2.0.T3.1-800I-A2-py311-openeuler24.03-lts 启动的容器环境中,安装 mamba-ssm 时出现缺少 Triton 框架的问题。具体表现为环境未检测到 Triton 的安装配置。
咨询内容:
1. 在该昇腾容器环境中,如何正确配置 Triton 框架以兼容 mamba-ssm 的安装需求?
2. 是否有针对昇腾硬件平台的 Triton 版本推荐或特定的安装方式?
3. 若需额外依赖(如特定版本的 CUDA/PyTorch),应如何协调与现有镜像环境的兼容性?
补充说明:
* 当前容器基础环境:OpenEuler 24.03 LTS, Python 3.11
* 期望实现:在保持昇腾 NPU 支持的前提下,完成 mamba-ssm 及其依赖(含 Triton)的完整部署;
谢谢!