🍊 昇腾端侧部署小白教程:如何远程启动并访问 Jupyter Lab (备考速查表)
收藏回复举报
🍊 昇腾端侧部署小白教程:如何远程启动并访问 Jupyter Lab (备考速查表)
新人帖
发表于2026-03-14 23:54:21
0 查看

🍊 昇腾端侧部署小白教程:如何远程启动并访问 Jupyter Lab (备考速查表)

在进行端侧(如 Orange Pi AI Pro 开发板)AI 模型部署或 RAG 实验时,我们通常没有给开发板接显示器,而是需要通过局域网在自己的电脑(PC)上编写和运行代码。

本教程教你如何一键启动开发板上的 Jupyter Notebook/Lab,并在自己的电脑浏览器中进行丝滑开发!

🛠️ 第一步:SSH 登录开发板

使用你的终端工具(如 MobaXterm、Xshell 或直接使用 CMD/Terminal)通过 SSH 连接到开发板。

  • 默认用户名HwHiAiUser (注意:有些操作可能需要 root 权限,你的日志显示你当前在 root 环境下)

  • 默认密码Mind@123注:如果是首次拿到新系统,大概率是这个。如果不对请尝试 Mind@97 或查阅考题说明

📂 第二步:进入工作目录

进入包含启动脚本的指定文件夹:

Bash

cd /home/HwHiAiUser/orange-pi-mindspore

🚀 第三步:带参数启动 Jupyter 服务 (关键!)

文件夹内有一个 start_notebook.sh 脚本。如果直接运行,它默认只允许开发板自己(127.0.0.1)访问。 为了让我们的 PC 能够通过局域网连接,必须传入 0.0.0.0 作为参数,让它监听所有网络接口:

Bash

# 建议在 (base) conda 环境下运行
./start_notebook.sh 0.0.0.0

💡 小白避坑指南:如果你遇到 Permission denied 报错,说明脚本没有执行权限,先运行 chmod +x start_notebook.sh 再执行上面的命令。

🔗 第四步:提取访问链接与 Token

启动成功后,终端会打印出一大段日志。不要慌,直接往下找,找到类似下面这几行的内容:

Plaintext

To access the server, open this file in a browser:
        file:///root/.local/share/jupyter/runtime/jpserver-13472-open.html
    Or copy and paste one of these URLs:
        http://orangepiaipro:8888/lab?token=7a18efc0795670fb80cb92e985beee44543b24ee7eeb47f6
        http://127.0.0.1:8888/lab?token=7a18efc0795670fb80cb92e985beee44543b24ee7eeb47f6

这里的 7a18efc0795670fb80cb92e985beee44543b24ee7eeb47f6 就是你的专属入场券(Token)。

💻 第五步:在 PC 浏览器中愉快编码

回到你自己的电脑,打开 Chrome 或 Edge 浏览器。 把刚才的链接中的 127.0.0.1 或者 orangepiaipro 替换成 开发板在你局域网中的真实 IP 地址(例如开发板连着 WiFi,IP 是 192.168.1.100)。

最终在浏览器地址栏输入的格式如下: http://<开发板真实IP>:8888/lab?token=7a18efc0795670fb80cb92e985beee44543b24ee7eeb47f6

回车!你就可以看到熟悉的 Jupyter Lab 界面,开始你的 RAG 开发啦!


🚨 明天 RAG 考试的多种可能性预测 (考前必看)

结合华为 ICT 赛道近期的考点和端侧 RAG SDK 的特性,你在操作完上面的步骤进入 Jupyter 后,可能会面临以下几种任务或突发情况:

可能性 1:端口冲突导致启动失败

  • 现象:运行 ./start_notebook.sh 0.0.0.0 时报错 Port 8888 is already in use

  • 解决对策:考题可能故意占用了 8888 端口。你需要修改启动命令或者修改脚本。 由于脚本里直接写死了,你可以直接手敲启动命令换个端口:

    Bash

    jupyter lab --ip 0.0.0.0 --port 8889 --allow-root --no-browser

可能性 2:RAG SDK 环境依赖缺失或需要打补丁

  • 现象:打开 Jupyter 后,运行第一格代码 import mindspore 或引入 RAG 相关的向量库(如 faiss, langchain)时报错 ModuleNotFoundError

  • 解决对策:端侧资源有限,考题可能要求你补全环境。准备好使用 pip 安装:

    Bash

    # 在 Jupyter 开一个 Terminal 或者直接在代码格前面加 ! 运行
    !pip install langchain faiss-cpu sentence-transformers -i https://pypi.tuna.tsinghua.edu.cn/simple

可能性 3:要求验证 NPU (昇腾芯片) 是否被正确调用

  • 现象:模型跑得很慢,或者考题明确要求“利用昇腾 NPU 加速大模型推理和检索”。

  • 解决对策:这是极其核心的考点!你需要知道如何验证代码跑在 NPU 上而不是 CPU 上。

    1. 系统层面检查:在终端运行 npu-smi info,查看 NPU 的内存和算力占用情况。

    2. 代码层面设置:在 MindSpore 初始化时,必须确保设置了正确的上下文:

      Python

      import mindspore as ms
      ms.set_context(device_target="Ascend", device_id=0)

可能性 4:RAG 核心流程的代码填空或排错

  • 现象:Jupyter 里已经给你准备好了一个完整的 .ipynb 笔记本文档,但是关键的 RAG 步骤被留空(如 TODO),要求你补全。

  • 考点预测(RAG 经典三步走,需提前在脑海里过一遍):

    1. 文档加载与切分 (Document Chunking):如何把本地的 .txt.pdf 读进来,按设定的大小(chunk_size)切片。

    2. 向量化与入库 (Embedding & Vector DB):调用昇腾适配的 Embedding 模型,将文本转为向量并存入向量数据库(大概率用轻量级的 FAISS 或 Chroma)。

    3. 检索与生成 (Retrieve & Generate):接收用户提问 -> 向量化提问 -> 在数据库查 Top-K 相似文档 -> 把相似文档作为 Prompt 背景塞给端侧大模型(如 Qwen-1.5B/ChatGLM) -> 大模型生成最终答案。

我要发帖子