🍊 昇腾端侧部署小白教程:如何远程启动并访问 Jupyter Lab (备考速查表)
在进行端侧(如 Orange Pi AI Pro 开发板)AI 模型部署或 RAG 实验时,我们通常没有给开发板接显示器,而是需要通过局域网在自己的电脑(PC)上编写和运行代码。
本教程教你如何一键启动开发板上的 Jupyter Notebook/Lab,并在自己的电脑浏览器中进行丝滑开发!
🛠️ 第一步:SSH 登录开发板
使用你的终端工具(如 MobaXterm、Xshell 或直接使用 CMD/Terminal)通过 SSH 连接到开发板。
📂 第二步:进入工作目录
进入包含启动脚本的指定文件夹:
Bash
🚀 第三步:带参数启动 Jupyter 服务 (关键!)
文件夹内有一个 start_notebook.sh 脚本。如果直接运行,它默认只允许开发板自己(127.0.0.1)访问。 为了让我们的 PC 能够通过局域网连接,必须传入 0.0.0.0 作为参数,让它监听所有网络接口:
Bash
💡 小白避坑指南:如果你遇到 Permission denied 报错,说明脚本没有执行权限,先运行 chmod +x start_notebook.sh 再执行上面的命令。
🔗 第四步:提取访问链接与 Token
启动成功后,终端会打印出一大段日志。不要慌,直接往下找,找到类似下面这几行的内容:
Plaintext
这里的 7a18efc0795670fb80cb92e985beee44543b24ee7eeb47f6 就是你的专属入场券(Token)。
💻 第五步:在 PC 浏览器中愉快编码
回到你自己的电脑,打开 Chrome 或 Edge 浏览器。 把刚才的链接中的 127.0.0.1 或者 orangepiaipro 替换成 开发板在你局域网中的真实 IP 地址(例如开发板连着 WiFi,IP 是 192.168.1.100)。
最终在浏览器地址栏输入的格式如下: http://<开发板真实IP>:8888/lab?token=7a18efc0795670fb80cb92e985beee44543b24ee7eeb47f6
回车!你就可以看到熟悉的 Jupyter Lab 界面,开始你的 RAG 开发啦!
🚨 明天 RAG 考试的多种可能性预测 (考前必看)
结合华为 ICT 赛道近期的考点和端侧 RAG SDK 的特性,你在操作完上面的步骤进入 Jupyter 后,可能会面临以下几种任务或突发情况:
可能性 1:端口冲突导致启动失败
可能性 2:RAG SDK 环境依赖缺失或需要打补丁
-
现象:打开 Jupyter 后,运行第一格代码 import mindspore 或引入 RAG 相关的向量库(如 faiss, langchain)时报错 ModuleNotFoundError。
-
解决对策:端侧资源有限,考题可能要求你补全环境。准备好使用 pip 安装:
Bash
可能性 3:要求验证 NPU (昇腾芯片) 是否被正确调用
可能性 4:RAG 核心流程的代码填空或排错
🍊 昇腾端侧部署小白教程:如何远程启动并访问 Jupyter Lab (备考速查表)
在进行端侧(如 Orange Pi AI Pro 开发板)AI 模型部署或 RAG 实验时,我们通常没有给开发板接显示器,而是需要通过局域网在自己的电脑(PC)上编写和运行代码。
本教程教你如何一键启动开发板上的 Jupyter Notebook/Lab,并在自己的电脑浏览器中进行丝滑开发!
🛠️ 第一步:SSH 登录开发板
使用你的终端工具(如 MobaXterm、Xshell 或直接使用 CMD/Terminal)通过 SSH 连接到开发板。
默认用户名:
HwHiAiUser(注意:有些操作可能需要root权限,你的日志显示你当前在 root 环境下)默认密码:
Mind@123(注:如果是首次拿到新系统,大概率是这个。如果不对请尝试Mind@97或查阅考题说明)📂 第二步:进入工作目录
进入包含启动脚本的指定文件夹:
Bash🚀 第三步:带参数启动 Jupyter 服务 (关键!)
文件夹内有一个
Bashstart_notebook.sh脚本。如果直接运行,它默认只允许开发板自己(127.0.0.1)访问。 为了让我们的 PC 能够通过局域网连接,必须传入0.0.0.0作为参数,让它监听所有网络接口:🔗 第四步:提取访问链接与 Token
启动成功后,终端会打印出一大段日志。不要慌,直接往下找,找到类似下面这几行的内容:
PlaintextTo access the server, open this file in a browser: file:///root/.local/share/jupyter/runtime/jpserver-13472-open.html Or copy and paste one of these URLs: http://orangepiaipro:8888/lab?token=7a18efc0795670fb80cb92e985beee44543b24ee7eeb47f6 http://127.0.0.1:8888/lab?token=7a18efc0795670fb80cb92e985beee44543b24ee7eeb47f6这里的
7a18efc0795670fb80cb92e985beee44543b24ee7eeb47f6就是你的专属入场券(Token)。💻 第五步:在 PC 浏览器中愉快编码
回到你自己的电脑,打开 Chrome 或 Edge 浏览器。 把刚才的链接中的
127.0.0.1或者orangepiaipro替换成 开发板在你局域网中的真实 IP 地址(例如开发板连着 WiFi,IP 是 192.168.1.100)。最终在浏览器地址栏输入的格式如下:
http://<开发板真实IP>:8888/lab?token=7a18efc0795670fb80cb92e985beee44543b24ee7eeb47f6回车!你就可以看到熟悉的 Jupyter Lab 界面,开始你的 RAG 开发啦!
🚨 明天 RAG 考试的多种可能性预测 (考前必看)
结合华为 ICT 赛道近期的考点和端侧 RAG SDK 的特性,你在操作完上面的步骤进入 Jupyter 后,可能会面临以下几种任务或突发情况:
可能性 1:端口冲突导致启动失败
现象:运行
./start_notebook.sh 0.0.0.0时报错Port 8888 is already in use。解决对策:考题可能故意占用了 8888 端口。你需要修改启动命令或者修改脚本。 由于脚本里直接写死了,你可以直接手敲启动命令换个端口:
Bash可能性 2:RAG SDK 环境依赖缺失或需要打补丁
现象:打开 Jupyter 后,运行第一格代码
import mindspore或引入 RAG 相关的向量库(如faiss,langchain)时报错ModuleNotFoundError。解决对策:端侧资源有限,考题可能要求你补全环境。准备好使用 pip 安装:
Bash可能性 3:要求验证 NPU (昇腾芯片) 是否被正确调用
现象:模型跑得很慢,或者考题明确要求“利用昇腾 NPU 加速大模型推理和检索”。
解决对策:这是极其核心的考点!你需要知道如何验证代码跑在 NPU 上而不是 CPU 上。
系统层面检查:在终端运行
npu-smi info,查看 NPU 的内存和算力占用情况。代码层面设置:在 MindSpore 初始化时,必须确保设置了正确的上下文:
Python可能性 4:RAG 核心流程的代码填空或排错
现象:Jupyter 里已经给你准备好了一个完整的
.ipynb笔记本文档,但是关键的 RAG 步骤被留空(如TODO),要求你补全。考点预测(RAG 经典三步走,需提前在脑海里过一遍):
文档加载与切分 (Document Chunking):如何把本地的
.txt或.pdf读进来,按设定的大小(chunk_size)切片。向量化与入库 (Embedding & Vector DB):调用昇腾适配的 Embedding 模型,将文本转为向量并存入向量数据库(大概率用轻量级的 FAISS 或 Chroma)。
检索与生成 (Retrieve & Generate):接收用户提问 -> 向量化提问 -> 在数据库查 Top-K 相似文档 -> 把相似文档作为 Prompt 背景塞给端侧大模型(如 Qwen-1.5B/ChatGLM) -> 大模型生成最终答案。