方案介绍
基于循道政务大模型的语义理解、知识问答、文本生成等能力,赋能智能咨询数字人、第三代政务服务数智大厅、智能数据治理、政策文件解析、服务改进分析、材料智能生成、“高效办成一件事”等核心场景。
1.智能咨询数字人
通过大模型语义理解能力,全方位识别用户提问,并深度理解用户意图,给出答复。同时循道政务大模型在基础能力上,通过梳理大量政务领域知识,使大模型对政务更专业,回复内容更精准。
2.数据助手
基于政府人员日常办公时存在大量数据查询、调取、库表生成等需求,卓繁基于大模型能力上叠加开发了数据助手功能。实现用户通过自然语言交流对话,即可获取各类可调用数据;同时可支持数表在线预览、下载等方式,支撑工作人员对于各类实际场景的数据需求。
3.政策解读
以往的政策解读工作完全依赖大量的人力工作,并且耗费大量时间。通过循道大模型的政策解读能力,不仅可获得政策自动解读全文的能力,还支持对于政策不同部分、不同内容的关键信息调取、分析。极大的降低了工作人员在解读政策文件时存在的重复劳动问题,精准获取所需信息。
4.公文助手
用户选择要编写公文的类型,输入公文主题、公文重点需求指令,大模型调取模板库内公文模板和公文所需数据,生成相应公文初稿。比如:宣传推广文案、发展规划报告、工作总结。用户可以输入修改意见,大模型根据意见对公文进行优化和完善,用户还可以在线对公文进行修改,修改完成后可以将公文导出成word。
5.服务分析改进
依托循道政务大模型的语义分析、意图识别,并结合知识库能力,主动定位咨询台、综合窗口拾音设备收集的吐槽内容,为输出改进报告提供数据支撑。同时,可以通过语义识别,定位不文明用语,提醒大厅工作人员注意服务用语规范。
6.城市治理
可为城市街道治理提供更全面和精准的支持,帮助政府针对人员聚集、非机动车停放不规范、沿街商铺管理等问题,提供一体化智能处置预案,并由循道大模型根据已有数据信息,制定应急方案,全方位分析后提供更加全面的决策建议,提高城市精细化治理水平。
卓繁基于华为城市智能体架构和大模型底层能力,以“循道”政务大模型赋能政府数据治理、政务服务、政务办公、城市治理等场景,全方位提升城市数智化。未来我们希望能与华为及众多合作伙伴一道,更多参与到构建城市智能体联合解决方案中来,基于AI大模型助力政务便捷服务、数据高效治理、城市精细管理,让城市更温暖、更安全、更智能。
方案架构图
算法/关键配置
适配算法/关键配置名称 | 算法/关键配置描述 |
---|---|
XunDao LLM | 循道政务大模型是在通用大模型的基础上,基于卓繁二十余载的政务行业经验和专业研究团队、大模型和算法团队的技术沉淀,采用领域增强、模型微调、提示工程、集成学习等前沿技术手段,研发出的政务行业的垂域大模型。 |
LoRA | 一种高效的微调方法,其核心思想是通过引入低秩矩阵来近似表示模型权重的更新,而不是直接更新原始的高维权重矩阵,从而减少计算和存储成本。循道政务大模型在开源大模型的基础上,通过LoRA技术可以快速的视线特定应用领域的能力提升。 |
Embedding Model | 重排模型主要用于对从知识库或其他渠道检索返回的知识进行重新排序,以提高输出质量。 |
Rerank Model | Rerank Model主要用于对检索返回的结果进行重新排序,以提高输出质量。 |
优势亮点
- 循道政务大模型优势亮点
- 1.安全可靠的大模型底座
- 循道政务大模型采用备案的开源模型(如Qwen、ChatGLM等)和商业模型(如盘古)作为模型底座,为确保模型能够灵活适应不同的需求和场景,技术团队在模型底座上层实现了模型适配层以满足不同模型的按需切换。通过与开源社区的紧密合作,技术团队能及时获取最新的技术动态,确保大模型相关技术的先进性和可靠性。
- 2.专业全面的政务语料
- 供循道政务大模型微调所用的垂域语料,在采集阶段由数字政府研究院的专家团队调研并制定了严格的数据收集标准。语料数据覆盖了包括法律法规、标准规范、行政主体资格、行业名词、政务服务事项目录、具体事项的办事指南以及政务服务评估等多个方面。原始数据包含了超过600G的政务相关材料,以及超20万条不涉及敏感信息的线上回流数据,其中,由卓繁数字政府研究院原创编写的专业政务材料占比较高,为模型训练提供了优质的政务知识。
- 3.高质量的数据清洗与标注
- 为确保数据集的质量和可靠性,数据团队采取了一系列的数据清洗步骤,包括但不限于缺失值、异常值的检测以及重复数据的合并、移除等操作。上述方法可消除数据集中的噪声和无关信息,为后续的模型训练提供了干净、有效的数据基础。此外,为确保模型训练语料符合《生成式人工智能服务安全基本要求》相关规定,数据团队专人专职,采用线上线下相结合的方式进行了专业的数据标注培训,对最终的语料库采用算法筛查与人工抽检相结合的数据审核手段,确保数据安全可靠,不存在相关规定的5类31种安全风险。
- 4.更低的垂域大模型幻觉风险
- 在高质量的语料基础上,技术团队通过构建正负样本库,采用对抗性训练的方式,增强模型的鲁棒性,在一定程度上缓解过拟合现象,提高模型的泛化能力。此外,基于多年行业经验与数据积累,技术团队使用检索增强生成(RAG)和知识图谱技术,优化知识存储,提高知识的可推理性,减少大模型的幻觉风险的同时提高大模型输出的可信度和可解释性。
- 5.优秀的逻辑推理与数学计算能力
- 技术团队在微调语料中增加了大量的思维链(CoT)、数学应用求解和sql脚本编写相关的语料,在补充大模型政务垂域知识的同时提高大模型的推理能力,使大模型能够在充分理解用户意图的同时能够帮助用户解决更复杂的现实问题,如总结归纳、数据的智慧取用等,使大模型不再只能满足用户的对话咨询需求,而是作为一个切实有效的助手,为用户提质增效。
资源下载
循道政务大模型解决方案.pdf
下载技术认证书
Compatible认证证书.pdf