本课程系统讲解基于华为昇腾平台及msModelSlim等工具链的模型量化技术。通过实战教学，使学员掌握模型轻量化部署的核心能力。 第一章：模型量化基础 介绍量化基本动机与收益，阐述FP32至INT8/INT4的数据精度体系，重点解析W8A8、W4A8及稀疏量化等主流方案的原理与适用场景。 第二章：量化方式介绍 以Qwen、LLaMA等主流大模型为例，演示W8A8、W4A8等标准量化流程，并涵盖稀疏量化、Flash Attention 3量化、KV Cache量化等高阶实战技术。 第三章：模型量化回退与精度调优 针对量化精度损失问题，系统讲解回退策略与调优方法，包括权重量化算法选择、异常值抑制与校准集优化等关键技术，通过案例提升实际问题解决能力。 完成本课程后，学员将深入理解量化原理，熟练运用昇腾工具链实施量化压缩，掌握精度调优方法，具备独立完成模型高效部署的专业能力。 为了更高效、准确地传递课程内容，我们采用了语音合成技术，降低人工录制环节的不确定性。目前AI语音可能还不够完美，我们将努力优化播讲效果，力求给您更好的学习体验，同时也欢迎大家推荐更好用的语音合成引擎——您的声音对我们非常重要！