卢菁博士的AI大模型微调实战训练营课程聚焦企业级应用需求,融合前沿理论与工程实践,旨在帮助学员掌握大模型定制化能力。以下是核心内容梳理:
一、课程核心模块
大模型基础架构
深入解析Transformer、位置编码(如旋转位置编码)、注意力机制等底层原理
剖析主流开源模型架构(如ChatGLM、LLaMA)及训练流程
微调技术实战
全参微调(Full Fine-tuning)与高效微调技术(LoRA、Adapter)对比与实操
领域适应训练:金融、教育等行业专属模型调优方法论
解决行业痛点:模型幻觉抑制、时效性增强、部署优化
外挂知识库技术(RAG)
构建企业专属知识库,实现动态数据接入与实时更新
向量检索优化策略(相似度排序、多路召回),准确率提升方案(实验对比原生模型45%→98%)