飞桨工程师进课堂！北京理工大学《大模型：算法与实践》重磅上线

为响应国家重大战略需求，教育部发起关键领域工程硕博核心课程建设，此项目以10所国家卓越工程师学院为重要基地，聚焦18个核心领域，每个领域精心打造10门左右核心课程。这些课程专为工程硕博生设计，将理论知识、前沿科技与工程实践紧密结合，旨在培养引领未来的拔尖创新人才。

其中，《大模型：算法与实践》是人工智能领域工程硕博士核心课程之一。本课程由北京理工大学计算机学院教授、人工智能研究院黄河燕院长牵头，中国人民大学与百度飞桨共同参与建设。课程内容丰富，分为八个章节，共计32个学时，知识点涵盖AI大模型概述、预训练语言模型原理与方法、生成式语言大模型构成、大模型微调算法及应用、大模型工程化训练、多模态大模型、智能体大模型和大模型应用案例分析。课程配套课件、讲义、视频和实训项目等多元化教学资源，旨在帮助学生建立扎实的理论基础，体会大模型带来的时代变革，并结合实际案例分析，培养学生的创新思维，树立正确的价值观服务社会。课程已于2024年春季学期在北京理工大学正式开设，面向计算机相关专业硕士/博士生开放选修，并已报备教育部学位中心，在教育部相关教学平台实现开源共享。

百度公司对此高度重视，飞桨总架构师于佃海携资深开发工程师团队共同参与其中“大模型分布式训练和推理部署”部分的课程建设，并于2024年3月现场在北京理工大学进行现场授课，为学生们带来了一堂生动而实用的课程。四学时的课程内容紧凑而深入，依次涵盖了大模型的工程化挑战、使用深度学习框架开发大模型、大模型大规模分布式训练和大模型高效推理部署四大主题。

课程内容表

百度飞桨总架构师于佃海站在时代的前沿，深入剖析了大模型在当前技术背景下所面临的工程化挑战。他指出大模型的崛起不仅为AI开发领域带来了翻天覆地的变革，更在软件开发领域掀起了新的浪潮。这一变革的深远影响，使得深度学习框架在支撑大模型开发范式方面的作用变得尤为突出。其中特别提到，在众多大模型开发框架中，飞桨深度学习框架以其功能完备、训推一体全流程工具链支撑的特点，独树一帜。相较于其他大模型开发框架需要组合使用、存在断点等不足，飞桨为开发者提供了一站式解决方案，有效地解决了大模型在工程化过程中的种种难题。这种高效赋能不仅加快了大模型的研发速度，更在提升模型性能、降低开发成本等方面展现出显著优势。

飞桨总架构师于佃海

百度飞桨资深研发杨老师介绍了使用飞桨框架，从「零」开始搭建大模型的方法，从模型设计、数据准备、训练配置、应用部署和模型评估的全链路解析了飞桨深度学习框架赋能大模型开发的关键原理。通过学习，学生们深入了解了如何使用飞桨框架开发大模型。

飞桨资深研发杨工

百度飞桨资深研发曾老师针对大模型分布式训练的策略进行了深入且细致的讲解。他指出随着大模型参数规模的不断扩大，传统的训练方式已经难以满足需求，对设备的存储和算力都提出了更高的要求。为了应对这一挑战，课程从大模型可训练和大模型高效训练两个关键角度入手，逐层深入，剖析了相应的解决方案和实现原理。在理论学习的基础上，飞桨工程师还指导学生们在飞桨星河社区上完成了大模型分布式训练的随堂实践，通过这一实践过程，学生们不仅深入体会到了使用飞桨深度学习框架实现大模型分布式训练的便捷性和高效性，还进一步巩固和加深了对所学知识的理解和掌握。

飞桨资深研发曾工

百度飞桨资深研发王老师对大模型推理和服务部署方面的知识进行了全面的介绍，分别从大模型高效无损压缩算法和大模型推理部署高性能优化两个维度详细阐述了大模型在推理与部署过程中的技术原理。课堂的实践环节，飞桨工程师手把手带领学生在飞桨星河社区上分别实现了大模型量化算法和大模型的服务化部署。通过实践，学生们切身感受了大模型的训练、推理、部署的全流程实现。

飞桨资深研发王工

课程结束后，学生们对飞桨深度学习框架展现出了浓厚的兴趣，纷纷围绕着自己目前的研究方向与讲师展开了激烈的探讨。

人工智能作为当今科技革命与产业变革的核心驱动力，正在以前所未有的速度重塑人类社会的生产与生活模式。其中，大模型技术更是引领人工智能领域迈向新的里程碑，其深远影响已逐步渗透到各行各业。任何技术与产业的蓬勃发展，都离不开人才这一关键要素，正因如此，百度一直致力于与高等院校建立紧密的合作关系，深化产教融合，以产业实际需求为导向，共同培养具备国际竞争力的人工智能拔尖创新人才。随着大模型技术的兴起，高校人工智能专业教学正迎来新一轮的改革浪潮。百度飞桨积极响应这一趋势，与包括北京理工大学在内的多所知名高校合作，共同开发并建设大模型相关的课程体系。未来，《大模型：算法与实践》课程还将开放给更多高校共享使用，为培养更多优秀的人工智能人才贡献力量。

目前，《大模型：算法与实践》课程的大模型工程化训练章节已上线飞桨星河社区，通过下方链接或扫描二维码可免费学习课程。

课程链接

https://aistudio.baidu.com/education/group/info/31043

（点击阅读原文跳转）

关注【飞桨PaddlePaddle】公众号

获取更多技术内容~

‍