智谱GLM-4-9B，超越Llama3，多模态媲美GPT4V（附：内部培训资源）_lamma模型与智谱对比

前言

在 2023 年 3 月发布开源对话模型 ChatGLM-6B 后，智谱 AI 迅速成为国内外开源大模型领域的重要力量。今年 6 月，智谱 AI 再次发力，开源了其第四代 GLM 系列模型 —— GLM-4-9B，并首次加入了多模态能力。该模型不仅在性能上超越了 Llama 3 8B，更在多模态能力方面展现出与 GPT-4V 相媲美的实力。

• _Huggingface模型下载：_https://huggingface.co/collections/THUDM/glm-4-665fcf188c414b03c2f7e3b7

• _AI__快站模型免费加速下载：__https://aifasthub.com/models/_THUDM

技术特点

GLM-4-9B 采用了多项技术创新，使其在性能和功能上取得了重大突破：

• 10T 高质量多语言数据： 智谱 AI 在预训练阶段引入了大语言模型参与数据筛选，最终获得了 10T 高质量多语言数据，是 ChatGLM3-6B 模型的 3 倍以上。这一突破性的数据量提升了模型的理解和生成能力，特别是多语言理解和生成能力。

• FP8 技术提升训练效率： 为了提升训练效率，智谱 AI 采用了 FP8 技术进行高效的预训练，相较于第三代模型，训练效率提升了 3.5 倍。FP8 是指使用 8 位浮点数进行模型训练，相比传统的 32 位浮点数，能够显著减少显存占用和计算量，从而加速训练速度。

• 模型规模提升： 为了在有限显存的情况下探索性能的极限，智谱 AI 将模型规模提升至 9B，并将预训练计算量增加了 5 倍。这进一步提升了模型的性能，使其能够处理更复杂的任务，并生成更高质量的文本和图像。

• 长文本处理能力： GLM-4-9B 模型的上下文长度从 128K 扩展到了 1M tokens，这意味着模型能够同时处理 200 万字的输入，相当于两本红楼梦或者 125 篇论文的长度。这得益于智谱 AI 在模型架构和训练方法上的改进，使得模型能够更有效地处理长文本，并保持较高的准确性和效率。

• 多语言能力： GLM-4-9B 支持包括汉语、英语、俄语、西班牙语、德语、法语、意大利语、葡萄牙语、波兰语、日语、荷兰语、阿拉伯语、土耳其语、捷克语、越南语、波斯语、匈牙利语、希腊语、罗马尼亚语、瑞典语、乌克兰语、芬兰语、韩语、丹麦语、保加利亚语和挪威语在内的 26 种语言。智谱 AI 通过扩展词表大小，并对多语言数据进行专门的训练，使得模型在多语言理解和生成任务上取得了显著的提升。

• Function Call 能力： ChatGLM3-6B 模型的函数调用一直广受各大开发者喜爱。GLM-4-9B 模型的函数调用能力更上一层楼，相比上一代提升了 40%，在 Berkeley Function-Calling Leaderboard 上，GLM-4-9B 模型的 Function Call 能力与 GPT-4 不相上下。函数调用能力是衡量模型理解和执行代码的能力，这一提升使得 GLM-4-9B 能够更加灵活地处理用户请求，并能够完成更加复杂的任务。

• All Tools 能力： “All Tools”即模型能够理解和使用一系列外部工具（比如代码执行、联网浏览、画图、文件操作、数据库查询、API 调用等）来辅助回答问题或完成任务。GLM-4-9B 模型支持 All Tools 功能，并提供了完整的 All Tools Demo，用户可以在本地拥有一个轻量级的清言平替。

• 多模态能力： 智谱 AI 首次推出了基于 GLM 基座的开源多模态模型 GLM-4V-9B。该模型采用了与 CogVLM2 相似的架构设计，能够处理高达 1120 x 1120 分辨率的输入图片，并通过降采样技术有效减少了 token 的开销。为了减小部署与计算开销，GLM-4V-9B 没有引入额外的视觉专家模块，而是采用了直接混合文本和图片数据的方式进行训练，在保持文本性能的同时提升多模态能力。

性能表现

GLM-4-9B 在多个方面展现出优异的性能：

• 基础能力提升： GLM-4-9B 的中英文综合性能相比 ChatGLM3-6B 提升了 40%，并在中文对齐能力 AlignBench、指令遵从 IFeval、工程代码 Natural Code Bench 等基准数据上都取得了非常显著的提升。对比训练量更大的 Llama 3 8B 也并不逊色，英文方面实现小幅领先，中文学科方面更是有着高达 50% 的提升。

• 长文本处理： GLM-4-9B-Chat-1M 模型在 1M 的上下文长度下展现出了出色的无损处理能力。

• 多语言能力： 评测显示，ChatGLM-4-9B 模型的多语言能力全面超过了 Llama-3 8B。

• 多模态能力： 尽管 GLM-4V-9B 的参数量仅为 13B，但它成功地超越了许多参数量更大的开源模型，在众多任务中，GLM-4V-9B 的性能与 GPT-4V 不相上下。

应用场景

GLM-4-9B 的强大能力使其在多个领域具有广泛的应用场景：

• 学术研究： 为研究者提供一个可复现、可解释的平台，推动大模型技术的发展。

• 工业应用： 可以被应用于各种需要自然语言处理技术的行业，例如金融、医疗、电商等，为企业提供更加智能化的服务。

• 个人用户： 可以为个人用户提供智能助手、创作工具等服务，提升生活效率和娱乐体验。

总结

智谱 AI 开源 GLM-4-9B，标志着中国开源大模型技术取得了新的突破。该模型在性能和功能方面都展现出强大的优势，并首次加入了多模态能力，为大模型技术发展注入了新的活力。未来，智谱 AI 将持续发展和优化 GLM 系列模型，为更多用户提供更优质、更便捷的服务。

既然大模型现在这么火热，各行各业都在开发搭建属于自己企业的私有化大模型，那么势必会需要大量大模型人才，同时也会带来大批量的岗位？“雷军曾说过：站在风口，猪都能飞起来”可以说现在大模型就是当下风口，是一个可以改变自身的机会，就看我们能不能抓住了。

那么，我们该如何学习大模型？

作为一名热心肠的互联网老兵，我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

一、大模型全套的学习路线

学习大型人工智能模型，如GPT-3、BERT或任何其他先进的神经网络模型，需要系统的方法和持续的努力。既然要系统的学习大模型，那么学习路线是必不可少的，下面的这份路线能帮助你快速梳理知识，形成自己的体系。

L1级别:AI大模型时代的华丽登场

L2级别：AI大模型API应用开发工程

L3级别：大模型应用架构进阶实践

L4级别：大模型微调与私有化部署

一般掌握到第四个级别，市场上大多数岗位都是可以胜任，但要还不是天花板，天花板级别要求更加严格，对于算法和实战是非常苛刻的。建议普通人掌握到L4级别即可。

以上的AI大模型学习路线，不知道为什么发出来就有点糊，高清版可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

三、大模型经典PDF籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

四、AI大模型商业化落地方案

作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。