Llama 3.1：Meta迄今为止规模最大、质量最高的开源模型_llama3.1pdf

早在今年4月，Meta就曾透露正在为AI行业开发一项首创技术：一种性能足以与OpenAI等厂商的最强私有模型相媲美的开源模型。

现如今，这套模型已经问世。Meta发布了有史以来体量最大的开源AI模型Llama 3.1。该公司声称该模型在多项基准测试中优于GPT-4o和Anthropic的Claude 3.5 Sonnet。新版本还为基于Llama的Meta AI助手带来更多国家和语种支持，同时绞架了一项可以根据特定人物肖像生成图像的新功能。公司CEO马克·扎克伯格更是大胆做出预测，称到今年年底，Meta AI将超越ChatGPT成为使用范围最广的AI助手。

Llama 3.1比几个月前发布的小型Llama 3模型复杂得多。其最大的版本拥有4050亿个参数，且使用超过1.6万张英伟达旗舰级H100 GPU训练而成。Meta没有透露Llama 3.1的开发成本，但单纯计算英伟达芯片的采购成本，就可以肯定资金投入不会低于数亿美元。

那么考虑到如此高昂的成本投入，Meta为何执意让Llama模型家族保持开源，将如此重量级的成果免费交付至众多用户手中？在Meta公司通过官博发表的公开信中，扎克伯格宣称开源AI模型终将超越专有模型——而且目前已经展现出优于专有模型的改进速度。这就如同开源Linux系统，如今成为大多数手机、服务器和小装置上的主导操作系统一样。

他还将Meta对于开源AI的投入，与公司早期的开放计算项目（OCP）进行了比较。他表示在Meta规划自己的基础设施容量时，惠普等其他厂商帮助Meta对数据中心设计进行了改进了标准化，帮助其成功节约下“数十亿美元”。展望未来，他预计同样的情况也将在AI领域上演。他在信中写道：“我相信Llama 3.1的发布将成为行业中的又一个转折点，大多数开发人员开始主要依赖开源成果。”

为了帮助将Llama 3.1推向世界，Meta正在与微软、亚马逊、谷歌、英伟达和Databricks等二十多家公司合作，帮助开发人员部署适合自身需求的版本。Meta声称，Llama 3.1在生产环境中的运行成本大约只相当于OpenAI GPT-4o的一半。他们还一并发布了模型权重，以便企业客户能够立足自身数据以模型进行训练，并根据实际偏好做出调整。

根据Meta公司发言人Jon Carvill的介绍，Gemini未被纳入此番基准比较，因为Meta难以使用谷歌提供的AIP来重现其先前声明的结果。

Meta主要合作伙伴清单及其为Llama 3.1部署提供的功能方案。

不出所料，Meta并没有透露太多关于用于训练Llama 3.1模型的数据信息。先后已经有多位曾经在AI企业工作过的雇员表示，由于涉及商业机密，他们无法透露这部分信息。但批评人士则认为，这是一种通过拖延来对抗版权诉讼纠纷的消极策略。

但Meta强调，他们使用的是合成数据，也就是由模型生成、而非来自真实人类的数据。此外，他们还利用4050亿参数版本的Llama 3.1，对原有小型700亿及80亿参数版本模型做出了改进。Meta公司生成式AI副总裁Ahmad Al-Dahle预计，Llama 3.1将在开发者群体当中受到欢迎，因为它堪称“小模型的老师，能够在提升前者性能之后以更具成本效益的方式实现AI部署”。

在被问及Meta是否认可业界日益增长的普遍共识，即可供模型使用的高质量训练数据即将耗尽时，Al-Dahle表示上限确实即将到来，只不过具体期限可能比部分人想象中的更远。“我们相信目前的数据应该还能再支撑几个训练周期，但具体情况也很难说。”

Meta还首次对Llama 3.1进行了红队测试（即对抗性测试），包括借此寻求潜在的网络安全与生物化学用例。而对模型开展严格测试的另一个理由，在于Meta提到的新兴“代理”行为。

例如，Al-Dahle告诉我们Llama 3.1能够与搜索引擎API相集成，以“通过复杂的查询从互联网上检索信息，并连续调用多种工具以完成用户提交的任务。”他还给出另一个例子，就是要求模型绘制过去五年来全美售出的房屋数量。“它可以检索网络结果，生成Python代码并加以执行。”

Meta自己的Llama实现方案是一款AI助手，其功能定位属于类似ChatGPT的通用型聊天机器人，且几乎能够在Instagram、Facebook和WhatsApp的各个功能模块上发挥作用。从本周开始，Llama 3.1将率先通过WhatsApp和美国Meta AI网站对外开放，并在随后几周内正式登陆Instagram与Facebook。此番更新将让Meta AI助手支持更多 新语种，包括法语、德语、印地语、意大利语和西班牙语。

虽然Llama 3.1最先进的4050亿参数模型已经在Meta AI中免费开放，但助手会在一周内提示词超过指定数量后将用户切换至体量更小的700亿参数模型。由此看来，4050亿参数模型对于Meta来说还是太过昂贵，仍无法全面运行。公司发言人Jon Carvil告诉我们，Metra将在评估早期使用情况之后提供关于提示词阈值的更多信息。

Meta AI还提供一项新的“Imagine Me”功能，可以通过手机摄像头扫描用户面部，进而将用户的肖像插入到其生成的图像当中。通过这种方式、而非直接从个人资料照片中捕捉人脸，Meta希望避免其AI功能被deepfakes滥用。该公司意识到越来越多的用户希望创建多种AI媒体，并将结果分享到自己的个人动态之内，尽管这有可能进一步模糊真实与虚假之间的判断边界。

Meta AI也将在未来几周内登陆Quest头显设备，取代其语音命令界面。与Meta Ray-Ban眼镜中的实现效果类似，用户可以在Quest上使用Meta AI来识别并理解头显直通模式下看到的内容，进而通过显示屏解读现实世界。

除了扎克伯格预计Meta AI将在今年年底成为使用率最高的聊天机器人（作为比较，ChatGPT目前拥有超过1亿用户）之外，Meta并未分享其AI助手的任何市场普及度数据。Al-Dahle表示：“我认为整个行业在产品的市场匹配方面仍处于早期探索阶段。”尽管AI科技存在严重的过度炒作之嫌，但Meta及其他参与厂商显然对未来抱有信心，并坚定认为新一轮竞争才刚刚开始。

如何系统的去学习大模型LLM ？

作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。

但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的 AI大模型资料 包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

所有资料 ⚡️ ，朋友们如果有需要全套 《LLM大模型入门+进阶学习资源包》，扫码获取~

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/笔触狂放9/article/detail/984064