当前位置:   article > 正文

在 Amazon SageMaker JumpStart 部署零一万物领先大模型,只需三步!

在 Amazon SageMaker JumpStart 部署零一万物领先大模型,只需三步!

023dacaed28542289fd045455dfeca74.gif

Amazon SageMaker JumpStart 上线的由零一万物提供的基础模型 Yi-1.5 6B/9B/34B,为中国企业提供丰富模型选择的同时满足了企业对安全合规、快速扩展、免运维的需求。作为首批登陆中国区域 Amazon SageMaker JumpStart 的中文基础模型,Yi-1.5 与亚马逊云科技托管服务深度集成,助力中国企业应用一流的生成式 AI 技术实现本土创新与业务转型。

什么是

Amazon SageMaker JumpStart

Amazon SageMaker JumpStart 是一个机器学习中心  (ML Hub),可以帮助企业加速机器学习构建之旅。借助 Amazon SageMaker JumpStart ,企业可以快速发现、评估和部署包括来自 HuggingFace 和零一万物等基础模型,以执行多种机器学习任务,比如文章摘要和图像生成。Amazon SageMaker JumpStart 中预训练模型还可以根据客户的用例和数据完全定制,客户可以轻松使用图形化界面或 SDK,将定制后的模型部署到生产环境中。

此外,客户可以访问预制的解决方案来满足常见用例的需求,比如图像或文本分类,并在组织内共享模型和笔记本,以加速机器学习模型的构建和部署。

Amazon SageMaker JumpStart 的主要优势包括:

  • 内置超过 400 种各类基础模型、算法和机器学习解决方案。

  • 可使用图形化或 SDK 访问,轻松点击几下即可部署,无需专业的机器学习知识

  • 可基于自定义数据集定制基础模型,满足垂直领域场景需求。

  • 可在组织内灵活共享机器学习模型和笔记本,以加速机器学习模型的构建和部署

什么是 Yi-1.5 模型?

Yi-1.5 系列开源大模型是零一万物此前推出的备受好评的 Yi 系列模型的升级版,分为 6B、 9B、 34B 三个版本,采用 Apache 2.0 许可证。Yi-1.5 在前作的基础上使用高质量的 500B Token 进行持续预训练,因此延续了 Yi 系列开源模型的出色表现,其主要优势包括:

  • 支持 200K 长上下文:强大的 “大海捞针” 长文本检索能力,能够处理大量信息和长文本内容

  • 卓越的语言理解和生成能力:在 MMLU 等基准测试中表现出色,展现了优秀的语言理解、常识推理、阅读理解等核心语言能力,能为客户提供高质量的文本分析和生成服务

  • 强大的推理、执行和编码能力:Yi-1.5 版本在推理、指令执行、编码等领域得到全面提升,能够胜任更多复杂的任务,为客户解决实际问题提供了有力支持

  • 高质量的对话交互能力:Yi 系列经过微调的对话模型在 LMSYS Chatbot Arena 等主要评估平台上获得了较高的人类偏好率,能够提供自然流畅的对话交互体验,满足客户对智能对话系统的需求

发现模型

您可以通过 Amazon SageMaker Studio UI 和 Amazon SageMaker Python SDK 访问基础模型。本文以 Amazon SageMaker Studio 为例。

Amazon SageMaker Studio 是一个集成开发环境( IDE ),提供了一个基于 Web 的可视化界面,您可以在其中访问专门构建的工具,执行所有机器学习开发步骤,从准备数据到构建、训练和部署您的机器学习模型。有关如何开始使用和设置 Amazon SageMaker Studio 的更多详细信息,请扫描下方二维码查看。

ff560d5008d40f7a535d09ffc0b21d6d.jpeg

开始使用

Amazon SageMaker Studio

从 Amazon SageMaker Studio 中的 Amazon SageMaker JumpStart 入口进入之后,以零一万物的 Yi 模型为例, 您可以在搜索栏 (provider  search box) 中搜索 Yi 来找到所有的 Yi 系列模型。

4ad94c23869904ddf045611afafc2b60.png

单击模型卡片会打开如下的模型详情页面,从该页面点击右上方的 Deploy 可以快速进入模型的部署流程。

8e8a73c2f2dcdeeab83fa4e41c70785e.png

立即体验

即刻使用 Amazon SageMaker JumpStart 体验零一万物 Yi-1.5 6B/9B/34B 及更多全球领先基础模型,扫描下方二维码,从 PC 端开始实验!

5c70feeca7dc98e0d531d41db7629a90.png

34d79550b9eee49fcf18a9faeee69f91.png

bfaaf1518f7bf18b57bd2e31d70d35f4.gif

星标不迷路,开发更极速!

关注后记得星标「亚马逊云开发者」

听说,点完下面4个按钮

就不会碰到bug了!

ffb2d54e2eb69dad55b52f72cf3055e2.gif

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/从前慢现在也慢/article/detail/844629
推荐阅读
相关标签
  

闽ICP备14008679号