当前位置:   article > 正文

【Claude3】基于Amazon Bedrock宝藏平台限时玩转Claude 3 大模型

【Claude3】基于Amazon Bedrock宝藏平台限时玩转Claude 3 大模型

快速上手体验Claude 3模型链接入口:https://lab.amazoncloud.cn/demo/qrcode?trk=KOCKOL

Claude 3模型在Amazon Bedrock限时体验活动即将于3月11日零点正式结束。

通过本博文,将了解体验到在Amazon Bedrock中Claude 3的基本使用方法,以便快速构建强大安全的Large Language Model应用。

前言

在 Anthropic 的 Claude 模型系列(Haiku、Sonnet 和 Opus)中,客户可根据自身的业务需求选择具备适当智能、速度和成本的模型。公司最强大的模型 Claude 3 Opus 已就基准设定市场标准。所有最新的 Claude 模型都具有可处理和分析图像数据的视觉功能,从而满足了日益增长的如下需求:可处理不同数据格式的多模式人工智能系统。 尽管该系列的总体性能令人印象深刻,但 Claude 3 Haiku 是其智能类别市场中最实惠、最快速的模型之一。

一、什么是Amazon Bedrock

Amazon Bedrock 则是一项完全托管的服务,可通过单个 API 提供来自 AI21 Labs、Anthropic、Cohere、Meta、Stability AI、Mistral AI 和 Amazon 等领先人工智能公司的高性能基础模型,以及通过安全性、隐私性和负责任的 AI 构建生成式 AI 应用程序所需的一系列广泛功能。


通过 Amazon Bedrock,客户可以轻松使用 Anthropic 的最新模型进行构建。这不仅包括自然语言模型,还包括扩展的多模态人工智能模型,能够跨文本、图像、图表等进行高级推理。我们的合作已经帮助客户加速了生成式 AI 的采用,并为他们带来了商业价值。

二、Bedrock和Claude3的关系

目前 Amazon Bedrock是第一个也是唯一一个提供 Claude 3 Sonnet 的托管服务。

Anthropic 公司的 Claude 3 Sonnet 基础模型现已在Amazon Bedrock ( 海外区域) 上全面可用(GA)。

Claude 3 Sonnet 模型现在已可在亚马逊云科技的 Amazon Bedrock 正式可用!下一代 Claude (Claude 3) 的三个模型 Claude 3 Opus、Claude 3 Sonnet 和 Claude 3 Haiku 都将陆续登陆 Amazon Bedrock。目前Amazon Bedrock 是第一个也是唯一能提供 Claude 3 Sonnet 的托管服务。

Anthropic 目前的评估表明,Claude 3 模型系列在数学应用题解决(MATH)和多语言数学(MGSM)基准(目前用于大语言模型的关键基准)方面优于同类模型。Claude 3模型的视觉功能经过训练,可以理解不同格式的结构化和非结构化数据,不仅是语言,还包括图像、图表、图表等。模型还具备一流的基准水平,在数学问题、编程练习和科学推理等标准化评估方面超越了现有模型。并且Claude 3模型通过宪法人工智能技术减轻幻觉,这些技术为模型的推理提供了透明度,并提高了准确性。

通过 Amazon Bedrock,客户可以轻松使用 Anthropic 的最新模型进行构建, 包括自然语言模型、多模型人工智能模型,可跨文本、图像、图表等进行高级推理。

Claude 3 模型系列可满足各种需求,允许客户选择最适合其特定用例的模型,在 Amazon Bedrock 上运行Claude 3 模型,可以为各种规模的组织提供多项重要服务:

  • 大幅提升性能: 由于硬件和软件的优化,Claude 3 模型的实时交互速度显着加快。
  • 准确性和可靠性: 通过大规模扩展以及新的自我监督技术,上下文中复杂问题的准确性预期提高 2 倍,这意味着人工智能更加有用、安全和诚实。
  • 简单、安全定制: 定制功能,例如检索增强生成(RAG),可以简化专有数据的训练模型,并构建由不同数据源支持的应用程序,以便客户根据自己的独特需求进行人工智能调整。

三、访问Amazon Bedrock UI

如果是第一次使用 Anthropic 模型,请前往 Amazon Bedrock 控制台,然后在左下方窗格中选择模型访问权限。单独申请 Claude 3 Sonnet 的访问权限。

image-20240309102248473

image-20240310160602603

四、在playgrounds中选择Claude模型

在左侧的导航栏中点击 Playgrounds - Chat

image-20240310154822709

点击 Select model 来选择我们要使用的基础模型(大语言模型)

image-20240310154928685

首先选择 Anthropic 的 Claude 3 模型来体验其强大的推理能力和中文处理能力,点击 Apply

image-20240309174735181

五、与Claude 3 Sonnet 开启聊天互动模式

首先,将 Maximum Length 调整到 4096(防止返回结果因为 token 限制被截断; UI 上的限制为 4096 token, API 支持最大 token 为 200k),如下图所示。

image-20240310155126358

其次,通过 Chat 来让 Amazon Bedrock 回答问题“请列出kubernetes中有哪些Pod状态?”。将该问题输入到聊天窗口中,点击 Run。

image-20240310155358308

可以在对话区域看见大模型的返回结果;同时也可以在最下方看见我们这次调用的耗时,输入输出 token 数以及花费(本实验不会产生任何花费或账单)

image-20240310155434623

六、利用Claude 3 Sonnet充当文本处理工具

通过动画演示效果,Claude在回答质量上,速度响应上都领先同类型模型。

2

image-20240310160135974

七、总结


对使用 Claude 3 模型与 Amazon Bedrock 聊天,进行基本文字处理以及文生图等功能有了初步了解,但 Claude 3 模型家族的强大远不止于此。经过训练的 Claude 3 模型家族,除去本次体验的功能外,也可理解图表、技术示意图等不同格式的结构化和非结构化数据;同时在数学问题、编程练习和科学推理等标准化评估方面也超越了现有模型;另外该模型也可通过人工智能技术减轻幻觉,为模型推理提供了透明度,并提高了准确性。


如果经过这次体验,进一步激发了你对模型的兴趣,在 Amazon Bedrock 上不仅可以继续深入了解探索 Claude3 模型家族的更多功能,还能通过 Amazon Bedrock ,找到 Amazon Titan,Command, Mistral 以及 Llama2 等更多基础模型。


八、参考资料

[1] https://aws.amazon.com/cn/blogs/china/anthropics-claude-3-sonnet-foundation-model-is-now-available-in-amazon-bedrock/

[2] https://aws.amazon.com/cn/bedrock/

[3] https://lab.amazoncloud.cn/demo/qrcode?trk=KOCKOL

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/小蓝xlanll/article/detail/236948
推荐阅读
相关标签
  

闽ICP备14008679号