当前位置:   article > 正文

开始在 Amazon Bedrock 中使用 Claude 3 Haiku 模型吧!

开始在 Amazon Bedrock 中使用 Claude 3 Haiku 模型吧!

9ecd1d81e3a59ca73590b3e46198cb08.gif

本文作者 Channy Yun 

亚马逊云科技首席开发者布道师

翻译&编辑 Claude 3 Haiku

昨天,Claude 3 Haiku 已正式登陆 Amazon Bedrock(点击此处查看介绍)Claude 3 Haiku 基础模型是 Claude 3 系列中最快速、最紧凑的模型,专为近乎瞬时的响应性和模仿人类互动的无缝生成式 AI 体验而设计。通过 Amazon Bedrock 访问 Claude 3 Haiku 模型,您可以为需要快速和准确定向性能的企业构建近乎即时响应的生成式 AI 应用程序。本文将带您开始在 Amazon Bedrock 中使用 Claude 3 Haiku 模型。

要了解更多关于 Claude 3 Haiku 特性和功能,您可以通过 Amazon Bedrock 访问 Anthropic Claude 系列模型:

https://aws.amazon.com/bedrock/claude/

开始使用 Claude 3 Haiku

如果你是 Anthropic 模型的使用新手,请前往 Amazon Bedrock 控制台,在左下角窗格中选择"Model access"。单独请求获取 Claude 3 Haiku 的访问权限

806631f508996c63e8d833ccf266320f.jpeg

要在控制台中测试 Claude 3 Haiku,请在左侧菜单窗格中选择"Playgrounds"下的"Text or Chat"。然后选择"Select model",选择"Anthropic"作为类别,选择"Claude 3 Haiku"作为模型。

3eeb47ada6e148019ac2c766100ae544.png

要测试更多 Claude 提示示例,请选择"Load examples"。你可以查看和运行特定于 Claude 3 Haiku 的示例,如包含引用的高级问答、制作设计简报,以及非英语内容生成。

使用"Compare mode",你还可以使用样本提示比较 Claude 3 Haiku 和 Claude 2.1 模型的速度和智能,以生成个性化的电子邮件响应来解决客户问题。

0b5042dc8c782ab774e04a1c7abc5614.gif

通过选择"View API request",你还可以使用亚马逊云科技命令行界面(Amazon CLI)和 Amazon SDK 中的代码示例访问该模型。这里有一个 Amazon CLI 命令的示例:

 Bash 

  1. aws bedrock-runtime invoke-model \
  2.     --model-id anthropic.claude-3-haiku-20240307-v1:0 \
  3.     --body "{\"messages\":[{\"role\":\"user\",\"content\":[{\"type\":\"text\",\"text\":\"Write the test case for uploading the image to Amazon S3 bucket\\n\"}]}],\"anthropic_version\":\"bedrock-2023-05-31\",\"max_tokens\":2000,\"temperature\":1,\"top_k\":250,\"top_p\":0.999,\"stop_sequences\":[\"\\n\\nHuman:\"]}" \
  4.     --cli-binary-format raw-in-base64-out \
  5.     --region us-east-1 \
  6.     invoke-model-output.txt

使用新的 Anthropic Claude Messages API 格式进行 API 请求,它允许更复杂的交互(如图像处理)。如果你使用 Anthropic Claude Text Completions API,你应该从 Text Completions API 升级。

这是一个 Python 代码示例,用于发送描述图像文件的 Message API 请求:

 Python 

  1. def call_claude_haiku(base64_string):
  2.    prompt_config = {
  3.        "anthropic_version": "bedrock-2023-05-31",
  4.        "max_tokens": 4096,
  5.        "messages": [
  6.            {
  7.                "role": "user",
  8.                "content": [
  9.                    {
  10.                        "type": "image",
  11.                        "source": {
  12.                            "type": "base64",
  13.                            "media_type": "image/png",
  14.                            "data": base64_string,
  15.                        },
  16.                    },
  17.                    {"type": "text", "text": "Provide a caption for this image"},
  18.                ],
  19.            }
  20.        ],
  21.    }
  22.    body = json.dumps(prompt_config)
  23.    modelId = "anthropic.claude-3-haiku-20240307-v1:0"
  24.    accept = "application/json"
  25.    contentType = "application/json"
  26.    response = bedrock_runtime.invoke_model(
  27.        body=body, modelId=modelId, accept=accept, contentType=contentType
  28.    )
  29.    response_body = json.loads(response.get("body").read())
  30.    results = response_body.get("content")[0].get("text")
  31.    return results

要了解更多关于 Claude 3 的示例代码,请参见这几篇社区文章:

  • 开始使用 Claude 3 on Amazon Bedrock

    https://community.aws/content/2bjzGyr9ZNmExZRzCsG5jXqvVUW/building-with-claude-3

  • 使用 Claude 3 Sonnet on Amazon Bedrock 创建 Diagrams to CDK/Terraform

    https://community.aws/content/2dGNoE0ovO4kSQFvSGgpFFHVgeh/image-to-cdk

  • 使用 Claude 3 on Amazon Bedrock 预测板球比赛获胜者

    https://community.aws/content/2dXbDsTUDNVU3RH5NwtfBpZjKre/predicting-cricket-match-winner-with-amazon-bedrock---anthropic-claude-3-sonnet-model

现已可用

Claude 3 Haiku 现已在美国西部(俄勒冈)地区提供,更多地区即将推出。请查看完整的地区列表以获取最新更新:

https://docs.aws.amazon.com/bedrock/latest/userguide/models-regions.html

Claude 3 Haiku 是性价比最高的选择。例如,与 Claude Instant 相比,Claude 3 Haiku 的每 1,000 个输入/输出 token 的价格低 68%,同时具有更高的智能水平。要了解更多信息,请参见 Amazon Bedrock 定价:https://aws.amazon.com/bedrock/pricing/

今天就在亚马逊云科技控制台上体验一下 Claude 3 Haiku on Amazon Bedrock 吧!

  • 原文链接:

    https://aws.amazon.com/blogs/aws/anthropics-claude-3-haiku-model-is-now-available-in-amazon-bedrock/

本篇作者

26d1cd230c623c5b133999f5e26bbe4c.jpeg

Channy Yun

亚马逊云科技的资深开发者布道师。他致力于帮助开发者使用最新的亚马逊云科技服务构建现代应用程序。他是一个务实的开发者和博客作者,热衷于社区技术学习和分享,帮助开发者参与全球亚马逊云科技用户组。他的主要研究方向包括开源、容器、存储、网络与安全以及物联网。

684b59dacbf88f672a2775093dd87e9e.gif

星标不迷路,开发更极速!

关注后记得星标「亚马逊云开发者」

28088629c8062af51bfba69d35388680.gif

听说,点完下面4个按钮

就不会碰到bug了!

c6fd5ca3d4782040a3001487349d7bea.gif

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/Monodyee/article/detail/263275
推荐阅读
相关标签
  

闽ICP备14008679号