Amazon Bedrock | 大语言模型CLAUDE 2体验_远程调用使用aws bedrock产品的claude模型

这场生成式AI与大语言模型的饥饿游戏，亚马逊云科技也参与了进来。2023年，亚马逊云科技正式发布了 Amazon Bedrock，是客户使用基础模型构建和扩展生成式AI应用程序的最简单方法，为所有开发者降低使用门槛。在 Bedrock 上，用户可以通过可扩展、可靠且安全的亚马逊云科技托管服务，访问从文本到图像的一系列强大的基础模型。

Amazon Bedrock 汇聚了业内几乎所有领先的基础大语言模型，面对不同应用场景，它可以让人们只需通过单一 API 就能用上来自 AI21 Labs、Anthropic、Cohere、Meta Llama2、Stability AI 等公司的先进大语言模型来构建自己的应用。

那么如何在亚马逊云科技体验这个大语言模型的全家桶 Bedrock 呢？

可以通过亚马逊云科技管理控制台、亚马逊云科技软件开发工具包和开源框架（例如 LangChain）访问 Amazon Bedrock 中可用的基础大语言模型。

在 Amazon Bedrock 控制台中，选择左侧导航窗格中的模型访问权限（Model access），然后启用要访问的模型。启用模型访问权限后，可以选择使用 Playground 的交互方式或者 API 方式来使用可用的大语言模型了。

以 Anthropic 公司产品 CLAUDE 2 为例来进行文本生成（Content Generation）：

该示例显示了带有示例响应的提示、示例的推理配置参数设置以及运行该示例的 API 请求。

如果选择 “Open in Playground”，则可以在交互式控制台体验中进一步探索模型和用例。

Amazon Bedrock 提供聊天、文字和图像模型的 Playground。在聊天平台中，可以使用对话聊天界面尝试各种基础大语言模型。以下示例使用 Anthropic 的 CLAUDE 2 模型，来询问中国香港最值得去的餐厅列表：

在评估不同的模型时，应尝试各种提示工程技术和推理配置参数。

在体验交互式大语言模型时，提示工程（Prompt Engineering）是一项非常有用的技能，专注于如何更好地理解基础大语言模型并将其应用于任务和用例。有效的提示词工程可以充分利用基础大语言模型并获得正确而精确的响应。

提示工程(Prompt Engineering)，也称为上下文提示，是一种通过不更新模型的权重/参数来引导大语言模型行为朝着特定结果的方法。

以下示例是接着上面截图中 CLAUDE 2 模型的回复，进一步询问铜锣湾附近值得去的餐厅：

然后追问 CLAUDE 2：“好的，谢谢你，CLAUDE。那么，具体来说，铜锣湾最好的餐馆是什么？”，来测试模型对上下文是否有正确的认知：

这就是在 Amazon Bedrock 控制台中使用大语言模型的体验。大语言模型的世界美妙而有趣，能够如此轻松地就能体验世界顶尖的大语言模型，多亏了亚马逊云科技。