当前位置:   article > 正文

2023 re:Invent 使用 PartyRock 和 Amazon Bedrock 安全高效构建 AI 应用程序

2023 re:Invent 使用 PartyRock 和 Amazon Bedrock 安全高效构建 AI 应用程序

前言

“ Your Data , Your AI , Your Future .(你的数据,你的 AI ,你的未来。)

亚马逊云科技开发者社区为开发者们提供全球的开发技术资源。这里有技术文档、开发案例、技术专栏、培训视频、活动与竞赛等。帮助中国开发者对接世界最前沿技术,观点,和项目,并将中国优秀开发者或技术推荐给全球云社区。如果你还没有关注/收藏,看到这里请一定不要匆匆划过,点这里让它成为你的技术宝库!

如果问 2023 年,大家谈论频率最多的几个技术词汇,我想生成式 AI 、大模型一定有一席之地。

11 月 6 日,OpenAI 发布的 GPT Builder ,让 AI App 的开发门槛,降到了“搭积木”的程度。通过将应用开发程序封装进不同的流程模块,用户可以在 GPT Builder 中用设置参数的方式完成应用的开发。

怎样的开发模式,才能做到比 GPTs 的门槛更低?一年一度的 re:Invent 用PartyRock 给出了答案。只要一句话,就能搞定所有的开发流程。Swami 博士在开场中这样说道:“今天,人类和技术之间正展现出前所未有的紧密关系,生成式 AI 正以许多意想不到的方式提升人类的生产力。这种关系让人类与人工智能共同形成新的创新充满了无限可能性。”

以往的生成式 AI ,更像是一本自带操作手册的工具书,你需要遵循规则去不断的进行尝试,比如提示词工程、模型微调掌握各种技能,逐渐熟悉一个全新的领域。从创意到应用落地就更加离不开一定的编程基础了,如果你想创建有特色的AI 应用,又苦于自己不会编程,那么用 PartyRock 就可以很方便创建自定义的 GPT 。最近这是一次让所有普通人都能够平等的享受 AI 红利的机会。

PartyRock 提供的轻量化的 To C 应用的开发环境,无论你是否懂代码、懂架构,都可以快速搭建一个属于你自己的生成式 Al 应用。利用 PartyRock 以及其背后亚马逊云科技强大的生成式 Al 能力( PartyRock 由 Amazon Bedrock 提供支持,它是一项全面管理服务,借助 API 来使用领先各种人工智能基础模型),你可以用拖拽的方式构建一个自己的对话助手,设计一个人物角色生成器,甚至生成一款小游戏。

趁着大会发布,我也体验了一把快速探索 AI 应用的乐趣,接下来让我们动手实验一下吧!

PartyRock - 只需要一个 Idea ,轻松探索 AI 应用

之所以想用 PartyRock 做一些小应用,是源于我自己困扰的一些场景。

提高效率也好,放松娱乐也罢,一直以来个人习惯于将工作中的一些有意思的轮子保留下来,但是由于精力有限,很多 demo 是不连续性的,也意味着没有持续产出。伴随生成式 AI 火热起来,个人也尝试搭建过一些个人知识库。但是效果也比较有限,数据量级太小没有办法对于训练产生有效影响。所以不了了之。

实践下来,倒是一些轻量级的 AI 工具经常收藏,比如 AI 生成周报,AI 的格式整理工具,但是比较难以定制一些个性化需求,比如当我想对现有的工具影响它的输出,比如,我希望对于周报可以进行 AI 工时统计量化的需求,我便无能为力。

Everyone can build AI apps.

PartyRock 的官网简明扼要的概述了它的作用,让每个人都可以构建 AI 应用。PartyRock 的核心在于无代码的应用程序生成器,你可以向它提出任何要求,在短暂的等待后,会给你生成一个满足基本需求的 AI 应用。

一段话生成 AI 应用——面试宝典

1.png

一句话实现 AI 应用,真的这么神奇吗?这里我们在 APP builder 里输出一个具体的想法,尽量描述清楚应用的需求及细节,比如我们想要生成一个面试题库 APP ,输入我们的需求,PartyRock 是支持多语言的,我们这里提出中文需求,看看 AI 模型的理解程度,点击 Generate app 就开始生成了

2.png

稍等一到两分钟,一个面试题库 APP 就生成了,PartyRock 程序较好的理解了我们的语义,并且生成了一个程序。

通过输入关键词和难度,随机生成问题。用户回答后输出正确答案。

3.png

语义识别及 GUI 生成是最基础的,我们还是要实际使用下,生成软件的功能性是否满足我们的需求,

这里我们输入几个关键词: “ CSS3 ” “自适应” “兼容性” 选择难度为困难,可以看到 LLM 比较清晰的输出了一个选择题。

4.png

这里我们选择回答选项,验证一下结果,可以看到整个流程下来还是很好的满足了我们的需求。

5.png

体验到这里,我已经大体了解 PartyRock 的设计,不得不佩服 PartyRock 的脑洞还是很大的,通过生成式 AI+ 工作流的形式,解决了低代码时代的一些问题,在另一个维度实现了无代码编程。

这是一个跨时代的改变,之前的低代码工具大多定位很尴尬,对于程序员只能体现部分生产力的解放,并且随着业务量的积累,在制造轮子维护轮子及平衡定制中不得抽身。另一维度,对于无编程经验的人来说,拖拉拽的实现方式仍然不够友好,做出合格的 UE ,上手成本还是比较高。

与其他细分模型的 AI 助手而言,PartyRock 不仅仅是一个定制版助手,它更是一个普通人快速验证想法的一个工具,真的简约而不简单。

应用拆解分析 一句话生成应用固然便捷,但是提示词工程的试错成本还是比较高的,如果我们有一定的编程基础,还能不能玩一点新花样出来呢?答案是显而易见的。

无论是空模版创建还是,AI 生成的应用,我们会发现,它是有很多小框框组成的,这里我们叫它“元组件”或者“小部件”吧,这和工作流的节点思想是有共性的。

这里我们点击刚刚生成的应用,右上角的编辑发现,实际上小部件是存在不同类型的。挂载着不同的模型实例,并且通过提示词工程,使得用户的输入输出与模型直接进行通信和交互。

6.png

其中使用 @ 符合直接引用其他 widget 生成的内容,让不同小部件建立关联。

比如,我需要根据用户输入的内容进行生成问题,那么我在提示词里面就可以直接引用用户输入的部分;比如利用 “@keywaord” 引用扩写的内容。如下图 Prompt 中高亮的部分。

77.png

如果我们想要改变整个流程的话,只需要增加一个新的 widget ,并且建立上下文的引用就可以进行改造

8.png

而新建的 widget 目前有以上几类,用户输入,文本模型输出、图像模型输出、机器人。

构建一个应用就变成了构建一个工作流或者任务流。我们可以使用 widget 积木式的构建应用,并通过 @ 建立输入输出流的联系,让想象插上翅膀,大脑洞的奇思妙想以及清晰的逻辑,就可以组成很多有趣的创新应用。

分享创意与应用共建

ChatRPG 是官方提供的一个最有趣的案例,而且是比较典型的案例。这个应用利用了 AI 对话实现了文字游戏,你可以通过对话的形式选择不同的事件来推进剧情,同时通过多种组件的灵活运用,让整个文字游戏变的更加场景感。

9.png

受到这个应用的启发,我连夜写了一个小游戏—是男人就活过 100 天。哇太好玩了,根本停不下来。

10.png

没有思路怎么办,没有关系,PartyRock 提供了 remix 的功能,你可以直接复制 ( remix ) 一个别人已经发布的应用,直接修改里面的参数或者提示词。

独乐乐不如众乐乐,当你创建了一个有趣的应用,也可以通过分享自己的应用让大家一起来玩。是不是很有意思呢

到这里,基本的 PartyRock 的体验接近尾声,我们来做个简短的总结:

  • 无代码 AI 生成:PartyRock 以生成式 AI + 工作流的形式实现了一个无代码生成器。实现了 AI 的自建

  • 组件化工作流:通过小组件 widget 的形式,可视化的创建引用关系。其背后是强大的 AI 模型能力集、以及云上能力。

  • 生态共建:通过工作台、分享、clone 的模式,鼓励大家共创共建应用。

观一点而探其貌,究竟是什么赋予了 PartyRock 这么灵活的能力,这就不得不提一下 - Amazon Bedrock

Amazon Bedrock

本次大会还发布了全面托管的生成式 AI 服务-Bedrock,提供了多个领先的高性能基础模型,同时增加了对于 Amazon Titan Embeddings 、 Meta Llama2 的支持。

而 PartyRock 实际上依托于 Bedrock 的强大能力,当开发者或者具有开发能力的公司有相关需求时,可以使用 Bedrock 提供的 AI21 Labs、Anthropic 、 Cohere Inc. 、 Meta Platforms Inc. 、 Stability AI Ltd .等领先人工智能公司的高性能模型以及亚马逊的定制模型,构建自己的人工智能应用。

简单来讲,常见的汇总文档、对话助手、生成图像以及提供人工智能驱动的搜索等实用功能都可以通过 Amazon Bedrock 去构建。

2023 re:Invent 思考与展望

通过本次大会的学习与产品体验,我感觉 AI 的应用重构未来会成为一种趋势。

看本次发布的产品,从基础设施层的 Inferentia 和 Trainium ,模型工具层的 Amazon Bedrock 再到应用层的 Amazon CodeWhisperer 。这说明 AI 的深度基建正在逐步建立起来,完整的产品体系逐步的形成共识。

未来会出现越来越多类似 PartyRock 的应用,会将基础建设进行封装,用户看到的是所见即所得的轻量化应用。越来越多的应用都会 AI 化

未来的交互式 AI

我一直在想未来的生成式 AI 的交互会向什么方向发展。简单、高效、准确是我在使用 C 端 AI 产品的几个核心需求。

结合大会及动手实验,PartyRock 相较于 GPTs 的优势,除了亚马逊云科技自研的模型 Titan 支撑,灵活性也是非常可圈可点的,PartyRock 的 0 代码交互十分适合小白,通过工作流的形式串联起多个 AI 模型,“搭积木”的方式快速的实现一个定制应用。

另一方面相较于已经展露头角的 OpenAI ,PartyRock 生成的 AI 应用,既可以上架 IOS 和安卓等主流操作系统,也能作为一个网站发布。多种形态意味着有更多种可能,甚至跨平台进行互动。这点希望后面会产生相关的应用或者功能,一定会非常吸引眼球的。

安全的 AI

大会的一个重要议题,是如何高效快速的让 AI 应用落地,同时保证数据安全。

生成式 AI 作为一把双刃剑,在创立发展的数十年都饱受争议,前段时间沸沸扬扬的奥特曼离职时间也为商业化与 AI 伦理,安全问题敲响了警钟。这次大会中 Adam Selipsky 博士也提出了“负责任的 AI 。”这个概念。我认为,AI 安全性在两个维度去思考。一方面是生成的内容一定应该是合规的;另一方面是作为模型基础的训练数据应该是安全的。数据安全及知识产权是企业应用 AI 的一个重要考量。作为一个团队的 leader ,工程化、安全性、稳定性、以及投入产出比是我在研发基础建设上考虑的几个核心维度。企业应用,只有确保安全,AI 才能越走越稳,长期发展。

同时本次大会很多创新案例,也真正体现了在 AI 浪潮中把握数据价值的重要性,给创业者使用 AI 创业提供了一些可行性的思路,在 AI 在逐步替代劳动生产力的同时,对于个人而言,如何在 AI 浪潮的风口上提升个人能力,把握时代的机会,这个课题,即是挑战,同时也是机遇!

文章来源:2023 re:Invent 使用 PartyRock 和 Amazon Bedrock 安全高效构建 AI 应用程序

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/我家自动化/article/detail/288987?site
推荐阅读
相关标签
  

闽ICP备14008679号