Milvus 老友汇｜RAG 场景、电商平台、AI 平台……如何用向量数据库构建业务方案？

近日，Milvus 老友汇·Arch Meetup 在深圳圆满落幕。本次 Meetup 由 Milvus 社区携手 Shopee 共同举办，同时还邀请到来自 AWS、点石科技的技术专家，分享电商行业、RAG 场景、AI 平台等如何基于向量数据库构建业务方案。

以下是本次 Meetup 的重点内容：

• Zilliz 开发者生态布道师 李成龙 《Milvus 2.4 新版本解读—— GPU、多模态、RAG 增强》

• Shopee MMU 团队技术专家 田方聪《Shopee 在 MMU 业务的向量检索系统实践及探索》

• Zilliz 解决方案架构师 张翔《使用 Zilliz Cloud 快速构建 AI 应用》

• 点石科技董事副总经理 苏佺道《使用向量数据库打造爱晚亭产品》

• 亚马逊云科技解决方案架构师 陈明栋《 亚马逊云科技生成式 AI 服务介绍及案例分享》

01.Milvus 2.4 新版本解读 -- GPU、多模态、RAG 增强

Zilliz 开发者生态布道师李成龙分享的主题是《Milvus 2.4 新版本解读-- GPU、多模态、RAG 增强》。他详细为大家介绍了 Milvus 2.4 版本的新特性以及这些功能开发背后的小故事。

李成龙提到，Milvus 2.4 包含以下新功能特性：Multi-Vector 多向量列、Grouping search 聚合搜索、Inverted Index 倒排索引、Milvus CDC 生态工具、GPU index 百倍加速、FP16/BF16 support 新数据格式、Sparse vector(beta) 稀疏向量、Embedding Libs 集成 Embedding。除了新功能特性，Milvus 2.4 还进行了不少重要的优化，包括 SDK 全面升级、Mmap optimization 容量更大、支持更多的 collections、Introduce L0 Segment、Refactor bulkinsert logic、Filtered search improvement。

现场，李成龙还向开发者介绍了 Milvus 北极星计划，具体详情可阅读《Milvus 社区在线寻找「北辰使者」！！！》了解。

02.Shopee 在 MMU 业务的向量检索系统实践及探索

Shopee MMU 团队技术专家田方聪分享的主题是《Shopee 在 MMU 业务的向量检索系统实践及探索》。他表示， Shopee 多媒体理解（MMU）团队自 2021 年开始使用 Milvus，并跟随 Milvus 社区发展在电商、直播和短视频等核心业务场景下成功落地向量检索业务。现场，田方聪着重介绍了 Milvus 在多媒体内容理解业务中的工程架构，以及 MMU 团队在 AI 模型服务的平台化实践。

田方聪提到了 Shopee 与 Milvus 联系紧密的实时检索业务和短视频去重业务，他认为 Milvus 团队提供的稳定向量检索能力、多样化功能特性，为 MMU 团队在向量检索场景搭建业务系统时提供极大的便利，其可靠的分布式扩展能力有效支撑了日益增长的数据规模。详细介绍可参考《用户案例｜Shopee 在多媒体理解业务的向量检索系统实践》。

03.使用 Zilliz Cloud 快速构建 AI 应用

Zilliz 解决方案架构师张翔的分享主题为《使用 Zilliz Cloud 快速构建 AI 应用》。他重点介绍了 Zilliz Cloud 的核心优势以及如何基于Zilliz Cloud 构建 RAG 应用。

张翔介绍，Zilliz Cloud 由 Milvus 原厂打造，提供全托管的 SaaS 向量数据库服务，具备深度优化、开箱即用的 Milvus 体验。使用 Zilliz Cloud 可以轻松构建百亿级向量数据库，分钟级部署和扩展向量搜索服务，并由全球最专业的向量数据库团队提供运维、优化、及综合支持。值得关注的是，Zilliz Cloud 上线了 Pipelines，它可以将文档、文本片段和图像等非结构化数据转换成可搜索的向量并存储在 Collection 中，帮助开发者简化工程开发，助力其实现多种场景的 RAG 应用，将复杂生产系统的搭建和维护简化成 API 调用，为 AI 应用开发者赋能。

最后，张翔还介绍了 Zilliz AI 初创计划，该计划预计提供总计 1000 万元的 Zilliz Cloud 抵扣金，致力于帮助 AI 开发者构建高效的非结构化数据管理系统，助力打造高质量 AI 服务与运用，加速产业落地《千万元补贴助力 AI 应用探索！「Zilliz AI 初创计划」已开启》。

04.使用向量数据库打造爱晚亭产品

点石科技董事副总经理苏佺道进行了名为《使用向量数据库打造爱晚亭产品》的主题演讲，他主要介绍了点石科技旗下爱晚亭如何利用向量数据库在 AI 领域打造创新的爱晚亭数字员工系统。此系统通过训练及高度准确的机器学习模型，实现了人工智能员工的智能化管理，能够在不同场景如客户服务、数据分析和自动化工作流程中提供定制化支持。

苏佺道提到，除了数字员工系统，爱晚亭 AI 平台还包含大模型 PK 系统，它集成了 10 多个业界主流的大模型，包括GPT4.0、3.5、谷歌 Gemini、讯飞星火、百度文心一言等。最后，系统的多模态 AI 模块提供了文件分析、图片分析、AI 绘画、AI PPT、AI 生成歌曲等多种功能。

提及选择使用 Zilliz Cloud 的原因，苏佺道表示：首先，Zilliz Cloud 的生态最成熟，案例最多；其次，Zilliz Cloud 非常适合 AIGC 应用场景，其具有托管式的服务、起步成本低、功能丰富的优势；最后，Zilliz Cloud 还提供专业的团队服务，能够有效及时地解决使用过程中遇到的问题。

05.亚马逊云科技生成式 AI 服务介绍及案例分享

亚马逊云科技解决方案架构师陈明栋分享的主题为《 亚马逊云科技生成式 AI 服务介绍及案例分享》。他提到，Amazon Bedrock是亚马逊云科技提供的模型托管服务，提供统一的服务入口让用户安全、快捷构建生成式 AI 应用。陈明栋首先分析了 Bedrock 的功能，随后提到了做为 LLM 记忆体的 RAG 向量数据库对基于 Amazon Bedrock 的Anthropic Claude 3 的生成式 AI 应用构建实践探讨。

在检索增强（RAG）应用场景分享时，陈明栋提到，当上下文窗口（context window）受限时， RAG 的方案可以有效帮助解决其中的成本问题。而以 Zilliz Cloud 和 Milvus 为代表的向量数据库则是 RAG 重要的三大基本组件之一。以电商客户为例，他们需要对产品评论进行总结。首先需要将所有评论向量化，找出相关性最高的评论；随后将这些评论传递给 LLM 进行总结。

以上就是本次 Meetup 的全部内容了，期待和大家下一次的线下相见~

• 好消息，Milvus 社区正全网寻找「 北辰使者」！！！ ​
• 如果在使用 Milvus 或 Zilliz 产品有任何问题，可添加小助手微信 “zilliz-tech” 加入交流群。 ​
• 欢迎关注微信公众号“Zilliz”，了解最新资讯。