赞
踩
Spring AI 是 Spring 官方社区项目,旨在简化 Java AI 应用程序开发,让 Java 开发者像使用 Spring 开发普通应用一样开发 AI 应用。
Spring Cloud Alibaba AI 以 Spring AI 为基础,并在此基础上提供阿里云通义系列大模型全面适配,让用户在 5 分钟内开发基于通义大模型的 Java AI 应用。
据 Spring AI 官网描述,该项目的灵感来自著名的 Python 项目,如 LangChain 和 LlamaIndex,但 Spring AI 并不是这些项目的直接复制。Spring AI 相信下一波 Generative AI 生成式应用程序将不仅面向 Python 开发人员,而且将在许多编程语言中广泛应用。
Spring AI 的核心是提供抽象,作为开发 Java AI 应用程序的基础,提供以下功能:
Spring Cloud Alibaba AI 目前基于 Spring AI 0.8.1[1]版本 API 完成通义系列大模型的接入。通义接入是基于阿里云灵积模型服务[2],灵积模型服务建立在“模型即服务”(Model-as-a-Service,MaaS)的理念基础之上,围绕 AI 各领域模型,通过标准化的API提供包括模型推理、模型微调训练在内的多种模型服务。
在当前最新版本中,Spring Cloud Alibaba AI 主要完成了几种常见生成式模型的适配,包括对话、文生图、文生语音等,开发者可以使用 Spring Cloud Alibaba AI 开发基于通义的聊天、图片或语音生成 AI 应用,框架还提供 OutParser、Prompt Template、Stuff 等实用能力。
以下是当前官方提供的 Spring Cloud Alibaba AI 应用开发示例,访问 http://sca.aliyun.com 可查看。
本项目演示如何使用 spring-cloud-starter-alibaba-ai 完成一个在线聊天 AI 应用,底层使用通义千问提供的模型服务。可在此查看完整示例源码[3]。
1. 在项目 pom.xml 中加入 2023.0.1.0 版本 Spring Cloud Alibaba 依赖:
- <dependencyManagement>
- <dependencies>
- <dependency>
- <groupId>com.alibaba.cloud</groupId>
- <artifactId>spring-cloud-alibaba-dependencies</artifactId>
- <version>2023.0.1.0</version>
- <type>pom</type>
- <scope>import</scope>
- </dependency>
- </dependencies>
- </dependencyManagement>
-
- <dependencies>
- <dependency>
- <groupId>com.alibaba.cloud</groupId>
- <artifactId>spring-cloud-starter-alibaba-ai</artifactId>
- </dependency>
- </dependencies>
2. 在 application.yml 配置文件中加入以下配置:
- spring:
- cloud:
- ai:
- tongyi:
- chat:
- options:
- # Replace the following key with a valid API-KEY.
- api-key: sk-a3d73b1709bf4a178c28ed7c8b3b5axx
3. 编写聊天服务实现类,由 Spring AI 自动注入 ChatClient、StreamingChatClient,ChatClient 屏蔽底层通义大模型交互细节。
- @Service
- public class TongYiSimpleServiceImpl extends AbstractTongYiServiceImpl {
-
- private final ChatClient chatClient;
-
- private final StreamingChatClient streamingChatClient;
-
- @Autowired
- public TongYiSimpleServiceImpl(ChatClient chatClient, StreamingChatClient streamingChatClient) {
- this.chatClient = chatClient;
- this.streamingChatClient = streamingChatClient;
- }
- }
4. 提供具体聊天逻辑实现
- @Service
- public class TongYiSimpleServiceImpl extends AbstractTongYiServiceImpl {
-
- // ......
-
- @Override
- public String completion(String message) {
-
- Prompt prompt = new Prompt(new UserMessage(message));
-
- return chatClient.call(prompt).getResult().getOutput().getContent();
- }
-
- @Override
- public Map<String, String> streamCompletion(String message) {
-
- StringBuilder fullContent = new StringBuilder();
-
- streamingChatClient.stream(new Prompt(message))
- .flatMap(chatResponse -> Flux.fromIterable(chatResponse.getResults()))
- .map(content -> content.getOutput().getContent())
- .doOnNext(fullContent::append)
- .last()
- .map(lastContent -> Map.of(message, fullContent.toString()))
- .block();
-
- log.info(fullContent.toString());
-
- return Map.of(message, fullContent.toString());
- }
-
- }
5. 编写 Spring 入口类并启动应用
- @SpringBootApplication
- public class TongYiApplication {
- public static void main(String[] args) {
- SpringApplication.run(TongYiApplication.class);
- }
- }
至此,便完成了最简单的聊天 AI 应用开发,与普通的 Spring Boot 应用开发步骤完全一致!
启动应用后,可通过如下两种方式验证应用效果。
浏览器地址栏输入:http://localhost:8080/ai/example
返回如下响应:
- {
- "Tell me a joke": "Sure, here's a classic one for you:\n\nWhy was the math book sad?\n\nBecause it had too many problems.\n\nI hope that made you smile! If you're looking for more, just let me know."
- }
进入 resources/static 目录下,使用浏览器打开 index.html 文件,输入问题,即可获得输出响应(确保 api-key 有效):
为使示例能够正常接入通义大模型,需要在阿里云开通 DashScope 灵积模型服务,申请有效的 API-KEY 并更新到应用配置文件。具体操作步骤可参见如下文档:https://help.aliyun.com/zh/dashscope/developer-reference/activate-dashscope-and-create-an-api-key
当前版本 Spring Cloud Alibaba AI 主要完成了几种常见生成式模型适配,包括对话、文生图、文生语音等。接下来的版本中,我们将继续完成 VectorStore、Embedding、ETL Pipeline 等更多适配,简化 RAG 等更多 AI 应用开发场景。
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。