当前位置:   article > 正文

Spring Cloud Alibaba AI:快速体验通义千问大模型问答_spring ai 接入通义千问

spring ai 接入通义千问

目录

一、Spring Cloud Alibaba AI 简介

二、代码实现

1.在 pom.xml 中引入如下依赖配置:

2.api-key 配置

3.配置application.yml

4.编写聊天对话接口

三、测试聊天对话


一、Spring Cloud Alibaba AI 简介

        Spring AI 是 Spring 官方社区项目,旨在简化 Java AI 应用程序开发,让 Java 开发者像使用 Spring 开发普通应用一样开发 AI 应用。Spring Cloud Alibaba AI 以 Spring AI 为基础,并在此基础上提供阿里云通义系列大模型全面适配。

二、代码实现

1.在 pom.xml 中引入如下依赖配置:
  1. <dependencyManagement>
  2. <dependencies>
  3. <dependency>
  4. <groupId>com.alibaba.cloud</groupId>
  5. <artifactId>spring-cloud-alibaba-dependencies</artifactId>
  6. <version>2023.0.1.0</version>
  7. <type>pom</type>
  8. <scope>import</scope>
  9. </dependency>
  10. </dependencies>
  11. </dependencyManagement>
  12. <dependencies>
  13. <dependency>
  14. <groupId>com.alibaba.cloud</groupId>
  15. <artifactId>spring-cloud-starter-alibaba-ai</artifactId>
  16. </dependency>
  17. </dependencies>
  18. <repositories>
  19. <repository>
  20. <id>spring-milestones</id>
  21. <name>Spring Milestones</name>
  22. <url>https://repo.spring.io/milestone</url>
  23. <snapshots>
  24. <enabled>false</enabled>
  25. </snapshots>
  26. </repository>
  27. <repository>
  28. <id>spring-snapshots</id>
  29. <name>Spring Snapshots</name>
  30. <url>https://repo.spring.io/snapshot</url>
  31. <releases>
  32. <enabled>false</enabled>
  33. </releases>
  34. </repository>
  35. </repositories>

        因为 Spring AI 还没有正式发布到 maven 仓库,所以需要添加此配置项 目前 maven 仓库为假的。

        issue:https://github.com/spring-projects/spring-ai/issues/537

        同时,如果使用了阿里云的镜像,需修改Maven的conf文件夹的settings.xml配置文件:

  1. <mirror>
  2. <id>alimaven</id>
  3. <name>aliyun maven</name>
  4. <url>https://maven.aliyun.com/repository/public/</url>
  5. <mirrorOf>*,!spring-milestones</mirrorOf>
  6. </mirror>

        把此处修改为<mirrorOf>*,!spring-milestones</mirrorOf>  。

2.api-key 配置

在开始写代码之前需要申请到模型的 api-key,按照链接的步骤申请api-key申请地址:如何开通DashScope并创建API-KEY_模型服务灵积(DashScope)-阿里云帮助中心

3.配置application.yml
  1. spring:
  2. cloud:
  3. ai:
  4. tongyi:
  5. # 填写自己申请的api-key
  6. api-key: sk-xxxxxxxxxxxxxxxxxxxxxxxx

!!!注意此处要使用上述配置结构,使用官方文档的结构项目启动会报找不到api-key的错误!!!

报Caused by: com.alibaba.cloud.ai.tongyi.exception.TongYiException: Can not find api-key错误,如下图所示:

4.编写聊天对话接口

(1)创建controller:

  1. @RestController
  2. public class ChatController {
  3. @Autowired
  4. private ChatService chatService;
  5. @GetMapping("/example")
  6. public String completion(
  7. @RequestParam(value = "message", defaultValue = "讲个笑话")
  8. String message
  9. ) {
  10. return chatService.normalCompletion(message);
  11. }
  12. @GetMapping("/stream")
  13. public Map<String, String> streamCompletion(
  14. @RequestParam(value = "message", defaultValue = "请告诉我西红柿炖牛腩怎么做?")
  15. String message
  16. ) {
  17. return chatService.streamCompletion(message);
  18. }
  19. }

(2)创建service

  1. @Service
  2. public class ChatService {
  3. // 聊天客户端
  4. private final ChatClient chatClient;
  5. // stream 流式客户端
  6. private final StreamingChatClient streamingChatClient;
  7. public ChatService(ChatClient chatClient, StreamingChatClient streamingChatClient) {
  8. this.chatClient = chatClient;
  9. this.streamingChatClient = streamingChatClient;
  10. }
  11. public String normalCompletion(String message) {
  12. Prompt prompt = new Prompt(new UserMessage(message));
  13. return chatClient.call(prompt).getResult().getOutput().getContent();
  14. }
  15. public Map<String, String> streamCompletion(String message) {
  16. StringBuilder fullContent = new StringBuilder();
  17. streamingChatClient.stream(new Prompt(message))
  18. .flatMap(chatResponse -> Flux.fromIterable(chatResponse.getResults()))
  19. .map(content -> content.getOutput().getContent())
  20. .doOnNext(fullContent::append)
  21. .last()
  22. .map(lastContent -> Map.of(message, fullContent.toString()))
  23. .block();
  24. return Map.of(message, fullContent.toString());
  25. }
  26. }

(3)创建Spring Boot启动类

  1. @SpringBootApplication
  2. public class TongYiApplication {
  3. public static void main(String[] args) {
  4. SpringApplication.run(TongYiApplication.class);
  5. }
  6. }

三、测试聊天对话

启动项目后,访问:http://localhost:8080/example?message=讲个笑话

这样就可以实现问答了,也可以使用PostMan等工具进行调用接口,也可以接入自己的项目中实现智能助手。

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/盐析白兔/article/detail/873723
推荐阅读
相关标签
  

闽ICP备14008679号