Java程序员的AI框架，它来了

摘要：

        在本文中，我们将探索Spring AI——一个为Java开发者社区设计的革命性的人工智能框架。了解其核心功能、如何集成到现有的Spring应用中，以及它如何简化AI项目的开发。

前言：

        在当今这个由数据和智能驱动的时代，人工智能（AI）已经成为推动业务创新和优化用户体验的关键力量。从个性化推荐系统到自然语言处理，AI技术正在以前所未有的速度渗透到我们生活的每一个角落。然而，尽管AI的承诺如此诱人，对于许多Java开发者来说，将AI集成到现有的应用和服务中仍然是一项挑战。这是因为大多数AI框架和工具往往要求开发者具备专门的知识，或者需要在使用不同的技术栈之间进行昂贵的转换。

        Java一直是企业级应用开发的主力军，以其成熟的生态系统、强大的性能和跨平台的能力而受到广泛赞誉。但是，当涉及到AI时，Java社区似乎缺乏一个既能与Spring等现有框架无缝集成，又能为开发者提供易于上手的AI解决方案的平台。

        那么，对于Java开发者来说，有没有一个易于上手且功能强大的AI框架呢？答案是肯定的。随着Spring AI的推出，Java开发者现在有了一个专为他们量身打造的AI框架。Spring AI不仅承诺将AI的力量带到Java开发者的指尖，而且还保证与Java开发者已经熟悉的Spring生态系统无缝集成。这无疑是Java和AI领域的一大进步。

        在本文中，我们将深入探讨Spring AI，了解它如何为Java开发者提供一个平滑的AI集成路径，以及它如何帮助开发者快速构建和部署智能应用。无论您是AI新手还是有经验的开发者，Spring AI都旨在使您能够轻松地将AI的强大功能集成到您的Java应用中，从而开启新一代智能应用的篇章。

入门示例：

话不多说，先看示例：

@RestController
@RequestMapping("/chat")
public class SimpleAiController {
 
	private final ChatClient chatClient;
 
 
	@Autowired
	public SimpleAiController(ChatClient chatClient) {
		this.chatClient = chatClient;
	}
 
	@GetMapping("/ai/simple")
	public Map<String, String> completion(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
		return Map.of("generation", chatClient.call(message));
	}
 
}

调用Restful接口：

>curl localhost:8080/ai/simple
 
{"generation":"Why couldn't the bicycle stand up by itself? Because it was two tired!"}

可以看到，还是一贯的Spring风格，调用十分简单。以后用Java写AI应用再也不用写复杂的封装代码，或者到Github寻找一些不能确定靠不靠谱的三方框架了，Java程序员开发AI应用也能像写CRUD代码一样轻松了。（这里推荐一个比较优秀的Java AI框架-langchian4j，使用十分简单，之前在公司开发AI功能的时候发现的，但因为是三方框架，不敢直接集成到公司项目里，最后只能含泪封装了一大堆参数）

Spring AI简介：

        Spring AI旨在简化包含人工智能功能的应用程序的开发，而不会造成不必要的复杂性。

        该项目从著名的 Python 项目中汲取灵感，例如 LangChain 和 LlamaIndex，但 Spring AI 并不是这些项目的直接移植。该项目成立的信念是，下一波生成式 AI 应用程序将不仅适用于 Python 开发人员，而且将在许多编程语言中无处不在。

        Spring AI 的核心是提供抽象，作为开发 AI 应用程序的基础。这些抽象具有多种实现，只需最少的代码更改即可轻松交换组件。

Spring AI 提供以下功能：

• 支持所有主要的模型提供商，如OpenAI，Microsoft，Amazon，Google和Huggingface。

• 支持的模型类型包括聊天和文本到图像，还有更多类型正在开发中。

• 跨 AI 提供商的可移植 API，用于聊天和嵌入模型。支持同步和流 API 选项。还支持下拉以访问特定于模型的功能。

• 将 AI 模型输出映射到 POJO。

• 支持所有主要的矢量数据库提供商，例如 Azure Vector Search、Chroma、Milvus、Neo4j、PostgreSQL/PGVector、PineCone、Qdrant、Redis 和 Weaviate

• 跨 Vector Store 提供程序的可移植 API，包括一个类似 SQL 的新颖元数据过滤器 API，该 API 也是可移植的。

• Function calling 函数调用

• 用于 AI 模型和矢量存储的 Spring Boot 自动配置和启动器。

• 用于数据工程的 ETL 框架

具体使用：

环境配置：

1. JDK要求版本：17
2. 添加以下存储库定义：

   <repositories>
       <repository>
         <id>spring-milestones</id>
         <name>Spring Milestones</name>
         <url>https://repo.spring.io/milestone</url>
         <snapshots>
           <enabled>false</enabled>
         </snapshots>
       </repository>
       <repository>
         <id>spring-snapshots</id>
         <name>Spring Snapshots</name>
         <url>https://repo.spring.io/snapshot</url>
         <releases>
           <enabled>false</enabled>
         </releases>
       </repository>
     </repositories>
   

   或

   repositories {
     mavenCentral()
     maven { url 'https://repo.spring.io/milestone' }
     maven { url 'https://repo.spring.io/snapshot' }
   }
   

3. 依赖管理：

   <dependencyManagement>
       <dependencies>
           <dependency>
               <groupId>org.springframework.ai</groupId>
               <artifactId>spring-ai-bom</artifactId>
               <version>0.8.1-SNAPSHOT</version>
               <type>pom</type>
               <scope>import</scope>
           </dependency>
       </dependencies>
   </dependencyManagement>
   

   或

   dependencies {
     implementation platform("org.springframework.ai:spring-ai-bom:0.8.1-SNAPSHOT")
     // Replace the following with the starter dependencies of specific modules you wish to use
     implementation 'org.springframework.ai:spring-ai-openai'
   }
   

4. 配置文件：

   spring.ai.openai.api-key=YOUR_API_KEY
   spring.ai.openai.chat.options.model=gpt-3.5-turbo
   spring.ai.openai.chat.options.temperature=0.7
   

5. 开始使用

OpenAI 文本生成流式/非流式输出：

1. 非流式：  

   @RestController
   @RequestMapping("/chat")
   public class SimpleAiController {
    
   	private final ChatClient chatClient;
    
    
   	@Autowired
   	public SimpleAiController(ChatClient chatClient) {
   		this.chatClient = chatClient;
   	}
    
   	@GetMapping("/ai/simple")
   	public Map<String, String> completion(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
   		return Map.of("generation", chatClient.call(message));
   	}
    
   }
   

   调用：

   >curl localhost:8080/ai/simple
    
   {"generation":"Why couldn't the bicycle stand up by itself? Because it was two tired!"}
   

2. 流式：
    

   @RestController
   @RequestMapping("/chat")
   public class SimpleAiController {
    
   	private final StreamingChatClient streamChatClient;
    
   	@Autowired
   	public SimpleAiController(StreamingChatClient streamChatClient) {
   		this.streamChatClient=streamChatClient;
   	}
    
   	//流式
   	@GetMapping("/ai/stream")
   	public void streamCompletion(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
   		streamChatClient.stream(message).subscribe(
   				m -> System.out.println("Received message: " + m),
   				throwable -> System.err.println("Error occurred: " + throwable.getMessage()),
   				() -> System.out.println("Stream completed")
   		);
   		return;
   	}
    
   }
   

   调用：
    

   >curl http://localhost:8080/ai/stream
   

   结果：
   

OpenAI图片生成：

@RestController
@RequestMapping("/chat")
public class SimpleAiController {
 
	private final ImageClient imageClient;
 
	@Autowired
	public SimpleAiController(ImageClient imageClient) {
		this.imageClient=imageClient;
	}
 
	@GetMapping("/ai/image")
	public void imageCompletion() {
		ImageResponse response = imageClient.call(
				new ImagePrompt("A cute baby dog",
						OpenAiImageOptions.builder()
								.withQuality("hd")
								.withN(1)
								.withHeight(1024)
								.withWidth(1024)
								.withModel(OpenAiImageApi.DEFAULT_IMAGE_MODEL)
								.build())
 
		);
		response.getResults().stream().forEach(r -> System.out.println("Image: " + r.getOutput()));
	}
 
}

调用：

>curl http://localhost:8080/chat/ai/image

结果：