Spring AI 抢先体验，5 分钟玩转 Java AI 应用开发

Spring AI x 通义千问 Demo 已上线至 sca.aliyun.com

据 Spring AI 官网描述，该项目的灵感来自著名的 Python 项目，如 LangChain 和 LlamaIndex，但 Spring AI 并不是这些项目的直接复制。 Spring AI 相信下一波 Generative AI 生成式应用程序将不仅面向 Python 开发人员，而且将在许多编程语言中广泛应用。

• 提供多种大模型服务对接能力，包括业界大多数主流大模型服务等；
• 支持灵活的 Prompt Template 和模型输出解析 Output Parsing 能力;
• 支持多模态的生成式 AI 能力，如对话，文生图、文生语音等；
• 提供通用的可移植的 API 以访问各类模型服务和 Embedding 服务，支持同步和流式调用，同时也支持传递特定模型的定制参数；
• 支持 RAG 能力的基础组件，包括 DocumentLoader、TextSpillter、EmobeddingClient、VectorStore 等；

• 支持 AI Spring Boot Starter 实现配置自动装配。

Spring Cloud Alibaba AI 目前基于 Spring AI 0.8.1 ^{[ 1]} 版本 API 完成通义系列大模型的接入。 通义接入是基于阿里云 灵积模型服务 ^{[ 2]} ，灵积模型服务建立在“模型即服务”（Model-as-a-Service，MaaS）的理念基础之上，围绕 AI 各领域模型，通过标准化的API提供包括模型推理、模型微调训练在内的多种模型服务。

• 聊天对话应用

• 文生图应用

• 文生语音应用

• 模型输出解析OutputParser（实现从 String 到自动 POJO 映射）

• 使用 Prompt Template

• 让 AI 模型接入外部数据（Prompt Stuff）

本项目演示如何使用 spring-cloud-starter-alibaba-ai 完成一个在线聊天 AI 应用，底层使用通义千问提供的模型服务。 可在此查看 完整示例源码 ^{[ 3]} 。

<dependencyManagement>  <dependencies>    <dependency>      <groupId>com.alibaba.cloudgroupId>      <artifactId>spring-cloud-alibaba-dependenciesartifactId>      <version>2023.0.1.0version>      <type>pomtype>      <scope>importscope>     dependency>   dependencies>dependencyManagement>
<dependencies>  <dependency>      <groupId>com.alibaba.cloudgroupId>      <artifactId>spring-cloud-starter-alibaba-aiartifactId>  dependency>dependencies>

2. 在 application.yml 配置文件中加入以下配置：

spring:  cloud:    ai:      tongyi:        chat:          options:            # Replace the following key with a valid API-KEY.            api-key: sk-a3d73b1709bf4a178c28ed7c8b3b5axx

3. 编写聊天服务实现类，由 Spring AI 自动注入 ChatClient、StreamingChatClient，ChatClient 屏蔽底层通义大模型交互细节。

@Servicepublic class TongYiSimpleServiceImpl extends AbstractTongYiServiceImpl {
  private final ChatClient chatClient;
  private final StreamingChatClient streamingChatClient;
  @Autowired  public TongYiSimpleServiceImpl(ChatClient chatClient, StreamingChatClient streamingChatClient) {    this.chatClient = chatClient;    this.streamingChatClient = streamingChatClient;  }}

4. 提供具体聊天逻辑实现

@Servicepublic class TongYiSimpleServiceImpl extends AbstractTongYiServiceImpl {
  // ......
  @Override  public String completion(String message) {
    Prompt prompt = new Prompt(new UserMessage(message));
    return chatClient.call(prompt).getResult().getOutput().getContent();  }
  @Override  public Map<String, String> streamCompletion(String message) {
    StringBuilder fullContent = new StringBuilder();
    streamingChatClient.stream(new Prompt(message))        .flatMap(chatResponse -> Flux.fromIterable(chatResponse.getResults()))        .map(content -> content.getOutput().getContent())        .doOnNext(fullContent::append)        .last()        .map(lastContent -> Map.of(message, fullContent.toString()))        .block();
    log.info(fullContent.toString());
    return Map.of(message, fullContent.toString());  }
}

5. 编写 Spring 入口类并启动应用

@SpringBootApplicationpublic class TongYiApplication {  public static void main(String[] args) {    SpringApplication.run(TongYiApplication.class);  }}

至此，便完成了最简单的聊天 AI 应用开发，与普通的 Spring Boot 应用开发步骤完全一致！

方式一