输入：任务相关的参数

Spring AI 集成人工智能，为Java项目添加AI功能指南

本文主旨是用实际的可操作的代码，介绍Java怎么通过spring ai 接入大模型。
输出：按相似度排序的匹配文档列表。以下是详细的执行步骤：

1. 环境准备

确保你的开发环境满足如下要求：

• JDK版本：JDK 17 或更高。

  例子使用spring ai alibaba QWen千问api完成，你可以跑通以后换自己的实现。

  这使得开发者可以快速构建具备智能对话和其他AI功能的应用程序。多模态的大规模模型。Spring AI的核心优势在于它提供了一套标准化接口，使得开发者可以轻松地切换不同的AI服务提供商，仅需修改配置即可。
  输入：占位符参数值。文生图、
  输入：一系列消息及请求选项。
  举例：通过定义MessageStatusService查询消息状态，并由LLM决定何时调用。
  举例：定义一个数学工具函数供LLM在需要时调用进行计算。

  提示 Prompt

  一句话说明：作为有组织的一系列消息和请求选项的容器。

• Spring Boot版本：3.3.x 或更高。

  函数调用 Function Calling

  一句话说明：允许大型语言模型调用开发者定义的功能。

2. 获取API Key

访问阿里云百炼页面，登录后开通“百炼大模型推理”服务，并创建一个新的API Key。这不仅简化了开发流程，还极大地减少了迁移和维护的成本。
输入：用户查询及相关背景信息。
举例：将用户输入转换成向量，用于后续处理如检索增强生成。

<repositories>    <repository>        <id>sonatype-snapshots</id>        <url>https://oss.sonatype.org/content/repositories/snapshots</url>        <snapshots>            <enabled>true</enabled>        </snapshots>    </repository>    <repository>        <id>spring-milestones</id>        <name>Spring Milestones</name>        <url>https://repo.spring.io/milestone</url>        <snapshots>            <enabled>false</enabled>        </snapshots>    </repository>    <repository>        <id>spring-snapshots</id>        <name>Spring Snapshots</name>        <url>https://repo.spring.io/snapshot</url>        <releases>            <enabled>false</enabled>        </releases>    </repository></repositories><dependencies>    <!-- Spring Boot parent project -->    <parent>        <groupId>org.springframework.boot</groupId>        <artifactId>spring-boot-starter-parent</artifactId>        <version>3.3.4</version>        <relativePath/>    </parent>    <dependency>        <groupId>com.alibaba.cloud.ai</groupId>        <artifactId>spring-ai-alibaba-starter</artifactId>        <version>1.0.0-M3.1</version>    </dependency>    <!-- Other dependencies as needed --></dependencies>

5. ChatClient的初始化与控制器实现

接下来，我们需要在Controller中注入ChatClient实例，并通过它来处理来自用户的请求。

嵌入 Embedding

一句话说明：将文本转换为向量表示，便于相似度计算等操作。
输出：AI模型的响应结果。

提示词模板 Prompt Template

一句话说明：用于构建动态提示内容的模板机制。
输入：文档及其元数据。例如，在Unix-like系统中可通过命令行设置：

export AI_DASHSCOPE_API_KEY=your_api_key_here

同时，在application.properties文件里添加以下内容以供Spring Boot应用读取：

spring.ai.dashscope.api-key=${AI_DASHSCOPE_API_KEY}

4. Maven仓库与依赖配置

由于Spring AI Alibaba相关组件尚未发布到Maven中心仓库，因此你需要将Spring官方的里程碑和快照仓库添加至项目的pom.xml文件中。
举例：通过ChatClient调用通义千问，实现聊天对话。
举例：利用阿里巴巴财报PDF中的信息回答关于财报的问题。
输出：基于大模型生成的响应。

@RestController@RequestMapping("/ai")@CrossOrigin(origins = "*")public class ChatController {    private final ChatClient chatClient;        @Value("classpath:correct-and-expand.st")    Resource resource;    public ChatController(ChatClient.Builder builder) {        this.chatClient = builder.build();    }    @GetMapping("/chat")    public String chat(String input) {        return this.chatClient.prompt()                .user(input)                .call()                .content();    }    @GetMapping(value = "/chatStream")    public Flux<String> chatSteam(@RequestParam String input, HttpServletResponse response) {        // 如果遇到乱码问题，可增加编码设置        response.setCharacterEncoding("UTF-8");                PromptTemplate promptTemplate = new PromptTemplate(resource);        Prompt prompt = promptTemplate.create(Map.of("input", input));        return chatClient.prompt(prompt).stream().content();    }}

以上代码展示了如何构建一个简单的聊天API端点，其中/chat用于非流式响应，而/chatStream则支持基于Reactor的流式响应。MMLU、而人类评估或竞技场模式则是由人根据偏好选择更优的答案，这种模式更加贴近实际应用场景，但可能存在主观性偏差。
输入：用户查询或指令。QWen目前有100万免费Token额度，可以快速实现需求。

向量存储 Vector Store

一句话说明：管理和查询文档向量数据库。
输出：函数执行后的结果。图片生成或语音生成等AI应用。

其核心优势在于标准化了不同AI提供者的接口实现，允许一次编写代码后只需更改配置即可切换不同的AI服务提供商。
输出：基于检索结果生成的更准确回答。

结构化输出 Structured Output

一句话说明：将AI模型的非结构化输出转换为结构化的Java对象。这里展示了一个简单的示例，该示例接收用户输入并利用Flux流式返回AI生成的回答。这个过程包括了环境配置、
输出：对应的向量形式。