Spring AI详解

可以。你可以把Spring AI理解成Spring Boot 生态里的 AI 应用开发框架用 Spring 的方式把 LLM、Prompt、RAG、向量数据库、Tool Calling、MCP、Agent 等能力接进 Java 应用。如果你已经熟悉 Spring Boot那么 Spring AI 是目前比较适合你切入 AI 应用开发的框架。一、Spring AI 到底是什么传统 Spring Boot 应用Spring Boot │ ├── Controller ├── Service ├── MyBatis ├── Redis ├── MySQL └── Kafka加入 AI 后Spring Boot │ ├── Controller ├── Service ├── MyBatis ├── Redis ├── Kafka │ └── Spring AI │ ├── LLM ├── Prompt ├── ChatClient ├── Embedding ├── Vector Store ├── RAG ├── Tool Calling ├── MCP └── Agent所以它不是一个大模型。它更像Java/Spring 应用和各种 AI 能力之间的适配层。二、Spring AI 主要解决什么问题假设你不用 Spring AI。Java 调 OpenAIJava ↓ 自己组 HTTP 请求 ↓ 自己处理 JSON ↓ 自己处理模型返回换一个模型OpenAI ↓ 换成 Qwen ↓ 又写一套再加入向量数据库 RAG Tool Calling MCP代码会越来越复杂。Spring AI 的目标就是统一这些能力Spring AI │ ┌────────────┼────────────┐ ↓ ↓ ↓ OpenAI Qwen DeepSeek ↓ ↓ ↓ 统一接口你的业务代码尽量不用关心底层模型供应商。三、Spring AI 核心组件这是学习 Spring AI 最重要的一部分。Spring AI │ ├── ChatClient │ ├── ChatModel │ ├── Prompt │ ├── Embedding │ ├── Vector Store │ ├── Document │ ├── RAG │ ├── Tool Calling │ ├── MCP │ └── Evaluation我们一个一个看。四、ChatClient —— 最重要的入口如果你只学 Spring AI 一个东西先把 ChatClient 搞明白。它可以理解成Java 应用调用 LLM 的主要客户端。例如RestControllerpublicclassChatController{privatefinalChatClientchatClient;publicChatController(ChatClient.Builderbuilder){this.chatClientbuilder.build();}GetMapping(/chat)publicStringchat(Stringmessage){returnchatClient.prompt(message).call().content();}}调用GET /chat?message什么是Redis流程浏览器 ↓ Controller ↓ ChatClient ↓ Spring AI ↓ LLM ↓ 返回结果这就是最简单的 Spring AI 应用。五、ChatModel 是什么这里容易和 ChatClient 搞混。可以理解ChatClient ↓ ChatModel ↓ 具体的大模型例如ChatClient ↓ ChatModel ↓ OpenAI或者ChatClient ↓ ChatModel ↓ Qwen或者ChatClient ↓ ChatModel ↓ OllamaChatClient更偏向开发者使用的高级 API。ChatModel更偏向底层模型抽象。六、PromptPrompt 就是告诉 LLM 应该怎么做。最简单chatClient.prompt(解释一下 Kafka Consumer Group).call().content();实际项目一般不会这么简单。通常会有System Prompt User Prompt 上下文例如System 你是一名资深 Java 架构师。 User 解释一下 Kafka Consumer Group。Spring AI 可以把 Prompt 模板化。例如你是一名{role}。 请解释 {question}然后传role Java架构师 question Kafka Consumer Group七、Structured Output实际企业开发中非常重要。比如你让 LLM 返回{name:Redis,type:database,score:90}Spring AI 可以把模型输出转换成 Java 对象。例如publicclassProductInfo{privateStringname;privateStringtype;privateIntegerscore;}这样 AI 就可以从自然语言变成Java对象这对后端开发非常重要。因为你最终要LLM ↓ Java Object ↓ 业务逻辑 ↓ MySQL八、Embedding这是 RAG 的核心。LLM 本身处理文本。Embedding 的作用是把文本转换成向量。例如Redis 是内存数据库经过 Embedding[0.12, -0.31, 0.87, ...]然后文档 ↓ Embedding ↓ 向量 ↓ Vector Database九、Vector Store向量数据库就是保存这些向量。常见Milvus pgvector Elasticsearch OpenSearch Pinecone RedisSpring AI 对这些向量存储提供统一抽象。例如Spring AI ↓ VectorStore ↓ Milvus以后换Milvus ↓ pgvector业务代码可以尽量少改。十、RAGSpring AI 非常重要的能力就是 RAG。RAGRetrieval-Augmented Generation也就是先检索再让 LLM 回答。例如公司有BACnet技术文档 MQTT技术文档 项目接口文档 数据库设计文档 运维手册用户“BACnet 火警告警怎么处理”流程用户问题 ↓ Embedding ↓ Vector Store ↓ 检索相关文档 ↓ Context ↓ LLM ↓ 答案十一、Spring AI 做 RAG 的完整架构用户 │ ▼ Spring Boot │ ▼ Spring AI │ ┌──────────┴──────────┐ │ │ ▼ ▼ VectorStore LLM │ │ Milvus Qwen/GPT ES DeepSeek pgvector Claude │ │ └──────────┬──────────┘ ▼ 答案十二、Tool Calling这个是从 RAG 进入 Agent 的关键。假设用户问“查询一下订单 10001 的状态。”LLM 自己不知道数据库里的订单。所以你提供一个工具publicOrderqueryOrder(StringorderId){returnorderService.getById(orderId);}告诉 LLM你可以使用 queryOrder 工具。然后用户 ↓ LLM ↓ 判断需要查询订单 ↓ 调用 queryOrder ↓ Java Service ↓ MySQL ↓ 返回结果 ↓ LLM ↓ 最终回答这就是 Tool Calling。十三、Tool Calling 和 RAG 的区别非常重要。RAG解决“你不知道的知识我给你查。”问题 ↓ 知识库 ↓ 文档 ↓ LLMTool Calling解决“你需要操作/查询外部系统我给你工具。”问题 ↓ LLM ↓ Tool ↓ MySQL/API/Redis ↓ 结果例如“公司退款规则是什么” ↓ RAG而“帮我查询订单10001” ↓ Tool Calling十四、MCPSpring AI 现在也涉及 MCP。MCPModel Context Protocol它解决AI 如何标准化连接外部工具和数据。例如Agent │ MCP │ ┌────────────┼────────────┐ ↓ ↓ ↓ MySQL GitHub 文件系统所以Tool Calling更像是一种调用工具的能力。而MCP更像是一套标准化工具连接协议。十五、AgentSpring AI 可以作为 Agent 应用的基础。Agent 的核心用户 ↓ LLM ↓ 判断任务 ↓ 选择工具 ↓ 执行工具 ↓ 观察结果 ↓ 继续决策 ↓ 完成任务例如你做一个生产环境巡检 Agent用户“检查一下 MySQL、Redis、Kafka。”AgentAgent │ ┌──────────┼──────────┐ ↓ ↓ ↓ MySQL Redis Kafka │ │ │ └──────────┼──────────┘ ↓ LLM ↓ 分析结果 ↓ 巡检报告这个就和你前面学习的LLM RAG MCP Agent串起来了。十六、Spring AI 和 Spring Boot 是什么关系你之前问过这个问题Spring AI 是不是 Spring Boot 加几个组件可以说理解方向基本对但不完全准确。更准确的是Spring Boot │ ├── 自动配置 ├── Starter ├── Bean管理 └── Web/数据/安全 │ ▼ Spring AI │ ├── ChatModel ├── ChatClient ├── VectorStore ├── Embedding ├── Tool └── MCPSpring AI 是建立在 Spring 生态之上的AI 应用开发抽象和组件体系。十七、Spring AI 和 LangChain4j 怎么选结合你是 Java 后端Spring AILangChain4jJava⭐⭐⭐⭐⭐⭐⭐⭐⭐⭐Spring Boot⭐⭐⭐⭐⭐⭐⭐⭐⭐⭐LLM⭐⭐⭐⭐⭐⭐⭐⭐⭐⭐RAG⭐⭐⭐⭐⭐⭐⭐⭐⭐⭐Tool⭐⭐⭐⭐⭐⭐⭐⭐⭐⭐MCP⭐⭐⭐⭐⭐⭐⭐⭐⭐⭐企业 Spring 项目非常适合适合学习成本较低中等Spring 生态融合非常强强如果你的目标是Java Spring Boot 企业级 AI我会优先Spring AI然后再了解LangChain4j十八、Spring AI 在企业项目中的典型架构如果你以后做一个企业 AI 平台可以这样设计前端 │ ▼ Spring Boot API │ ▼ ┌───────────┐ │ Spring AI │ └─────┬─────┘ │ ┌─────────────┼─────────────┐ │ │ │ ▼ ▼ ▼ LLM RAG Tools │ │ │ ┌────┼────┐ │ ┌────┼────┐ │ │ │ │ │ │ │ GPT Qwen DeepSeek │ MySQL Redis API │ ┌────┴─────┐ │Vector DB │ ├───────────┤ │ Milvus │ │ ES │ │ pgvector │ └───────────┘再往上发展AI Agent │ ┌────────┼────────┐ ↓ ↓ ↓ RAG MCP Tools │ │ │ └────────┼────────┘ ↓ LLM十九、你真正应该掌握哪些 Spring AI不要一开始把所有 API 都学完。建议按这个顺序第一阶段LLMChatClient ChatModel Prompt System/User Message Streaming Structured Output第二阶段RAGDocument DocumentReader Embedding VectorStore Retriever Chunk Metadata RAG Pipeline第三阶段ToolTool Calling Function Java Service REST API Database第四阶段MCPMCP Client MCP Server Tools Resources Prompts第五阶段AgentAgent Memory Tool Planning Workflow Human-in-the-loop二十、如果结合技术栈现在已经有Java Spring Boot MySQL Redis Kafka Linux MQTT BACnet Docker那么非常适合做一个实际项目AI 运维 Agent比如用户 “帮我检查生产环境 Kafka、Redis、MySQL” ↓ Spring AI ↓ Agent ↓ ┌───────┼────────┐ ↓ ↓ ↓ MySQL Redis Kafka ↓ ↓ ↓ Tool Tool MCP └───────┼────────┘ ↓ LLM ↓ RAG 查询运维规范 ↓ 综合分析 ↓ “Kafka正常Redis内存 82%MySQL存在锁等待”Linux 巡检 MySQL 监控 Redis 监控 Kafka 巡检全部都能直接变成 AI Agent 的 Tool。