银星皓月做 Java 后端的朋友，最近是不是也被“给系统加个智能搜索/知识库问答”这类需求缠上了？我上个月刚把一个业务模块从纯关键词检索升级成混合搜索，技术栈就是标题里这套：Java + LangChain4j + Elasticsearch。简单说，就是用 LangChain4j 把 Elasticsearch 当作向量存储，在同一个索引里同时支持 BM25 关键词检索和向量语义检索，再用 RRF（Reciprocal Rank Fusion，倒数排名融合）把两路结果合并排序。这篇博文就把整个集成过程、核心代码、环境坑点全部摊开来讲，想抄作业的直接往下看。
先说清楚这篇内容适合谁：你是一个 Java / Spring Boot 开发者，公司已经有 Elasticsearch，想在系统里做语义检索或者给 LLM 应用做知识库召回，但又不想为了一个向量检索单独引入 Milvus、FAISS 之类的重型组件。那这套方案对你来说就是性价比最高的选择。文章里会覆盖选型原因、环境安装、依赖引入、写入向量、混合检索、RRF 融合，还有我实际踩过的 license 和健康检查的坑。
1. 为什么要在 Java 生态里做混合搜索
1.1 关键词搜索的边界，语义搜索的上限
用 Elasticsearch 做过站内搜索的兄弟应该都有体会：BM25 这套关键词匹配机制，对精确词、ID、型号、人名这种结构化特征非常友好，但你让它处理口语化 query 就很容易翻车。举个例子，用户搜“怎么退货”，文档里写的是“退款流程说明”，两个句子没有任何一个词是重合的，BM25 直接给零分。这是关键词搜索的物理边界——它不懂语义。
那换成纯向量搜索行不行？向量检索是把文本映射成高维向量，用余弦相似度衡量语义距离，确实能解决“说人话”的问题。但向量模型对专有名词、订单号、版本号这类精确信息并不敏感，你给它一个 PO-20240001 去向量化，最后召回的结果往往不是你想要的。所以真实生产环境里，最优解不是二选一，而是让两条路都走一遍再融合，这就是混合搜索（Hybrid Search）存在的意义。
我在项目里总结下来，混合搜索其实是在解决一个很朴素的问题：关键词管精确，向量管模糊，两边取长补短。 不做混合的时候，要么精确查询漏掉口语化表达，要么语义查询漏掉精确标识。两条召回通道合并之后，覆盖率明显上来了。
1.2 选型：为什么偏偏是 LangChain4j + Elasticsearch
很多做 AI 应用的人第一反应是用 Python 的 LangChain，但咱们是 Java 团队，一个功能就要引一条 Python 服务链路，后续维护成本太高了。LangChain4j 就是专门给 JVM 生态准备的 LLM 编排框架，它把 Embedding 模型接入、向量存储、对话记忆、RAG 这些能力都做成了 Java 接口。Spring Boot 项目里引一个 starter 就能用，这对 Java 后端来说太友好了。
再聊 Elasticsearch。我知道很多团队在做向量检索的时候会下意识引入 Milvus、FAISS、Qdrant 之类的专业向量库。但如果公司里已经有 ES 集群在跑业务日志或者商品搜索，再单独维护一套向量库，等于多养了一个中间件。ES 从 8.0 开始内置了 dense_vector 字段类型和近似 KNN 检索能力，8.8 之后还支持了原生 RRF，完全能hold住中小规模的语义检索场景。用一套基础设施同时承载关键词检索和向量检索，这是我在选型时最看中的点。
对比一下当时考虑的几条路线：
| 方案 | 优点 | 缺点 |
|---|---|---|
| 单独引入 Milvus | 向量检索性能强 | 额外运维一套集群，与现有 ES 数据割裂 |
| 只用 ES 做关键词，不用向量 | 实现简单 | 口语化、同义查询效果差 |
| ES + LangChain4j 混合检索 | 复用 ES，支持关键词与语义，集成成本低 | 大规模高并发向量检索能力相对专业向量库弱 |
中小团队、业务知识库、内部工单检索这类场景，选 LangChain4j + ES 是很务实的决定。
1.3 混合检索到底在解决什么问题
把混合检索再往深挖一层，它本质上是在解决召回（Recall）和精度（Precision）之间的平衡。纯向量检索召回高但会有噪声，特别是语义相近但实际不同主题的文档会被误召回；纯 BM25 精确但召回不足，换个说法就找不到。
混合检索的思路是：先分别用关键词和向量各召回一批候选，再通过融合算法把两边的排名合并。这样既保证了口语化表达能被语义通道捞回来，也保证了精确词能通过关键词通道强匹配。这个思路在 RAG 应用里尤其重要——给大模型提供的上下文如果召回的文档不对，后面生成质量再高也没用。 我这次做的功能就是给内部的工单知识库做问答底座，第一步就是先把召回做好。
需要模型API调用？ 免费领10W Token，多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 环境准备与依赖搭建
2.1 本地 Elasticsearch 环境快速就绪
我是用 Docker 在本地起的 ES，这种方式最省心，不污染系统环境。建议用 8.x 系列版本，我用的是 8.11，Elasticsearch Java Client 和 LangChain4j 的兼容性都很好。
yaml复制# docker-compose.yml
version: '3'
services:
elasticsearch:
image: docker.elastic.co/elasticsearch/elasticsearch:8.11.0
container_name: es-hybrid
environment:
- discovery.type=single-node
- xpack.security.enabled=false
- ES_JAVA_OPTS=-Xms1g -Xmx1g
ports:
- "9200