ES实战:从零到一,手把手教你用CURL构建高效索引

路易·罗莎

1. 环境准备与基础概念

在开始用CURL操作Elasticsearch之前,我们需要先准备好基础环境。我建议使用Docker快速搭建一个ES实例,这样既干净又不会影响本地环境。这里以ES 7.x版本为例(虽然原始文章用的是6.8,但7.x是目前的主流版本):

bash复制docker run -d --name elasticsearch -p 9200:9200 -p 9300:9300 -e "discovery.type=single-node" elasticsearch:7.17.0

安装完成后,可以用这个简单的CURL命令测试ES是否正常运行:

bash复制curl -X GET "localhost:9200/"

你会看到类似这样的响应:

json复制{
  "name" : "node-1",
  "cluster_name" : "docker-cluster",
  "cluster_uuid" : "abcdefg",
  "version" : {
    "number" : "7.17.0",
    "build_flavor" : "default",
    "build_type" : "docker",
    "build_hash" : "abcdef",
    "build_date" : "2022-02-01T00:00:00.000Z",
    "build_snapshot" : false,
    "lucene_version" : "8.11.1",
    "minimum_wire_compatibility_version" : "6.8.0",
    "minimum_index_compatibility_version" : "6.0.0-beta1"
  },
  "tagline" : "You Know, for Search"
}

这里有几个关键概念需要理解清楚:

  • 索引(Index):相当于传统数据库中的"数据库",是ES中最高级别的数据组织单位
  • 文档(Document):相当于数据库中的"行记录",是ES中最小的数据单元
  • 映射(Mapping):定义文档的结构,相当于数据库的"表结构"
  • 分片(Shard):索引可以被分成多个分片,分布在不同的节点上,这是ES实现分布式搜索的核心机制

2. 创建索引与配置Settings

创建索引是使用ES的第一步,但很多人直接照搬网上的配置,其实每个参数都应该根据业务需求仔细考量。下面我通过一个电商商品搜索的案例,详细解释每个配置项的作用。

假设我们要创建一个商品索引,预期日增数据量在100万左右,查询QPS在500左右。这样的业务场景下,合理的索引配置应该是:

bash复制curl -X PUT "localhost:9200/products" -H 'Content-Type: application/json' -d'
{
  "settings": {
    "number_of_shards": 3,
    "number_of_replicas": 1,
    "refresh_interval": "30s",
    "analysis": {
      "analyzer": {
        "product_analyzer": {
          "type": "custom",
          "tokenizer": "standard",
          "filter": ["lowercase", "stemmer"]
        }
      }
    }
  }
}
'

让我解释下这些配置的考量:

  • number_of_shards=3:分片数一旦设置就不能修改,所以要根据数据量预估。一般每个分片20-50GB数据比较合适,我们预估商品数据每天增长约1GB,3个分片可以支撑2-3个月的数据增长
  • number_of_replicas=1:副本数可以动态调整,初期设为1保证基本的高可用,后续可以根据查询压力增加
  • refresh_interval=30s:默认是1s刷新一次,对于写入量大的场景可以适当调大,减少刷新开销
  • 自定义分析器:商品搜索需要支持模糊匹配和词干提取,所以配置了小写转换和词干提取过滤器

3. 设计Mapping的最佳实践

Mapping设计是ES使用中最关键也最容易踩坑的环节。我见过太多项目因为初期Mapping设计不合理,后期不得不重建索引。下面以商品数据为例,分享几个实用技巧:

bash复制curl -X PUT "localhost:9200/products/_mapping" -H 'Content-Type: application/json' -d'
{
  "properties": {
    "product_id": {
      "type": "keyword"
    },
    "product_name": {
      "type": "text",
      "analyzer": "product_analyzer",
      "fields": {
        "keyword": {
          "type": "keyword"
        }
      }
    },
    "price": {
      "type": "scaled_float",
      "scaling_factor": 100
    },
    "categories": {
      "type": "keyword"
    },
    "attributes": {
      "type": "nested"
    },
    "sales": {
      "type": "integer"
    },
    "created_at": {
      "type": "date",
      "format": "yyyy-MM-dd HH:mm:ss||epoch_millis"
    }
  }
}
'

这里有几个设计要点:

  1. 精确匹配 vs 全文搜索:product_id用keyword类型适合精确匹配,product_name用text类型支持全文搜索
  2. 多字段类型:product_name同时定义了keyword子字段,既支持搜索又支持聚合
  3. 数值类型选择:price使用scaled_float而不是float,可以避免浮点数精度问题
  4. 嵌套对象:attributes使用nested类型,可以保持对象内部字段的独立性
  5. 日期格式:明确指定多种日期格式,避免解析失败

4. 索引数据的增删改查

索引创建好后,接下来就是数据的CRUD操作。这里我分享一些实际项目中总结的高效操作技巧。

批量插入数据(Bulk API):

bash复制curl -X POST "localhost:9200/_bulk" -H 'Content-Type: application/json' -d'
{ "index" : { "_index" : "products", "_id" : "1001" } }
{ "product_id": "1001", "product_name": "无线蓝牙耳机", "price": 299.99, "categories": ["电子产品", "音频设备"], "sales": 1500 }
{ "index" : { "_index" : "products", "_id" : "1002" } }
{ "product_id": "1002", "product_name": "智能手表", "price": 899.00, "categories": ["电子产品", "智能设备"], "sales": 800 }
'

更新部分字段

bash复制curl -X POST "localhost:9200/products/_update/1001" -H 'Content-Type: application/json' -d'
{
  "doc": {
    "sales": 1600
  }
}
'

条件删除

bash复制curl -X POST "localhost:9200/products/_delete_by_query" -H 'Content-Type: application/json' -d'
{
  "query": {
    "range": {
      "sales": {
        "lt": 100
      }
    }
  }
}
'

批量查询(Multi Get):

bash复制curl -X GET "localhost:9200/_mget" -H 'Content-Type: application/json' -d'
{
  "docs": [
    {
      "_index": "products",
      "_id": "1001"
    },
    {
      "_index": "products",
      "_id": "1002"
    }
  ]
}
'

5. 高效查询与性能优化

查询是ES的核心功能,但写出高效的查询需要理解很多细节。下面通过几个典型场景说明:

基础搜索

bash复制curl -X GET "localhost:9200/products/_search" -H 'Content-Type: application/json' -d'
{
  "query": {
    "bool": {
      "must": [
        { "match": { "product_name": "蓝牙耳机" } }
      ],
      "filter": [
        { "range": { "price": { "gte": 200, "lte": 500 } } },
        { "term": { "categories": "电子产品" } }
      ]
    }
  },
  "sort": [
    { "sales": { "order": "desc" } }
  ],
  "from": 0,
  "size": 10
}
'

聚合分析

bash复制curl -X GET "localhost:9200/products/_search" -H 'Content-Type: application/json' -d'
{
  "size": 0,
  "aggs": {
    "category_stats": {
      "terms": { "field": "categories" },
      "aggs": {
        "avg_price": { "avg": { "field": "price" } },
        "total_sales": { "sum": { "field": "sales" } }
      }
    }
  }
}
'

搜索建议

bash复制curl -X GET "localhost:9200/products/_search" -H 'Content-Type: application/json' -d'
{
  "suggest": {
    "product_suggest": {
      "prefix": "蓝牙",
      "completion": {
        "field": "product_name.suggest",
        "size": 5
      }
    }
  }
}
'

性能优化建议:

  1. 尽量使用filter而不是query,因为filter结果可以缓存
  2. 避免使用script查询,性能开销很大
  3. 对于分页查询,避免使用过大的from值(超过10000)
  4. 合理使用index_prefixes配置,加速前缀查询

6. 索引维护与监控

索引创建后还需要定期维护,这里分享几个实用的维护命令:

查看索引状态

bash复制curl -X GET "localhost:9200/_cat/indices/products?v"

强制合并段文件(减少碎片):

bash复制curl -X POST "localhost:9200/products/_forcemerge?max_num_segments=1"

修改副本数(动态调整):

bash复制curl -X PUT "localhost:9200/products/_settings" -H 'Content-Type: application/json' -d'
{
  "index.number_of_replicas": 2
}
'

关闭/打开索引(维护时使用):

bash复制curl -X POST "localhost:9200/products/_close"
curl -X POST "localhost:9200/products/_open"

索引别名管理(实现无缝切换):

bash复制curl -X POST "localhost:9200/_aliases" -H 'Content-Type: application/json' -d'
{
  "actions": [
    { "add": { "index": "products_v1", "alias": "products" } }
  ]
}
'

在实际项目中,我通常会设置一个定时任务,每天凌晨执行forcemerge和缓存清理,保持索引性能稳定。同时建议使用Elasticsearch自带的监控API定期检查集群健康状态。

内容推荐

OptiStruct频响分析避坑指南:为什么你的惯性释放结果不准确?(附INREL参数对比测试)
本文深入解析OptiStruct频响分析中惯性释放失效的原因及解决方案,特别针对INREL参数设置不当导致的低频响应失真、应力分布异常等问题。通过对比测试和工程实践案例,提供质量定义检查清单、参数优化建议和诊断流程,帮助工程师准确进行惯性释放分析,提升汽车NVH和航空航天领域的仿真精度。
项目经理日常:别让S曲线骗了你!真实项目中的成本进度图长啥样?
本文揭示了项目管理中S曲线的理想与现实的差距,指出PMP教材中的完美曲线在实际项目中难以实现。通过分析需求变更、资源波动和风险爆发等常见问题,提供了异常曲线的诊断方法和应对策略,帮助项目经理更准确地解读成本进度图,避免被图表误导。
别再尬聊了!用这36个心理学问题,帮你快速破冰、搞定团队新人(附完整问题清单)
本文介绍了如何利用36个心理学问题在技术团队中实现高效破冰,特别适用于远程协作和新成员融入。通过结构化改造,这些问题能降低社交焦虑、促进深度连接,提升团队协作效率。文章提供了四个技术友好型问题模块及敏捷场景下的执行框架,帮助团队快速建立信任与默契。
Ubuntu系统下Matlab的安装、配置与卸载全流程指南
本文详细介绍了在Ubuntu系统下Matlab的安装、配置与卸载全流程指南。从获取安装包、系统环境检查到安装过程中的常见问题解决,再到配置优化和快捷方式设置,最后提供了彻底卸载Matlab的完整步骤。帮助用户高效完成Matlab在Ubuntu系统上的部署与管理。
别再混淆了!用大白话和Python小实验,5分钟搞懂滤波器里的‘群延时’到底是个啥
本文通过Python实验直观解释了滤波器中的‘群延时’概念,对比了FIR和IIR滤波器的群延时特性及其对信号波形的影响。文章包含详细的代码示例和可视化分析,帮助读者理解群延时在信号处理中的重要性,并提供了工程实践中的设计选择和调试技巧。
避坑指南:Stata做PVAR模型时,GMM估计的5个常见错误与解决方案
本文详细解析了使用Stata进行PVAR模型GMM估计时的5个常见错误及解决方案,包括工具变量选择、样本量丢失、模型稳定性、Granger检验异常和与经典文献结果对比。特别针对GMM估计中的Hansen J检验、前向正交变换等关键问题提供实战技巧,帮助研究者有效规避技术陷阱,提升模型准确性。
别再只会SE18了!分享一个我私藏的SAP BADI查找小程序(附源码和用法)
本文介绍了一款高效的SAP BADI查找工具Z_FIND_EXIT_BADI,帮助开发者快速定位增强点,提升工作效率。通过事务码映射和增强点聚合技术,该工具解决了传统手工查找的低效问题,特别适用于SAP项目实施中的业务增强场景。
Python实战:构建并优化超级趋势指标的交易信号系统
本文详细介绍了如何使用Python构建并优化超级趋势指标的交易信号系统。从核心原理到实战实现,涵盖了信号生成逻辑优化、回测框架搭建、参数网格搜索及动态风险控制策略。通过沪深300指数回测示例,展示了该系统的实际应用效果,并指出常见陷阱与进阶优化方向,帮助量化交易开发者提升策略表现。
别再乱用全局时钟了!7系列FPGA时钟资源(BUFG/BUFH/BUFR)选型与实战避坑指南
本文深度解析7系列FPGA时钟资源(BUFG/BUFH/BUFR)的选型策略与实战避坑指南,帮助工程师避免滥用全局时钟导致的时序收敛困难与功耗问题。通过对比三大时钟缓冲器的特性与适用场景,提供可落地的选型框架,优化FPGA设计性能与资源利用率。
Globus 大数据高效下载实战指南
本文提供了Globus大数据高效下载的实战指南。针对科研人员处理海量数据时面临的传输难题,详细介绍了Globus这一专业数据管理服务的核心优势与操作流程。指南涵盖从网页端初体验、配置个人端点(Globus Connect Personal)到使用命令行工具实现自动化下载的全过程,并分享了速度优化、错误处理等进阶技巧,帮助用户构建稳定可靠的数据传输管道,显著提升科研工作效率。
排查海思Hi3516DV300芯片异常发热?手把手教你用TSENSOR驱动定位问题
本文详细介绍了如何利用海思Hi3516DV300芯片内置的TSENSOR驱动排查异常发热问题。通过驱动加载、温度监控和智能温控策略的实施,帮助开发者快速定位并解决芯片过热导致的性能问题,提升设备稳定性和运行效率。
Unity SLG新手避坑:用GameFramework搞定第一个加载界面(含完整UIForm代码)
本文详细介绍了在Unity SLG开发中使用GameFramework框架实现加载界面的避坑指南与最佳实践。从UIForm的Canvas层级管理到Procedure状态切换,提供了完整的代码示例和实战技巧,帮助新手开发者快速掌握GameFramework的核心功能,避免常见错误。
C++小数处理踩坑实录:setprecision用错?你的四舍五入可能一直是错的!
本文深入探讨C++中小数处理的常见误区,特别是setprecision和银行家舍入法的实际行为。通过实例代码和性能对比,揭示浮点数输出中的隐藏陷阱,并提供金融计算、游戏分数显示等场景的实战解决方案,帮助开发者避免精度误差带来的问题。
OpenCV实战:Canny边缘检测参数调优与视觉应用
本文深入探讨了OpenCV中Canny边缘检测的参数调优与视觉应用。通过分析threshold1/threshold2、apertureSize和L2gradient等关键参数,结合工业检测、医疗影像等实战案例,提供了详细的调优技巧和推荐配置。文章还分享了动态阈值算法和分阶段调优法等实用策略,帮助开发者高效实现精准边缘检测。
告别桌面GIS:手把手教你用Go+Gogeo搭建自动化空间分析服务
本文详细介绍了如何利用Go语言和Gogeo空间分析库构建企业级空间分析微服务,实现从桌面GIS到云端自动化服务的转型。通过架构设计、核心功能实现和生产环境部署方案,帮助开发者高效处理物流选址、地产评估等场景中的空间数据分析需求,显著提升计算效率和系统稳定性。
从零开始实现Android手势导航:基于InputConsumer的事件处理详解
本文详细解析了Android手势导航系统的实现原理,重点介绍了基于InputConsumer的事件处理机制和多任务交互的实现细节。通过SystemUI、Launcher3等系统组件的协作模型,开发者可以理解从手势识别到系统响应的完整链路,并学习如何扩展自定义手势功能。
【机器学习】数据增强实战:从基础几何变换到高级生成策略
本文深入探讨了机器学习中的数据增强技术,从基础的几何变换和颜色调整到高级的生成式方法如GAN和AutoAugment。通过实战案例和代码示例,展示了如何有效提升模型性能,同时避免常见陷阱。数据增强(Data Augmentation)是提升小样本学习效果的关键策略,适用于图像分类、目标检测等多种场景。
U8Cloud 3.5 新特性与API集成实战解析
本文深入解析U8Cloud 3.5的新特性与API集成实战,包括技术架构升级、规范化接口设计、权限控制机制及本地开发调试技巧。重点介绍了U8Cloud 3.5在国产化数据库支持、API集成平台优化及移动生态集成方面的创新,为开发者提供高效的集成方案和性能优化建议。
从屏幕到操作:基于YOLO与OpenCV的自动化游戏交互系统构建
本文详细介绍了基于YOLO与OpenCV的自动化游戏交互系统构建方法,涵盖目标检测、图像处理到键鼠模拟的全流程实现。通过YOLOv5/YOLOv8模型进行游戏画面实时识别,结合OpenCV优化处理,实现资源采集、自动战斗等场景的精准操作。系统采用多线程架构设计,性能优化后延迟低于80ms,为游戏自动化提供了高效解决方案。
从零到一:使用STEP 7与S7-PLCSIM完成梯形图程序的设计与仿真调试
本文详细介绍了如何使用西门子STEP 7软件与S7-PLCSIM仿真器完成梯形图程序的设计与调试。从项目创建、硬件组态到梯形图编程实战,逐步解析关键操作步骤和常见问题解决方案,帮助工控新手快速掌握PLC编程核心技能。通过传送带控制系统的完整案例,演示了启保停电路、变量监控等实用技巧,大幅提升调试效率。
已经到底了哦
精选内容
热门内容
最新内容
别再只跑默认参数了!Sysbench CPU测试的5个高级参数调优实战(附结果解读)
本文深入解析Sysbench CPU测试的5个高级参数调优技巧,包括素数计算上限、线程数配置、实时监控、延迟分布和随机数模式。通过实战案例和详细参数建议,帮助用户突破性能测试瓶颈,精准诊断CPU性能问题,适用于从移动处理器到服务器CPU的各种硬件配置。
ESP32项目内存规划避坑指南:从SRAM0、SRAM1到IRAM/DRAM,搞清内存布局才能避开‘overflowed’
本文深入解析ESP32内存架构,提供从SRAM0、SRAM1到IRAM/DRAM的详细规划指南,帮助开发者避免常见的'overflowed'编译报错。通过实战案例和优化技巧,如编译器配置调整和组件级优化,有效管理IRAM0 segment等关键内存区域,提升项目稳定性与性能。
牛顿-拉夫逊法:从几何直觉到Python实战,剖析收敛陷阱与工程应用
本文深入解析牛顿-拉夫逊法的几何原理与Python实现,揭示常见收敛陷阱及工程应用对策。通过具体代码示例展示如何避免除零错误、震荡发散等问题,并分享电路设计、机器人逆运动学等实际应用案例。特别针对Python实现中的数值稳定性、性能优化和调试技巧提供专业指导。
组态王MODBUS RTU通讯实战:从串口配置到数据绑定的完整流程
本文详细介绍了组态王与MODBUS RTU设备的通讯配置全流程,涵盖硬件连接、串口参数设置、多设备组网及数据绑定等关键步骤。通过实战案例和参数优化建议,帮助工程师快速实现工业自动化系统中的稳定通讯,特别适合需要处理MODBUS RTU协议的应用场景。
天正墙体坐标提取踩坑记:为什么常规LISP组码不行,ActiveX才是正解?
本文深入探讨了天正墙体坐标提取的技术难题,揭示了传统LISP组码方法失效的原因,并提出了基于ActiveX的高效解决方案。通过详细的技术对比和实战代码示例,展示了如何穿透天正自定义对象的封装,直接获取关键坐标数据,显著提升处理效率和准确性。
从‘百元圣诞’到‘数字极简’:技术时代如何重塑节日体验与消费观
本文探讨了技术如何重塑节日消费体验,从‘百元圣诞’到‘数字极简’的转变。通过共享虚拟礼物清单、混合式线上聚会和反算法消费策略,技术不仅优化了节日消费观,还增强了情感连接。文章还介绍了区块链技术和智能工具在节日中的应用,帮助读者实现更可持续和更有意义的节日体验。
STM32点阵字库构建与动态显示实战
本文详细介绍了STM32点阵字库的构建与动态显示实战,涵盖GBK编码解析、字库制作工具选择、存储优化方案及动态显示性能优化技巧。通过双缓冲机制和DMA2D加速器,显著提升汉字显示速度至150字/秒,适用于嵌入式设备的汉字显示需求。
别再乱调学习率了!用TensorFlow/PyTorch实战演示‘先大后小’与自适应优化器(附代码)
本文深入探讨了深度学习中的学习率调整策略与优化器选择,通过TensorFlow和PyTorch实战代码演示了‘先大后小’的动态学习率设置方法。文章详细介绍了指数衰减、余弦退火等策略,并对比了Adam、RMSprop等自适应优化器的优缺点,帮助开发者避免过拟合,提升模型泛化能力。
ESP32低功耗实战:5种唤醒方式对比(含代码避坑指南)
本文深入解析ESP32的Light-sleep和Deep-sleep两种睡眠模式,对比定时器、GPIO、触摸、UART和ULP五种唤醒方式的功耗差异与适用场景,提供实测数据和代码避坑指南,帮助开发者优化物联网设备的低功耗设计。
MM配置实战:物料类型属性定义与工厂级更新策略详解(OMS2/T134)
本文详细解析了SAP MM模块中物料类型属性定义与工厂级更新策略的配置实战,重点介绍了OMS2/T134事务码的操作流程和关键参数设置。通过实际案例说明如何避免常见配置错误,并提供多工厂环境下的最佳实践方案,帮助用户高效管理物料主数据。