K8S中使用YAML部署ECK集群的实践指南-代码聚汇网

K8S中使用YAML部署ECK集群的实践指南

黄哒哒·2026-08-12·阅读 23 GEO检测（免费）

KubernetesECKElasticsearch

|难度：普通|阅读约 22 分钟

1. 项目概述：ECK在K8S中的部署价值

在云原生技术栈中，Kubernetes（K8S）已成为容器编排的事实标准，而Elasticsearch作为搜索和分析引擎的领导者，其云原生版本ECK（Elastic Cloud on Kubernetes）的部署正成为企业级日志和数据分析的首选方案。通过YAML文件部署ECK，不仅能够实现声明式配置管理，还能充分发挥K8S的自动化运维优势。

我曾在生产环境中多次部署ECK集群，相比传统的Helm chart安装，直接使用YAML文件能更精细地控制每个资源配置参数。特别是在需要定制化CRD（Custom Resource Definitions）的场景下，手动编写YAML可以避免Helm模板的"黑箱"问题。下面这张表格对比了两种部署方式的差异：

特性	YAML直接部署	Helm chart部署
配置透明度	完全可见	依赖模板生成
参数调整灵活性	可逐行修改	受限于values.yaml
版本控制友好度	变更可追溯	需同时维护模板和配置
复杂环境适应性	适合定制化需求	适合标准部署
维护成本	需手动管理YAML	自动化程度高

需要模型API调用？免费领10W Token，多模型网关一键接入 Claude、DeepSeek 等主流模型。

2. 环境准备与前置条件

2.1 K8S集群基础配置

在开始部署ECK之前，需要确保Kubernetes集群满足以下要求：

Kubernetes版本1.18及以上（推荐1.22+）
每个节点至少4GB可用内存
集群已配置默认StorageClass
网络插件支持NetworkPolicy
kubectl已配置正确上下文

验证集群状态的常用命令：

bash复制kubectl get nodes -o wide
kubectl get storageclass
kubectl cluster-info

特别注意：如果节点存在污点（taint），需要提前为ECK组件配置容忍（tolerations），否则Pod可能无法调度。我曾在一个生产环境中因为忽略了这个细节导致ECK-operator一直处于Pending状态。

2.2 安装ECK Operator

ECK的核心是operator模式，通过以下YAML安装operator（保存为eck-operator.yaml）：

yaml复制apiVersion: apps/v1
kind: Deployment
metadata:
  name: elastic-operator
  namespace: elastic-system
spec:
  replicas: 1
  selector:
    matchLabels:
      control-plane: elastic-operator
  template:
    metadata:
      labels:
        control-plane: elastic-operator
    spec:
      containers:
      - name: elastic-operator
        image: docker.elastic.co/eck/eck-operator:2.8.0
        env:
        - name: OPERATOR_NAMESPACE
          valueFrom:
            fieldRef:
              fieldPath: metadata.namespace
        - name: POD_NAME
          valueFrom:
            fieldRef:
              fieldPath: metadata.name
        resources:
          limits:
            memory: 1Gi
            cpu: "1"
          requests:
            memory: 256Mi
            cpu: "100m"

应用配置：

bash复制kubectl create namespace elastic-system
kubectl apply -f eck-operator.yaml

验证operator运行状态：

bash复制kubectl -n elastic-system get pods

3. Elasticsearch集群部署详解

3.1 基础YAML配置解析

下面是一个生产可用的Elasticsearch集群YAML示例（保存为elasticsearch-cluster.yaml）：

yaml复制apiVersion: elasticsearch.k8s.elastic.co/v1
kind: Elasticsearch
metadata:
  name: production-cluster
  namespace: logging
spec:
  version: 8.9.0
  nodeSets:
  - name: master
    count: 3
    config:
      node.roles: ["master"]
    podTemplate:
      spec:
        containers:
        - name: elasticsearch
          resources:
            limits:
              memory: 4Gi
              cpu: "2"
            requests:
              memory: 2Gi
              cpu: "1"
  - name: data
    count: 5
    config:
      node.roles: ["data"]
    volumeClaimTemplates:
    - metadata:
        name: elasticsearch-data
      spec:
        accessModes: [ "ReadWriteOnce" ]
        resources:
          requests:
            storage: 100Gi

关键参数说明：

node.roles：明确区分master和data节点角色
volumeClaimTemplates：数据卷声明模板
resources：资源配置需根据实际负载调整
version：指定Elasticsearch版本

3.2 高级配置技巧

3.2.1 自定义配置文件

通过config字段可以覆盖默认配置：

yaml复制config:
  cluster.routing.allocation.disk.threshold_enabled: true
  indices.breaker.fielddata.limit: 60%
  thread_pool.search.size: 20

3.2.2 资源限制最佳实践

根据经验，Elasticsearch容器：

堆内存应设为总内存的50%（不超过32GB）
CPU限制与请求比例建议2:1
数据节点需要更多磁盘I/O资源

示例配置：

yaml复制resources:
  limits:
    memory: 8Gi
    cpu: "4"
    ephemeral-storage: 50Gi
  requests:
    memory: 4Gi
    cpu: "2"
    ephemeral-storage: 20Gi

3.2.3 网络策略配置

确保Elasticsearch节点间通信：

yaml复制podTemplate:
  spec:
    securityContext:
      fsGroup: 1000
    tolerations:
    - key: "dedicated"
      operator: "Equal"
      value: "elasticsearch"
      effect: "NoSchedule"

4. Kibana与APM集成

4.1 Kibana部署配置

配套Kibana的YAML示例：

yaml复制apiVersion: kibana.k8s.elastic.co/v1
kind: Kibana
metadata:
  name: kibana-production
  namespace: logging
spec:
  version: 8.9.0
  count: 2
  elasticsearchRef:
    name: production-cluster
  podTemplate:
    spec:
      containers:
      - name: kibana
        resources:
          limits:
            memory: 1Gi
          requests:
            memory: 512Mi

4.2 APM Server配置

APM性能监控组件配置：

yaml复制apiVersion: apm.k8s.elastic.co/v1
kind: ApmServer
metadata:
  name: apm-server
  namespace: logging
spec:
  version: 8.9.0
  count: 2
  elasticsearchRef:
    name: production-cluster
  http:
    service:
      spec:
        type: LoadBalancer

5. 运维与监控实践

5.1 健康检查与自动恢复

ECK内置的健康检查机制可以通过以下方式增强：

yaml复制spec:
  healthCheck:
    failureThreshold: 3
    periodSeconds: 30

5.2 监控指标暴露

配置Prometheus监控：

yaml复制monitoring:
  metrics:
    enabled: true
    prometheus:
      interval: 10s
      path: "/metrics"

5.3 证书管理

自动TLS证书配置示例：

yaml复制http:
  tls:
    selfSignedCertificate:
      disabled: false
      subjectAltNames:
      - ip: 192.168.1.100
      - dns: elasticsearch.example.com

6. 常见问题排查指南

6.1 Pod启动失败排查步骤

检查事件日志：

bash复制kubectl describe pod -n logging <pod-name>

查看容器日志：

bash复制kubectl logs -n logging <pod-name> -c elasticsearch

验证资源配额：

bash复制kubectl describe nodes | grep -A 10 "Allocated resources"

6.2 磁盘压力处理

当出现磁盘压力警告时：

调整磁盘水位线：

yaml复制config:
  cluster.routing.allocation.disk.watermark.low: 85%
  cluster.routing.allocation.disk.watermark.high: 90%

扩容PVC：

bash复制kubectl edit pvc -n logging <pvc-name>

6.3 性能调优参数

关键JVM参数调整：

yaml复制podTemplate:
  spec:
    containers:
    - name: elasticsearch
      env:
      - name: ES_JAVA_OPTS
        value: "-Xms4g -Xmx4g -XX:+UseG1GC"

7. 版本升级策略

ECK支持滚动升级，建议采用分阶段升级：

先升级operator：

bash复制kubectl set image -n elastic-system deployment/elastic-operator \
  elastic-operator=docker.elastic.co/eck/eck-operator:2.9.0

然后升级Elasticsearch集群：

yaml复制spec:
  version: 8.10.0
  upgrade:
    strategy: "RollingUpgrade"

最后升级Kibana等组件

8. 备份与灾难恢复

8.1 配置快照仓库

使用S3存储的备份配置：

yaml复制apiVersion: elasticsearch.k8s.elastic.co/v1
kind: Elasticsearch
metadata:
  name: production-cluster
spec:
  snapshotRepositories:
  - name: backup-s3
    type: s3
    settings:
      bucket: "my-elastic-backups"
      client: "default"

8.2 定时快照策略

自动快照策略示例：

yaml复制slmPolicies:
  - name: daily-snapshots
    schedule: "0 30 1 * * ?"
    repository: backup-s3
    config:
      indices: ["*"]
      ignore_unavailable: true

9. 安全加固措施

9.1 网络隔离配置

通过NetworkPolicy限制访问：

yaml复制apiVersion: networking.k8s.io/v1
kind: NetworkPolicy
metadata:
  name: elasticsearch-allow
  namespace: logging
spec:
  podSelector:
    matchLabels:
      elasticsearch.k8s.elastic.co/cluster-name: production-cluster
  policyTypes:
  - Ingress
  ingress:
  - from:
    - namespaceSelector:
        matchLabels:
          project: monitoring
    ports:
    - protocol: TCP
      port: 9200

9.2 RBAC权限控制

自定义ServiceAccount示例：

yaml复制apiVersion: v1
kind: ServiceAccount
metadata:
  name: elasticsearch-admin
  namespace: logging

---
apiVersion: rbac.authorization.k8s.io/v1
kind: Role
metadata:
  name: elasticsearch-admin
  namespace: logging
rules:
- apiGroups: [""]
  resources: ["pods", "services"]
  verbs: ["get", "list", "watch"]

---
apiVersion: rbac.authorization.k8s.io/v1
kind: RoleBinding
metadata:
  name: elasticsearch-admin-binding
  namespace: logging
subjects:
- kind: ServiceAccount
  name: elasticsearch-admin
  namespace: logging
roleRef:
  kind: Role
  name: elasticsearch-admin
  apiGroup: rbac.authorization.k8s.io

10. 性能优化实战经验

10.1 分片策略优化

合理设置分片数的配置示例：

yaml复制config:
  cluster.max_shards_per_node: 500
  indices.query.bool.max_clause_count: 8192

10.2 缓存配置调整

查询缓存优化参数：

yaml复制config:
  indices.requests.cache.size: 5%
  indices.fielddata.cache.size: 30%

10.3 线程池调优

根据负载调整线程池：

yaml复制config:
  thread_pool:
    write:
      size: 16
      queue_size: 1000
    search:
      size: 20
      queue_size: 500

在实际生产环境中，我发现通过YAML管理ECK集群虽然初期配置工作量较大，但长期来看更易于维护和版本控制。特别是在需要频繁调整参数的场景下，直接修改YAML文件比通过Helm values覆盖更加直观可靠。建议将YAML文件纳入Git仓库管理，配合CI/CD流水线实现配置的自动化部署。