Elasticsearch集群状态莫名其妙变成红色,红色意味着有可能存在主分片未分配。本随笔记录了问题的排查和简单地恢复集群。
查看分配状态
从分配详情可以看出的确是有3个分片没能自动分配,其中包括6号分片的主分片,因为主分片未分配意味着数据不完整,所以集群的状态是红色。
获取分片分配解释
执行命令
GET /_cluster/allocation/explain
{
"index": "bigtable_v4",
"shard": 6,
"primary": true
}
返回结果
重点:failed to obtain in-memory shard lock
Github大佬们的解释:
https://github.com/elastic/elasticsearch/issues/23939
两个重点:
- 出现这个问题的原因是原有分片未正常关闭和清理,所以当分片要重新分配回出问题节点的时候没有办法获得分片锁。
- 这不会造成分片数据丢失,只需要重新触发一下分配。
修复
执行修复命令
POST /_cluster/reroute?retry_failed
修复结果
Elasticsearch集群健康状态忽然变为红色有可能是内存不足Full GC停顿时间过长或网络不好导致节点离线。
如果确实是网络条件不理想可以考虑以下改善:
1.当节点离线延缓分片重新分配
PUT /_all/_settings
{
"settings": {
"index.unassigned.node_left.delayed_timeout": "5m"
}
}
2.延缓网络错误检查时间
https://www.elastic.co/guide/en/elasticsearch/reference/6.8/modules-discovery-zen.html