当前位置: 首页 > news >正文

elasticsearch学习笔记(十)——Elasticsearch横向扩容过程与容错机制

下面简单描述一下Elasticsearch横向扩容过程与容错机制

1、横向扩容过程

对于ES默认创建的索引有10个shard,其中有5个是primary shard,5个是replica shard。
在ES内部会自动做一些事情:
(1)primary shard & replica shard会自动负载均衡。均匀的分布在各个节点
(2)保持每个节点node拥有更少的shard,IO/CPU/Memory资源给每个shard分配更多,使得每个shard性能更好
(3)Elasticsearch的扩容极限,由于有10个shard(5个primary shard,5个replica shard),所以最多可以扩容到6台机器,此时每个shard可以占用单台服务器的所有资源,性能最好。
(4)如果超出扩容的极限,可以动态的修改replica数量,比如将replica修改为2,那么就有15个分片(5个primary shard,10个replica shard),此时就可以扩容到15台机器,比之前拥有更高的读吞吐量。
(5)如果只有5台机器,15个分片(5个primary shard,10个replica shard),每个shard占用的资源会更少,但是容错性会比10个分片的要好,此时最多可以容纳2台机器宕机,而10个分片只能容纳1台机器宕机。
这些知识点告诉我们,一方面扩容应该怎么去扩,怎么去提升系统整体的吞吐量;另一方面还要考虑到系统的容错性,怎样提高系统的容错性,让尽可能多的服务器宕机,不会造成数据的丢失。

2、容错机制详解

场景描述:
假设master node1节点宕机的一瞬间,P0,P1,P2,P3,P4这些primary shard就没了,也就是说此时就不是active status
下面是ES做的容错的一个过程:
第一步:master选举,自动选择另一台node作为新的master节点,承担起master的责任来
第二步:新的master node2将丢失掉primary shard的某个replica shard提升为primary shard。此时cluster status就会变为yellow,因为primary shard全部变成active了,但是少了一个replica shard,所以就不是所有的replica shard都是active的
第三步:重启故障的node,新的master会将缺失的副本都copy一份到该node上去。而且该node会使用之前已有的shard数据,只是同步一下宕机之后发生过的修改。cluster的状态变为green,因为primary shard和replica shard都齐全了。

http://www.gsyq.cn/news/1641070.html

相关文章:

  • 5分钟掌握poi-tl:企业文档自动化的终极解决方案
  • BubbleTabBar未来展望:路线图与新功能预告
  • gocryptfs终极指南:Go语言加密文件系统的完整解决方案
  • Stout高级功能:支持客户端路由器的SPA应用部署技巧
  • LTC6904与PIC18F85J50实现高精度方波发生器设计
  • 如何免费使用AI图像放大工具:Upscayl完整入门指南
  • Perlite成本分析:自建与Obsidian Publish的经济对比
  • PowerShell与CMD执行外部脚本的安全风险与防范指南
  • 禅道开源项目管理:如何用敏捷思维重构你的软件开发流程
  • 【信息科学与工程学】【数据科学】第四十八篇 大数据与数据科学和应用数学01
  • 手把手带你打 Kaggle!F1 进站预测实战
  • 【Atlas】为什么 Atlas 依赖 HBase?HBase 在 Atlas 中扮演什么角色?
  • 大麦网自动化抢票脚本:Python技术实现与实战应用指南
  • CSS颜色
  • 企业级FastAPI后端模板搭建(四)数据库迁移
  • Codex插件使用指南:从下载到上手全流程 Codex插件、Codex客户端下载、Codex使用教程、AI插件使用、Codex Skill、MCP是什么、Codex插件安装
  • 如何在Unreal Engine 5中实现专业级体积特效:OpenVDB与NanoVDB插件终极指南
  • 猫抓浏览器扩展:10个高效资源嗅探技巧完全指南
  • 适合零基础搭建Agent的低代码工具平台
  • 3分钟搞定Spotify音乐下载:spotDL完整指南与网页界面使用教程
  • 第30章 类型系统高级话题
  • 5分钟构建AI浏览器自动化助手:Stagehand终极指南
  • C#视觉检测翻车实录:我把OK当成NG拒收,差点被产线大姐当场“祭天”
  • 5分钟掌握B站缓存视频转换技巧:m4s-converter完整使用指南
  • 高效技巧怎么用 AI 做表格,搭配 AI 导出鸭一站式搞定表格生成与导出工作
  • luogu----P1000 超级玛丽游戏
  • 从弱口令挖掘到SRC奖金:实战路径与高阶技巧全解析
  • 环境准备和使用指南
  • cpp数据结构
  • PyTorch实战:构建CK+表情识别数据管道