快速理解QianBase xTP分布式存储管理引擎


正版化服务
正版化技术交流 2023-07-13 16:03:47 49309
分类专栏: 资讯

图片

QianBase xTP的分布式存储管理引擎(DSE Distributed Storage Engine)是一种用于管理和存储大规模数据的系统。它提供了一系列用于存储、管理和处理数据的功能。

01
分布式存储工作机制

图片

 

QianBase xTP的分布式存储管理引擎可以将数据分布在多个节点上,以提高可扩展性和容错性。其写入数据过程可分为以下几步:

客户端连接

应用程序使用 QianBase xTP 提供的驱动程序或客户端库与数据库建立连接,支持PostgreSQL 协议。

SQL 语句解析和优化

应用程序发送 SQL 语句到 QianBase xTP。QianBase xTP 的 SQL 解析器解析 SQL 语句并进行查询优化。

范围空间路由

QianBase xTP 使用范围路由来确定 SQL 语句应该在哪个节点上执行。

事务处理

如果 SQL 语句是在一个事务中执行的,QianBase xTP 会为该事务分配一个全局唯一的事务标识符。事务通过在副本之间协调写入操作来确保 ACID(原子性、一致性、隔离性和持久性)属性。

写入操作

QianBase xTP 使用 Raft 协议将写入操作从主节点复制到副本节点。主节点负责协调副本节点的写入操作,并通过 Raft 协议中的多数派确认机制来确保强一致性。

写入持久化

一旦写入操作被 Raft 协议确认,QianBase xTP 将数据写入持久化存储,通常是SSD磁盘。

响应客户端

QianBase xTP 将写入操作的结果返回给客户端。客户端可以根据需要处理返回的结果。0

2

02
数据一致性

QianBase xTP的分布式存储管理引擎通过使用一致性协议(Raft)来确保数据在分布式环境中的一致性。Raft算法的核心思想是将集群中的节点划分为三种角色:领导者(leader)、跟随者(follower)和候选者(candidate)。

领导者选举

在集群启动或领导者节点故障时,候选者节点可以发起选举来成为新的领导者。候选者会向其他节点发送选举请求,并收集足够的选票以成为领导者。

 

图片

图:候选者会向其他节点发送选举请求

 

图片

图:follower同意候选者为领导者

图片

图:候选者成为了领导者,就可以对follower发送指令

日志复制

领导者节点接收到客户端的写入请求后,将该请求追加到自己的日志中,并向其他节点发送日志复制请求。其他节点接收到请求后,将该日志条目写入自己的日志,并向领导者发送确认消息。

图片

图:leader对follower发送指令复制日志“hello,esgyn”

图片

图:follower复制完成后向leader发送确认消息

提交和应用

当领导者节点确定大多数节点已成功复制了某个日志条目时,它将该条目标记为已提交,并将其应用到自己的状态中。然后,领导者会通知其他节点执行相同的操作,以确保所有节点的状态保持一致。

一致性保证

Raft算法只有在大多数节点成功复制了日志条目并提交后,该操作才被视为已提交。

03
数据分区
Range和副本分配

QianBase xTP将数据划分为多个Range,并将每个范围的多个副本分配给不同的节点。每个范围有一个主副本和多个副本,主副本负责协调数据的读写操作。

分区迁移

根据负载评估和决策,QianBase xTP会触发分区迁移操作。

迁移过程中的负载控制

在进行分区迁移时,QianBase xTP会采取一些措施来控制迁移过程中的负载影响。例如,可以限制并发的迁移操作数量,控制数据复制的速率等。

 

04
扩展性和弹性
水平扩展

QianBase xTP支持水平扩展,允许在集群中添加新的节点来扩大数据库的容量和吞吐量。

 

图片

图:传统的纵向扩展,代价昂贵

图片

图:用廉价机器水平扩展,成本更低

数据分片

QianBase xTP 将数据分为多个范围(Range),每个范围包含一定范围的数据。QianBase xTP 使用 Raft 协议来复制和分布数据。

数据复制和冗余

QianBase xTP的分布式存储管理引擎使用多副本机制来提供数据的冗余和高可用性, QianBase xTP支持指定副本数(默认情况下,系统表5副本,用户表3副本),多个副本存储在不同的节点上,当某个节点故障时,数据仍然可以从其他副本节点读取和写入,保证数据的可用性。

图片

弹性恢复

QianBase xTP集群具备自动故障检测和恢复的能力。

 

05
小结

分布式存储管理引擎负责读取和写入数据到磁盘,提供数据操作接口、数据副本位置管理和副本数据复制功能。

网站声明:如果转载,请联系本站管理员。否则一切后果自行承担。

本文链接:https://www.xckfsq.com/news/show.html?id=26294
赞同 0
评论 0 条
正版化技术交流L3
粉丝 2 发表 67 + 关注 私信
上周热门
如何使用 StarRocks 管理和优化数据湖中的数据?  2969
【软件正版化】软件正版化工作要点  2888
统信UOS试玩黑神话:悟空  2860
信刻光盘安全隔离与信息交换系统  2746
镜舟科技与中启乘数科技达成战略合作,共筑数据服务新生态  1280
grub引导程序无法找到指定设备和分区  1249
华为全联接大会2024丨软通动力分论坛精彩议程抢先看!  169
2024海洋能源产业融合发展论坛暨博览会同期活动-海洋能源与数字化智能化论坛成功举办  169
点击报名 | 京东2025校招进校行程预告  165
华为纯血鸿蒙正式版9月底见!但Mate 70的内情还得接着挖...  161
本周热议
我的信创开放社区兼职赚钱历程 40
今天你签到了吗? 27
信创开放社区邀请他人注册的具体步骤如下 15
如何玩转信创开放社区—从小白进阶到专家 15
方德桌面操作系统 14
我有15积分有什么用? 13
用抖音玩法闯信创开放社区——用平台宣传企业产品服务 13
如何让你先人一步获得悬赏问题信息?(创作者必看) 12
2024中国信创产业发展大会暨中国信息科技创新与应用博览会 9
中央国家机关政府采购中心:应当将CPU、操作系统符合安全可靠测评要求纳入采购需求 8

加入交流群

请使用微信扫一扫!