1 后端程序员必备:分布式事务基础篇-德赢Vwin官网 网
0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

后端程序员必备:分布式事务基础篇

jf_ro2CN3Fa 来源:捡田螺的小男孩 2023-08-31 16:00 次阅读


前言

最近看了几篇有关于分布式事务的博文,做一下笔记。哈哈~

2f1aa13e-47c2-11ee-97a6-92fbcf53809c.png

基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://github.com/YunaiV/ruoyi-vue-pro
  • 视频教程:https://doc.iocoder.cn/video/

数据库事务

数据库事务(简称:事务 ),是数据库管理系统执行过程中的一个逻辑单位,由一个有限的数据库操作序列构成,这些操作要么全部执行,要么全部不执 行,是一个不可分割 的工作单位。

数据库事务的几个典型特性:原子性(Atomicity )、一致性( Consistency )、隔离性( Isolation)和持久性(Durabilily),简称就是ACID。

2f3173c8-47c2-11ee-97a6-92fbcf53809c.png
  • 原子性: 事务作为一个整体被执行,包含在其中的对数据库的操作要么全部被执行,要么都不执行。
  • 一致性: 指在事务开始之前和事务结束以后,数据不会被破坏,假如A账户给B账户转10块钱,不管成功与否,A和B的总金额是不变的。
  • 隔离性: 多个事务并发访问时,事务之间是相互隔离的,即一个事务不影响其它事务运行效果。简言之,就是事务之间是进水不犯河水的。
  • 持久性: 表示事务完成以后,该事务对数据库所作的操作更改,将持久地保存在数据库之中。

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://github.com/YunaiV/yudao-cloud
  • 视频教程:https://doc.iocoder.cn/video/

事务的实现原理

本地事务

传统的单服务器,单关系型数据库下的事务,就是本地事务。本地事务由资源管理器管理,JDBC事务就是一个非常典型的本地事务。2f563a1e-47c2-11ee-97a6-92fbcf53809c.png

事务日志

innodb事务日志包括redo log和undo log。

redo log(重做日志)

redo log通常是物理日志,记录的是数据页的物理修改,而不是某一行或某几行修改成怎样,它用来恢复提交后的物理数据页。

undo log(回滚日志)

undo log是逻辑日志,和redo log记录物理日志的不一样。可以这样认为,当delete一条记录时,undo log中会记录一条对应的insert记录,当update一条记录时,它记录一条对应相反的update记录。

事务ACID特性的实现思想

  • 原子性:是使用 undo log来实现的,如果事务执行过程中出错或者用户执行了rollback,系统通过undo log日志返回事务开始的状态。
  • 持久性:使用 redo log来实现,只要redo log日志持久化了,当系统崩溃,即可通过redo log把数据恢复。
  • 隔离性:通过锁以及MVCC,使事务相互隔离开。
  • 一致性:通过回滚、恢复,以及并发情况下的隔离性,从而实现一致性。

分布式事务

分布式事务: 就是指事务的参与者、支持事务的服务器、资源服务器以及事务管理器分别位于不同的分布式系统的不同节点之上。简单来说,分布式事务指的就是分布式系统中的事务,它的存在就是为了保证不同数据库节点的数据一致性。

为什么需要分布式事务?接下来分两方面阐述:

微服务架构下的分布式事务

随着互联网的快速发展,轻盈且功能划分明确的微服务,登上了历史舞台。比如,一个用户下订单,购买直播礼物的服务,被拆分成三个service,分别是金币服务(coinService),下订单服务(orderService)、礼物服务(giftService)。这些服务都部署在不同的机器上(节点),对应的数据库(金币数据库、订单数据库、礼物数据库)也在不同节点上。

2f6d193c-47c2-11ee-97a6-92fbcf53809c.png

用户下单购买礼物,礼物数据库、金币数据库、订单数据库在不同节点上,用本地事务是不可以的,那么如何保证不同数据库(节点)上的数据一致性呢?这就需要分布式事务啦~

分库分表下的分布式事务

随着业务的发展,数据库的数据日益庞大,超过千万级别的数据,我们就需要对它分库分表(以前公司是用mycat分库分表,后来用sharding-jdbc)。一分库,数据又分布在不同节点上啦,比如有的在深圳机房,有的在北京机房~你再想用本地事务去保证,已经无动于衷啦~还是需要分布式事务啦。

比如A转10块给B,A的账户数据是在北京机房,B的账户数据是在深圳机房。流程如下:

2f89d400-47c2-11ee-97a6-92fbcf53809c.png

CAP 理论&BASE 理论

学习分布式事务,当然需要了解 CAP 理论和BASE 理论。

CAP理论

CAP理论作为分布式系统的基础理论,指的是在一个分布式系统中, Consistency(一致性)、 Availability(可用性)、Partition tolerance(分区容错性),这三个要素最多只能同时实现两点。2f9fd322-47c2-11ee-97a6-92fbcf53809c.png

一致性(C:Consistency):

一致性是指数据在多个副本之间能否保持一致的特性。例如一个数据在某个分区节点更新之后,在其他分区节点读出来的数据也是更新之后的数据。

可用性(A:Availability):

可用性是指系统提供的服务必须一直处于可用的状态,对于用户的每一个操作请求总是能够在有限的时间内返回结果。这里的重点是"有限时间内"和"返回结果"。

分区容错性(P:Partition tolerance):

分布式系统在遇到任何网络分区故障的时候,仍然需要能够保证对外提供满足一致性和可用性的服务。

选择 说明
CA 放弃分区容错性,加强一致性和可用性,其实就是传统的单机数据库的选择
AP 放弃一致性,分区容错性和可用性,这是很多分布式系统设计时的选择
CP 放弃可用性,追求一致性和分区容错性,网络问题会直接让整个系统不可用

BASE 理论

BASE 理论, 是对CAP中AP的一个扩展,对于我们的业务系统,我们考虑牺牲一致性来换取系统的可用性和分区容错性。BASE是Basically Available(基本可用),Soft state(软状态),和 Eventually consistent(最终一致性)三个短语的缩写。

Basically Available

基本可用:通过支持局部故障而不是系统全局故障来实现的。如将用户分区在 5 个数据库服务器上,一个用户数据库的故障只影响这台特定主机那 20% 的用户,其他用户不受影响。

Soft State

软状态,状态可以有一段时间不同步

Eventually Consistent

最终一致,最终数据是一致的就可以了,而不是时时保持强一致。

分布式事务的几种解决方案

分布式事务解决方案主要有以下这几种:

  • 2PC(二阶段提交)方案
  • TCC(Try、Confirm、Cancel)
  • 本地消息表
  • 最大努力通知
  • Saga事务

二阶段提交方案

二阶段提交方案是常用的分布式事务解决方案。事务的提交分为两个阶段:准备阶段和提交执行方案。

二阶段提交成功的情况

准备阶段 ,事务管理器向每个资源管理器发送准备消息,如果资源管理器的本地事务操作执行成功,则返回成功。

提交执行阶段 ,如果事务管理器收到了所有资源管理器回复的成功消息,则向每个资源管理器发送提交消息,RM 根据 TM 的指令执行提交。如图:

2fc8e488-47c2-11ee-97a6-92fbcf53809c.jpg
二阶段提交失败的情况

准备阶段 ,事务管理器向每个资源管理器发送准备消息,如果资源管理器的本地事务操作执行成功,则返回成功,如果执行失败,则返回失败。

提交执行阶段 ,如果事务管理器收到了任何一个资源管理器失败的消息,则向每个资源管理器发送回滚消息。资源管理器根据事务管理器的指令回滚本地事务操作,释放所有事务处理过程中使用的锁资源。

2fec44e6-47c2-11ee-97a6-92fbcf53809c.jpg
二阶段提交优缺点

2PC方案实现起来简单,成本较低,但是主要有以下缺点

  • 单点问题:如果事务管理器出现故障,资源管理器将一直处于锁定状态。
  • 性能问题:所有资源管理器在事务提交阶段处于同步阻塞状态,占用系统资源,一直到提交完成,才释放资源,容易导致性能瓶颈。
  • 数据一致性问题:如果有的资源管理器收到提交的消息,有的没收到,那么会导致数据不一致问题。

TCC(补偿机制)

TCC 采用了补偿机制,其核心思想是:针对每个操作,都要注册一个与其对应的确认和补偿(撤销)操作。

TCC(Try-Confirm-Cancel)模型

TCC(Try-Confirm-Cancel)是通过对业务逻辑的分解来实现分布式事务。针对一个具体的业务服务,TCC 分布式事务模型需要业务系统都实现一下三段逻辑:

try阶段 :尝试去执行,完成所有业务的一致性检查,预留必须的业务资源。

Confirm阶段 :该阶段对业务进行确认提交,不做任何检查,因为try阶段已经检查过了,默认Confirm阶段是不会出错的。

Cancel 阶段 :若业务执行失败,则进入该阶段,它会释放try阶段占用的所有业务资源,并回滚Confirm阶段执行的所有操作。

3003204e-47c2-11ee-97a6-92fbcf53809c.jpg

TCC 分布式事务模型包括三部分:主业务服务、从业务服务、业务活动管理器

  • 主业务服务:主业务服务负责发起并完成整个业务活动。
  • 从业务服务:从业务服务是整个业务活动的参与方,实现Try、Confirm、Cancel操作,供主业务服务调用。
  • 业务活动管理器:业务活动管理器管理控制整个业务活动,包括记录事务状态,调用从业务服务的 Confirm 操作,调用从业务服务的 Cancel 操作等。

下面再拿用户下单购买礼物作为例子来vwin TCC实现分布式事务的过程:

假设用户A余额为100金币,拥有的礼物为5朵。A花了10个金币,下订单,购买10朵玫瑰。余额、订单、礼物都在不同数据库。

TCC的Try阶段:

  • 生成一条订单记录,订单状态为待确认。
  • 将用户A的账户金币中余额更新为90,冻结金币为10(预留业务资源)
  • 将用户的礼物数量为5,预增加数量为10。
  • Try成功之后,便进入Confirm阶段
  • Try过程发生任何异常,均进入Cancel阶段
30248da6-47c2-11ee-97a6-92fbcf53809c.jpg

TCC的Confirm阶段:

  • 订单状态更新为已支付
  • 更新用户余额为90,可冻结为0
  • 用户礼物数量更新为15,预增加为0
  • Confirm过程发生任何异常,均进入Cancel阶段
  • Confirm过程执行成功,则该事务结束

3044be0a-47c2-11ee-97a6-92fbcf53809c.jpgTCC的Cancel阶段:

  • 修改订单状态为已取消
  • 更新用户余额回100
  • 更新用户礼物数量为5
305f54ea-47c2-11ee-97a6-92fbcf53809c.jpg
TCC优缺点

TCC方案让应用可以自定义数据库操作的粒度,降低了锁冲突,可以提升性能,但是也有以下缺点:

  • 应用侵入性强,try、confirm、cancel三个阶段都需要业务逻辑实现。
  • 需要根据网络、系统故障等不同失败原因实现不同的回滚策略,实现难度大,一般借助TCC开源框架,ByteTCC,TCC-transaction,Himly。

本地消息表

ebay最初提出本地消息表这个方案,来解决分布式事务问题。业界目前使用这种方案是比较多的,它的核心思想就是将分布式事务拆分成本地事务进行处理。可以看一下基本的实现流程图:

307a7e00-47c2-11ee-97a6-92fbcf53809c.jpg
基本实现思路

发送消息方:

  • 需要有一个消息表,记录着消息状态相关信息
  • 业务数据和消息表在同一个数据库,即要保证它俩在同一个本地事务。
  • 在本地事务中处理完业务数据和写消息表操作后,通过写消息到MQ消息队列。
  • 消息会发到消息消费方,如果发送失败,即进行重试。

消息消费方:

  • 处理消息队列中的消息,完成自己的业务逻辑。
  • 此时如果本地事务处理成功,则表明已经处理成功了。
  • 如果本地事务处理失败,那么就会重试执行。
  • 如果是业务上面的失败,给消息生产方发送一个业务补偿消息,通知进行回滚等操作。

生产方和消费方定时扫描本地消息表,把还没处理完成的消息或者失败的消息再发送一遍。如果有靠谱的自动对账补账逻辑,这种方案还是非常实用的。

优点&缺点:

该方案的优点是很好地解决了分布式事务问题,实现了最终一致性。缺点是消息表会耦合到业务系统中。

最大努力通知

什么是最大通知

最大努力通知也是一种分布式事务解决方案。下面是企业网银转账一个例子

309445ce-47c2-11ee-97a6-92fbcf53809c.jpg
  • 企业网银系统调用前置接口,跳转到转账页
  • 企业网银调用转账系统接口
  • 转账系统完成转账处理,向企业网银系统发起转账结果通知,若通知失败,则转账系统按策略进行重复通知。
  • 企业网银系统未接收到通知,会主动调用转账系统的接口查询转账结果。
  • 转账系统会遇到退汇等情况,会定时回来对账。

最大努力通知方案的目标,就是发起通知方通过一定的机制,最大努力将业务处理结果通知到接收方 。最大努力通知实现机制如下:

30ab3946-47c2-11ee-97a6-92fbcf53809c.png
最大努力通知解决方案

要实现最大努力通知,可以采用MQ的ack机制。

方案

30c20ff4-47c2-11ee-97a6-92fbcf53809c.jpg
  • 1.发起方将通知发给MQ。
  • 2.接收通知方监听MQ消息。
  • 3.接收通知方收到消息后,处理完业务,回应ack。
  • 4.接收通知方若没有回应ack,则MQ会间隔1min、5min、10min等重复通知。
  • 5.接受通知方可用消息校对接口,保证消息的一致性。

转账业务实现流程图:

30e24a80-47c2-11ee-97a6-92fbcf53809c.png

交互流程如下:

  • 1、用户请求转账系统进行转账。
  • 2、转账系统完成转账,将转账结果发给MQ。
  • 3、企业网银系统监听MQ,接收转账结果通知,如果接收不到消息,MQ会重复发送通知。接收到转账结果,更新转账状态。
  • 4、企业网银系统也可以主动查询转账系统的转账结果查询接口,更新转账状态。

Saga事务

Saga事务由普林斯顿大学的Hector Garcia-Molina和Kenneth Salem提出,其核心思想是将长事务拆分为多个本地短事务,由Saga事务协调器协调,如果正常结束那就正常完成,如果某个步骤失败,则根据相反顺序一次调用补偿操作。

saga简介

  • Saga = Long Live Transaction (LLT,长活事务)
  • LLT = T1 + T2 + T3 + ... + Ti(Ti为本地短事务)
  • 每个本地事务Ti 有对应的补偿 Ci

Saga的执行顺序

  • 正常情况:T1 T2 T3 ... Tn
  • 异常情况:T1 T2 T3 C3 C2 C1

Saga两种恢复策略

  • 向后恢复,如果任意本地子事务失败,补偿已完成的事务。如异常情况的执行顺序T1 T2 Ti Ci C2 C1.
  • 向前恢复,即重试失败的事务,假设最后每个子事务都会成功。执行顺序:T1, T2, ..., Tj(失败), Tj(重试),..., Tn。

举个例子,假设用户下订单,花10块钱购买了10多玫瑰,则有

T1=下订单 ,T2=扣用户10块钱,T3=用户加10朵玫瑰, T4=库存减10朵玫瑰

C1=取消订单 ,C2= 给用户加10块钱,C3 =用户减10朵玫瑰, C4=库存加10朵玫瑰

30f57be6-47c2-11ee-97a6-92fbcf53809c.png

假设事务执行到T4发生异常回滚,在C4的要把玫瑰给库存加回去的时候,发现用户的玫瑰都用掉了,这是Saga的一个缺点 ,由于事务之间没有隔离性导致的问题。

可以通过以下方案解决这个问题

  • 在应⽤层⾯加⼊逻辑锁的逻辑。

  • Session层⾯隔离来保证串⾏化操作。

  • 业务层⾯采⽤预先冻结资⾦的⽅式隔离此部分资⾦。

  • 业务操作过程中通过及时读取当前状态的⽅式获取更新。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表德赢Vwin官网 网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 数据库
    +关注

    关注

    7

    文章

    3794

    浏览量

    64355
  • 管理器
    +关注

    关注

    0

    文章

    246

    浏览量

    18502
  • 分布式
    +关注

    关注

    1

    文章

    895

    浏览量

    74498

原文标题:后端程序员必备:分布式事务基础篇

文章出处:【微信号:芋道源码,微信公众号:芋道源码】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    [狂人C程序员入门必备].键盘农夫.扫描版

    [狂人C程序员入门必备].键盘农夫.扫描版
    发表于 03-06 22:21

    微服务架构下分布式事务解决方案 —— 阿里GTS

    摘要: 本文将深入和大家探讨微服务架构下,分布式事务的各种解决方案,并重点为大家解读阿里巴巴提出的分布式事务解决方案----GTS。该方案中提到的GTS是全新一代解决微服务问题的
    发表于 03-16 11:14

    一行代码,保障分布式事务一致性—GTS:微服务架构下分布式事务解决方案

    摘要: 虽然微服务现在如火如荼,但对其实践其实仍处于初级阶段。即使互联网巨头的实践也大多是试验层面,鲜有核心业务系统微服务化的案例。GTS是目前业界第一款,也是唯一的一款通用的解决微服务分布式事务
    发表于 06-05 19:14

    如果Microsoft分布式事务处理协调器MSDTC未运行,PSoC Programmer安装程序将崩溃

    这个问题影响程序员3、3.05、3.06和3.10的“beta 1”版本。如果在“控制面板”和“管理工具”和“服务”列表中的服务列表中缺少“分布式事务协调器”服务,则安装程序崩溃。要解
    发表于 02-27 15:48

    程序员羊皮卷下载版(程序员必备)

    程序员羊皮卷下载版(程序员必备)
    发表于 09-06 16:04 0次下载

    分布式事务控制的原理实例分析

    对于分布式数据库而言,分布式事务控制是重点和难点,一直以来没有成熟的方案可以突破CAP理论,几乎每个分布式数据库研发团队都在分布式
    发表于 09-28 19:04 0次下载
    <b class='flag-5'>分布式</b><b class='flag-5'>事务</b>控制的原理实例分析

    程序员必备专用单词快来学习吧!

    本文档的主要内容是程序员必备的专用单词快来学习吧!
    发表于 08-14 17:41 24次下载
    <b class='flag-5'>程序员</b><b class='flag-5'>必备</b>专用单词快来学习吧!

    Apache RocketMQ 正式开源分布式事务消息

    版本开源了社区最为关心的分布式事务消息,而且实现了对外部组件的零依赖。接下来,本文将详细探秘RocketMQ事务消息的设计原理以及实现机制。一、需求缘起在微服务架构中,随着服务的逐步拆分,数据库私有
    发表于 08-20 15:15 319次阅读

    程序员求职时必备技能有哪些

    近日国外开发者平台 HankerRank 发布了 2018 年开发者技能调查报告,本文摘录程序员求职时必备技能相关的调查结果。
    的头像 发表于 10-25 10:22 2005次阅读
    <b class='flag-5'>程序员</b>求职时<b class='flag-5'>必备</b>技能有哪些

    程序员如何定义

    当了几年的程序员了,一直都在想一个问题,什么是程序员程序员应该做好那些事情,什么样的程序员是有素质的程序员?什么样的
    的头像 发表于 12-18 14:15 2622次阅读

    一位程序员对自己职业的看法

    我个人是一个程序员,关注web、分布式和数据处理。
    的头像 发表于 12-19 13:53 4478次阅读

    什么是程序员

    当了几年的程序员了,一直都在想一个问题,什么是程序员程序员应该做好那些事情,什么样的程序员是有素质的程序员?什么样的
    的头像 发表于 06-04 16:21 8987次阅读

    后端程序员的成长指南

    前端领域如火如荼,工资水平也水涨船高。作为后端程序员的你,羡慕吗?但羡慕是没用的,更别提嫉妒恨了。古人曰:与其临渊羡鱼,不如退而结网。
    的头像 发表于 01-13 15:50 2435次阅读

    springcloud分布式事务解决方案

    Spring Cloud是一套用于构建分布式系统的开源框架,它提供了一系列组件和工具,可以帮助开发人员快速构建和管理基于微服务架构的应用程序。在分布式系统中,事务的处理是一个重要的问题
    的头像 发表于 11-16 11:03 2032次阅读

    springcloud 分布式事务解决方案实例

    Spring Cloud是一套用于构建分布式系统的开发工具集,可以用于解决分布式系统中的各种问题,包括分布式事务。在分布式系统中,由于业务逻
    的头像 发表于 12-03 16:32 1136次阅读