1 微服务架构下分布式数据库如何支撑千亿级数据-德赢Vwin官网 网
0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

微服务架构下分布式数据库如何支撑千亿级数据

电子工程师 来源:未知 2019-04-20 11:50 次阅读

如今,大型企业的应用平台正在向微服务架构进行转型。在微服务架构下,应用程序和数据库等底层平台的关系将会被重构。

作为新一代分布式数据库,其架构与功能特性需要保证在与传统数据库全兼容的基础上,拥抱微服务与云计算框架。因此,分布式数据库对于分布式交易与ACID必须保证与传统技术完全兼容。同时,在面向微服务应用开发与云计算基础架构时,新一代分布式数据库必须支持弹性扩张、资源隔离、多租户、可配置一致性、多模式(支持各类SQL协议)、集群内可配置容灾策略等一系列功能。

传统单点数据库的容量瓶颈,仅仅是分布式数据库所解决的问题之一。更重要的是在未来微服务化应用开发以及云化平台的趋势下,应用不再以“烟囱式”的中间件加数据库模式进行构建,而是采用数千甚至上万的微服务程序构建成的复杂网状模型。因此,分布式数据库需要满足以下能力,才能够满足上层应用的弹性扩展、高并发、高吞吐量、与灵活敏捷的需求。

在这些技术需求驱动下,分布式数据库核心技术能力分为两个方面,一方面是对传统技术的兼容,包括:

完整的ACID支持,事务和一致性保证;

SQL的完整支持,传统数据库如MySQL/PostgreSQL的语法完全兼容。

另一方面,则是技术创新,包括:

分布式与扩展性,应对数据量的变化,实现存储层和计算层的弹性扩展;

多模式访问接口,支持多类型数据管理和多种模式的访问接口;

HTAP交易/分析混合处理能力,复杂业务需求下,实现数据的物理隔离,互不干扰。

作为一款金融级分布式关系型数据库,SequoiaDB巨杉数据库的分布式数据库架构和面向微服务的云化产品形态,已经帮助包括民生银行、恒丰银行在内的多家大型金融客户实现了大量业务系统的底层数据库云化转型升级。

目前,巨杉数据库在银行生产系统单机群最大物理节点数达到135个,单集群最大存储容量超过2.1 PB,单集群最大管理数据条数1318亿条。

SequoiaDB巨杉数据库作为一款金融级的分布式关系型数据库,在企业客户云化架构转型过程中,提供了多种重要技术能力。

数据存储资源池化

SequoiaDB数据存储引擎采用原生分布式架构,数据完全打散在分布式节点间存储,自动化数据分布和管理,数据可以按需灵活扩展。

SequoiaDB采用分片技术为系统提供了横向扩展机制,其分片过程对于应用程序来说完全透明。该机制解决了单台服务器硬件资源(如内存、CPU、磁盘 I/O)受限的问题,并不会增加应用程序开发的复杂性。巨杉数据库通过原生分布式架构,可以轻松实现PB级别数据管理,目前生产环境最大支持超过1500个节点集群。

SequoiaDB巨杉数据库存储引擎也实现了multi-model多模数据管理,支持非结构化、结构化和半结构化数据全覆盖并统一管理。SequoiaDB的多模引擎设计让数据库平台场景更多样,也能符合云数据架构下对于多样化业务数据的统一管理与运维要求。

同时,在一个大型集群中,SequoiaDB提供了多维度、多层级的逻辑与物理隔离能力。在一个典型的数据资源池类型基础数据服务平台(DBaas,DataBase As A Service)中,SequoiaDB巨杉数据库能够同时服务于成百上千个不同SLA服务级别、优先级、业务特性、与数据量的应用程序,并保证应用程序之间的数据逻辑与物理隔离。

SequoiaDB提供的“数据域(Domain)”特性,能够将整个集群在物理设备层面进行隔离,确保不同的表、表空间、与数据库实例坐落于独立的硬件设备上,保证高优先级的联机交易应用与后台统计分析相互隔离互不干扰。

数据库实例化

SequoiaDB巨杉数据库支持数据库服务实例化。

针对微服务应用架构,用户可以在同一个集群中创建成百上千个不同的关系型数据库实例。数据库实例的访问与使用方式和传统关系型数据库100%兼容,同时其底层所使用的数据从逻辑上完全独立,每个实例拥有自己独立的权限管理、数据管控、甚至可以选择部署在独立的硬件环境或共享设备中。

目前SequoiaDB巨杉数据库支持用户创建 MySQL、PostgreSQL 与 SparkSQL 实例,同时还提供了JSON、S3对象存储以及Posix文件系统实例,充分满足用户对于结构化、半结构化、以及非结构化数据的需求。

从应用程序开发者与DBA的角度看,SequoiaDB巨杉数据库所提供的关系型数据库实例,与传统MySQL、PostgreSQL和SparkSQL保持全兼容。例如,在SequoiaDB巨杉数据库中的MySQL实例中,其所有的增删改查语法、视图、触发器、事务、甚至访问计划都与传统MySQL保持一致。

作为分布式数据库,SequoiaDB巨杉数据库的SQL实例用户不需要关心底层的数据到底被分散在一台还是多台设备中。用户可以简单创建一个分区表,向其中写入上亿条记录,其数据将会被自动分散在不同的物理设备中,对于应用程序根本无需关注分库分表,数据库自动提供分布式事务以及分布式访问等能力。

双活容灾与数据安全

双活容灾即灾备系统中使主生产端数据库和备机端数据库同时在线运行,处于可读可写状态的技术。在银行的交易系统中,双活容灾能力不仅保证数据不丢失,也保证系统在遭遇事故时能够短时间内重新上线。在正常情况下,双活架构的两个数据中心都能够同时提供业务的读写服务,而当一个中心宕机后,所有前端应用可以立刻切换至依然存活的数据中心继续使用。

SequoiaDB巨杉数据库在内核层面实现了多种容灾方式,包括同城双活、同城双中心、同城三中心、两地三中心、与三地五中心等容灾策略。通过使用SequoiaDB巨杉数据库的容灾与高可用机制,数据中心内的服务器故障可以保证RTO与RPO均为零,而整个数据中心或同城网络故障也可以做到秒级RTO、RPO=0。

关于SequoiaDB巨杉数据库

巨杉数据库专注新一代分布式数据库技术研发,自2011年成立以来,坚持从零开始打造分布式开源数据库引擎,是中国首家连续两年入选 Gartner 数据库报告的数据库厂商

巨杉数据库的主要产品包括 SequoiaDB 分布式关系型数据库与 SequoiaCM 企业内容管理软件,企业级应用场景包括分布式在线交易、数据中台、分布式内容管理等。

目前巨杉数据库已在超过50家500强级别的大型商业银行核心生产业务上线,企业用户总数超过1000家。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表德赢Vwin官网 网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • SQL
    SQL
    +关注

    关注

    1

    文章

    762

    浏览量

    44114
  • 数据库
    +关注

    关注

    7

    文章

    3794

    浏览量

    64352
  • 大数据
    +关注

    关注

    64

    文章

    8882

    浏览量

    137391

原文标题:微服务架构下,分布式数据库如何支撑千亿级数据?

文章出处:【微信号:DBDevs,微信公众号:数据分析与开发】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    小白求教:labview连接分布式数据库

    我用Hadoop搭建了一个分布式数据库,想让labview作为client向数据库中写数据,应该怎么实现啊
    发表于 12-13 10:18

    2017双11技术揭秘—X-DB支撑双11进入分布式数据库时代

    11X-DB服务于天猫/淘宝核心交易系统、核心物流系统、核心IM系统,经受了零点业务32.5万笔/秒峰值的性能考验(对应数据库峰值每秒破亿次的SQL调用);同时X-DB支撑起了新一代单元化架构
    发表于 12-29 15:06

    一行代码,保障分布式事务一致性—GTS:微服务架构分布式事务解决方案

    故障问题。单体应用拆分所导致的数据库架构的拆分。应用更新多个业务记录非常常见,单体应用实现也比较简单。然而在微服务架构,应用不得不调用多个
    发表于 06-05 19:14

    分布式数据库有什么优缺点?

    分布式数据库系统(DDBS)是数据库技术和网络技术两者相互渗透和有机结合的结果。涉及数据库基本理论和网络通信理论。分布式数据库由一组数据组成
    发表于 09-24 09:13

    HarmonyOS分布式数据库,为啥这么牛?

    管理三大核心技术同样有着出色的性能表现。 和对应的竞品对比,HarmonyOS 分布式数据库服务性能优于安卓的 ContentProvider,同时,跨设备 E2E 同步 1KB 数据只需要 25ms
    发表于 11-19 15:38

    【木棉花】分布式数据库

    学习笔记–沈泳鑫,因为分布式数据库和轻量级数据库之间是有很多相识之处的。为了更好地熟练掌握鸿蒙手机应用开发,为了供大家更方便的学习鸿蒙手机的应用开发,我会将所有的笔记都整理
    发表于 09-05 10:43

    请问一HarmonyOS的分布式数据库是存在每个设备上的吗

    请问一HarmonyOS的分布式数据库是存在每个设备上的吗?数据同步时数据又是怎么存储的?求解答
    发表于 03-18 11:14

    分布式数据库系统及其应用 PDF

    分布式数据库系统是计算机网络技术与数据库技术互相渗透和有机结合的产物,它主要研究在计算机网络上如何进行数据分布和处理。    《
    发表于 09-26 23:18 0次下载
    <b class='flag-5'>分布式数据库</b>系统及其应用 PDF

    基于分布式数据库技术的森林防火指挥系统的研究

    随着信息技术的发展,分布式数据库技术的应用越来越广泛。本文将分布式数据库技术应用于森林防火指挥系统中,讨论如何利用分布式数据库技术使得林业资源地图,表和数据
    发表于 09-11 16:52 13次下载

    基于分布式数据库系统的数据分配模型研究

    提出一种基于分布式数据库数据分配策略问题,数据分配得好对整个应用系统的改进、数据的可用性、提高分布式数据库(DDB)的效率和可靠性有很大影
    发表于 02-28 19:33 14次下载

    分布式数据库,什么是分布式数据库

    分布式数据库,什么是分布式数据库 分布式数据库系统是在集中式数据库系统成熟技术的基础上发展起来的,但不是简单地把集中式数
    发表于 03-18 15:25 3977次阅读

    为什么我们需要分布式数据库

    to be database systems.)” 数据库系统经过几十年演进后,分布式数据库在近几年发展如火如荼,国内外出现了很多分布式数据库创业公司,为什么分布式数据库开始流行?在
    的头像 发表于 09-06 10:37 2562次阅读

    数据库如何走向分布式

    to be database systems.)” 数据库系统经过几十年演进后,分布式数据库在近几年发展如火如荼,国内外出现了很多分布式数据库创业公司,为什么分布式数据库开始流行?在
    的头像 发表于 09-24 14:25 3948次阅读
    <b class='flag-5'>数据库</b>如何走向<b class='flag-5'>分布式</b>

    数字化转型我国分布式数据库应用挑战及发展建议

    当前,金融等重点行业都在进行数字化转型,而分布式数据库作为数据承载工具,为数字化转型提供了有力的支撑分布式数据库近年来发展迅猛,在产品成熟度上有了很大提升,但在行业应用和生态建设上仍
    的头像 发表于 06-29 16:45 579次阅读

    **分布式数据库|数据库数据类型**

    科研机构。分布式数据库可以留在 Internet、有组织的网络服务器或分散的独立计算机上的企业内联网或外联网或其他组织网络。 分布式数据库的主要特点包括: (1) 数据分散存储
    的头像 发表于 07-17 13:33 572次阅读