铜仁市论坛

首页 » 分类 » 问答 » 几种常用闭源开源关系型数据库的架构
TUhjnbcbe - 2021/5/23 22:43:00

常用的关系型数据库有闭源系列和开源系列,闭源系列有国外数据库(如Oracle、DB2等)和国产数据库(如GaussDBT、达梦等);开源系列有MySQL、PostgreSQL等。本文拟介绍几种常用关系型数据库的架构和实现原理,以方便广大用户更进一步了解和选择。

范永清,系统架构师,现就职于厦门银行信息技术部,目前主要负责厦门银行技术架构设计。

一、Oracle

(一)Oracle架构

OracleServer包括数据库(Database)和实例(Instance)两大部分,两者相互独立。数据库由数据文件、控制文件和日志文件组成,实例由内存池和后台进程组成,示意图如下:

一台OracleServer可创建多个Database,不同的Database之间相互独立。每个Database有属于自己的全套相关文件,如:密码文件,参数文件,数据文件,控制文件和日志文件

Database由一系列物理文件(如二维表文件)组成。用户不能直接读取Database中的内容,必须通过Oracleinstance才能读取,一个Instance只能连接一个Database,但是一个Database可以被多个Instance连接。

各功能组件说明如下:

1、用户连接进程

用户连接进程是连接用户和OracleInstance的桥梁。包括:用户进程、服务进程和PGA

用户进程UserProcess

当一个DatabaseUser请求连接到OracleServer时,OracleServer创建的UserProcess。

ServerProcess服务进程

用于处理DatabaseUser和OracleServer之间的连接。

程序全局区PGA

PGA:由ServerProcess分配,用于当前UserSession的内存区,不同的用户拥有不同的PGA。PGA包含了ServerProcess数据和控制信息的内存区域。包括栈空间、SessionInfo、私有SQL区。

2、SGA(SystemGlobalArea)

SGA与Oracle性能息息相关,在Instance启动时被分配,关闭时被释放。主要包含如下几种数据结构:

数据库缓冲区(Databasebuffercache)

oracle执行SQL语句的区域。当进行数据更新或数据查询时,用户执行的SQL语句不会直接对磁盘上的数据文件进行更改操作,而是首先将数据文件复制到数据库缓冲区缓存,再更改或查询缓存中的副本。此外,被频繁访问的数据块会存在于数据库缓冲区缓存中。

日志缓冲区(RedologBuffer)

用于短期存储redolog。

共享池(SharedPool)

用于缓存所有频繁执行的代码和频繁访问的对象定义。共享池内有下列三种数据结构:

库缓冲(librarycache):存储最近执行的代码

数据字典缓存(datadictionarycache):存储最近使用的对象定义

PL/SQL缓冲区(PL/SQLbuffer):用于存储过程、函数、打包的过程、打包的函数、对象类型定义和触发器。

大型池(LargeBuffer)

用于共享的服务器进程。

JAVA池(JavaBuffer):

只有当应用程序需要在数据库中运行java存储程序时,才需要java池。

3、后台进程

后台进程主要用于数据库管理,是OracleInstance和OracleDatabase的联系纽带,分为核心进程和非核心进程。

1)核心进程:

数据库写入进程(DBWn)

Serverprocess连接Oracle后,通过数据库写进程(DBWn)将数据缓冲区中的“脏缓冲区”的数据块写入到数据文件;

检查点进程(CKPT)

Checkpoint(CKPT)检查点进程主要用于更新数据文件头,更新控制文件和触发DBWn数据库写进程。

进程监视进程(PMON)

当后台进程执行失败后负责清理数据库缓存和闲置资源,是Oracle的自动维护机制。

系统监视进程(SMON)

用途如下:

当数据库实例崩溃时,用于数据库实例的自动恢复。

清除作废的排序临时段,回收整理碎片,合并空闲空间,释放临时段,维护闪回的时间点。

重做日志文件和日志写入进程

用于记录数据库的改变和记录数据库被改变之前的原始状态,当满足以下条件时,激活LGWR:

提交指令

日志缓冲区超过1/3

每三秒

每次DBWn执行之前

2)非核心进程

归档进程(ARCn)

是可选的后台进程,当数据库处于ArchiveLog模式时,自动归档redolog,并保存数据库的所有修改记录。

SGA(SystemGlobalArea)和后台进程组成Instance。

4、存储结构

存储结构可从物理结构和逻辑结构两方面理解。

1)物理结构

Database物理结构:是Database在操作系统中的文件集合,即:磁盘上的物理文件,主要由数据文件、控制文件、重做日志文件、归档日志文件、参数文件、口令文件组成。

数据文件、重做日志文件、控制文件、跟踪文件、警告文件属于数据库文件

DataFiles

数据文件是数据的存储仓库,数据被使用时才被调入内存中的。

RedoLogFiles

重做日志文件包含对数据库所做的更改操作记录,在Oracle发生故障时能够恢复数据。

ControlFiles

控制文件包含维护和验证数据库完整性的必要的信息。例如,控制文件用于识别数据文件和重做日志文件,一个数据库至少需要一个控制文件。

跟踪文件(TraceFiles)

在instance中运行的每一个后台进程都有一个跟踪文件(tracefile)与之相连。Tracefile记载后台进程所遇到的重大事件的信息。

警告日志(AlertLog)

是一种特殊的跟踪文件,每个数据库都有一个跟踪文件,同步记载数据库的消息和错误。

参数文件、口令文件、归档文件属于非数据库文件。

ParameterFile

实例参数文件,当启动oracle实例时,SGA结构会根据此参数文件的设置内存,后台进程会据此启动。

PasswordFile

用户通过提交username/password来建立会话,Oracle根据存储在数据字典的用户定义对用户名和口令进行验证。

归档文件

是重做日志文件的脱机副本,这些副本可能对于从介质失败中进行恢复很必要。

2)逻辑结构

表空间

用于存储数据库对象的逻辑空间,是信息存储的最大逻辑单位,是一系列数据文件的集合。一个数据库可以由多个表空间组成,每个表空间包括多个段。

段:

是对象在数据库中占用的空间。段是区的集合

区:

是为数据一次性预留的一个较大的存储空间,区是块的集合

块:

ORACLE最基本的存储单位,在建立数据库的时候指定,并被映射到磁盘块。

3)逻辑空间到物理空间的映射

(二)OracleRDBMS的运行过程

1.User访问OracleServer之前提交一个请求(包含了db_name、password、instance_name、username等信息);

2.OracleServer接收到请求并通过PasswordFile的验证后,分配SGA内存池,启动后台进程同时创建并启动实例;

3.启动实例之后,UserProcess与ServerProcess建立Connect;

4.Serverprocess和OracleInstance建立Sesscion,随后接收用户请求,执行相关操作;

(三)写SQL语句的执行过程

1.用户执行SQL语句,Serverprocess收到后,将SQL语句送到Instance,再将SQL语句载入数据库缓冲区。

2.ServerProcess通知OracleDatabase将与SQL语句相关的数据块副本加载到缓冲区中。

3.在数据库缓存区执行SQL语句,修改数据文件副本,形成“脏缓冲区”

4.CKPT检查到”脏缓冲区”,调用DBWn数据库写进程,

5.在DBWn运行之前,先运行了LGWR,将数据文件的原始状态和数据库的改变记录到RedoLogFiles

6.运行DBWn,将“脏缓冲区的内容写入到数据文件”

7.同时CKPT修改控制文件和数据文件头

8.SMON回收不必要的空闲资源

9.返回结果给用户

(四)Oracle的高可用性架构

1.OracleRAC(RealApplicationClusters)

RAC是Oracle数据库的一个群集解决方案,包括计算层和存储层。如下图所示:

1)存储层——共享存储

OracleRAC的核心是共享磁盘子系统,集群中所有节点必须能够访问所有数据文件、重做日志文件、控制文件和参数文件,因此,这些文件必须存放在共享存储中。常用的共享存储方式有OCFS、OCFS2、RAW、NFS、ASM等。说明如下:

OCFS(OracleClusterFileSystem)和OCFS2都是文件系统,和NFS一样,提供集群环境共享存储的文件系统。

RAW裸设备也是一种存储方式。把共享存储映射到RAWDevice,Oracle在存储数据时,选择RAWdevice存储即可。但相对于文件系统来说,RAW不直观,不便于管理,而且有数量的限制,现已被OCFS取代。

ASM是一种数据库存储的方案,并不是cluster的方案,使用ASM时,还需使用OCFS/OCFS2或RAW。

2)计算层

计算层至少需要两台以上的服务器,在每台服务器上安装集群软件和Oracle的RAC组件,从逻辑结构上看,每个节点都有一个独立的实例,这些实例访问同一个数据库。节点之间通过集群软件的通信层(CommunicationLayer)进行通信,利用高速缓存合并技术,实现集群中各节点缓存的高速同步,使得集群中的每个实例,都保留了一份相同的数据库cache。从而最大限度地低降低磁盘I/O。因此,RAC有如下特点:

每一个节点的实例都有自己的SGA;

每一个节点的实例都有自己的后台进程

每一个节点的实力都有自己的redologs

每一个节点的实例都有自己的undo表空间

所有节点都共享一份datafiles和controlfiles

2、DataGuard

在DataGurad环境中,至少有两个数据库,一个主库(PrimaryDatabase)处于Open状态,另一个备库(StandbyDatabase)处于standby状态。

备库又分物理库和逻辑库。物理库和主库完全一样,通过REDO应用来保持与主库的数据一致性,支持只读服务;逻辑库通过SQL应用,在备库端执行和主库同样的SQL语句,以此来保持与主库的数据一致,因此文件的物理结构(甚至数据的逻辑结构)都可以与主库不一致。逻辑库支持读写服务。

DataGuard适合多机房方案,实际部署时,主库部署在主机房,备库部署在其他机房。

二、MySQL

(一)MySQL架构

1、连接器(Connectors)

MySQL向外提供的接口,如java,.net,php等语言可以通过该组件来操作SQL语句,实现与SQL的交互。

2、管理服务组件和工具组件(ManagementServiceUtilities)

提供对MySQL的集成管理,如备份(Backup),恢复(Recovery),安全管理(Security)等

3、连接池组件(ConnectionPool)

负责监听对客户端向MySQLServer端的各种请求,接收请求,转发请求到目标模块。每个成功连接MySQLServer的客户请求都会被创建或分配一个线程,该线程负责客户端与MySQLServer端的通信,接收客户端发送的命令,传递服务端的结果信息等。

4、SQL接口组件(SQLInterface)

接收用户SQL命令,如DML,DDL和存储过程等,并将最终结果返回给用户。

5、查询分析器组件(Parser)

首先分析SQL命令语法的合法性,并尝试将SQL命令分解成数据结构,若分解失败,则提示SQL语句不合理。

6、优化器组件(Optimizer)

对SQL命令按照标准流程进行优化分析。

7、缓存主件(CachesBuffers)

缓存和缓冲组件

8、MySQL存储引擎

MySQL属于关系型数据库,而关系型数据库的存储是以表的形式进行的,对于表的创建,数据的存储,检索,更新等都是由MySQL存储引擎完成的。

因MySQL的开源性,允许第三方基于MySQL骨架,开发适合自己业务需求的存储引擎。因此,MySQL支持的存储引擎种类较多,可以分为官方存储引擎和第三方存储引擎。

当前,MySQL的存储引擎有MyISAM、InnoDB、NDB、Archive、Federated、Memory、Merge、Parter、Community、Custom等。其中,比较常用的存储引擎包括InnoDB、MyISAM和Momery。

9、物理文件(FileSystem)

实际存储MySQL数据库文件和一些日志文件等的系统,如Linux,Unix,Windows等。

(二)一个查询流程图

(三)MySQL的高可用架构

因MySQL的开源属性,其高可用架构非常灵活,目前常用的主要有以下几种:

1、主从复制模式

这是MySQL自身提供的一种高可用解决方案,数据同步方法采用的是MySQLreplication技术。为了达到更高的可用性,在实际的应用环境中,需要配合高可用集群软件keepalived来实现自动failover,否则,需要手工切换。

2、MHA(MasterHighAvailability)

MHA是相对成熟的高可用解决方案,该软件由两部分组成:MHAManager(管理节点)和MHANode(数据节点)。搭建MHA时,要求一个集群必须最少有三台数据库服务器,一主二从(即一台master,一台备用master,另外一台slave)。

MHAManager可以单独部署在一 立的机器上管理多个master-slave集群,或部署在一台slave节点上,MHANode运行在每台MySQL服务器上。

运行时,MHAManager会定时探测集群中的master节点,当master故障时,会自动将最新数据的slave提升为新的master,然后将其他所有slave重新指向新的master。整个故障转移过程对应用程序完全透明。整个切换过程如下:

从宕机崩溃的master保存二进制日志事件(binlogevents);

识别含有最新更新的slave;

应用差异的中继日志(relaylog)到其他的slave;

应用从master保存的二进制日志事件(binlogevents);

提升一个slave为新的master;

使其他的slave连接新的master进行复制;

3、MGR(MySQLGroupReplication)

MGR是MySQL官方推荐的另一种高可用架构,复制组间的数据同步基于Paxos协议。

当客户端发起更新事务时,该事务先在本地执行,执行完成之后就要发起对事务的提交操作。在还没有真正提交之前,需要将产生的复制写集广播出去,复制到其它成员。如果冲突检测成功,组内决定该事务可以提交,其它成员可以应用,否则就回滚。

组复制可以在两种模式下运行:

单主模式下,组复制具有自动选主功能,每次只有一个Server成员接受更新,其它成员只提供读服务。

多主模式下,所有的Server成员都可以同时接受更新,没有主从之分,成员角色是完全对等的。

三、PostgreSQL

(一)PostgreSQL的体系架构

PostgreSQL使用C/S模式提供服务。客户端和服务器可以在不同的主机上,通过TCP/IP进行网络连接,架构如下:

1、主进程Postgres(常驻进程)

主进程是PostgreSQL启动时,第一个启动的进程Postgres。启动时,他会执行恢复、初始化共享内存,启动后台进程。当有客户端发起链接请求时,postgres会生成子进程,同时创建后端进程。

是整个数据库实例的总控进程,负责启动和关闭该数据库实例。

2、Postgres(子进程),子进程

Postgres接受前端请求,对数据库进行检索,最后返回结果。如请求是对数据库进行更新,会先记录日志(PostgreSQL称为WAL日志),以便宕机重启时的数据恢复。另外,日志会定期归档保存,以便需要时进行数据恢复。

3、后台进程(BackgroundProcess)

Syslogger(系统日志)进程

将错误信息写到log日志中。

BgWriter(后台)进程

周期性的将脏内存块写入文件。

Checkpointer

当检查点出现时,将脏内存块写到数据文件

WalWrite(预写式日志)进程

将WAL(WriteAheadLog预写式日志)缓存写入WAL文件。

PgArch(归档)进程

在归档模式下时,复制WAL文件到特定的路径下。

WAL日志会被循环使用,PgArch在归档前会把WAL日志备份出来。通过PITY(PointinTimeRecovery)技术,可以对数据库进行一次全量备份后,该技术将备份时间点之后的WAL日志通过归档进行备份,使用数据库的全量备份再加上后面产生的WAL日志,即可把数据库向前推到全量备份后的任意一个时间点。

AutoVacuum(自动清理)进程

当自动vacuum被启用时,用来派生autovacuum工作进程。autovacuum进程的作用是在需要时自动对膨胀表执行vacuum操作。

在PostgreSQL数据库中,对表进行DELETE操作后,旧的数据并不会立即被删除,并且,在更新数据时,也并不会在旧的数据上做更新,而是新生成一行数据。旧的数据只是被标识为删除状态,只有在没有并发的其他事务读到这些就数据时,它们才会被清楚。这个清除工作就有AutoVacuum进程完成。

PgStat(统计数据收集)进程

用来收集数据库统计信息。

4、共享内存和本地内存

示意图如下:

共享内存

PostgreSQL启动后,会生成一块共享内存,用于做数据块的缓冲区,以便提高读写性能。WAL日志缓冲区和Clog缓冲区也存在共享内存中,除此之外还有全局信息比如进程、锁、全局统计等信息也保存在共享内存中。

数据缓冲区通过BgWrite进程,定期将数据写入数据文件。WAL缓冲区通过WALWrite进程写入WAL文件,并通过PgArch定期进行归档,写入归档日志

本地内存

非全局存储的数据都存在本地内存中,主要包括:

临时缓冲区:用于临时表。默认值为8MB

work_mem:用于排序、位图索引、哈希链接和合并链接操作。默认值为4MB。。

manintance_work_mem:用于vacuum和创建索引操作。默认值为64MB。

(二)数据结构

1.数据库相关概念:

PostgreSQL由一系列数据库组成。一套PostgreSQL程序称之为一个数据库群集。

当initdb()命令执行后,template0,template1,和postgres数据库被创建。

template0和template1数据库是创建用户数据库时使用的模版数据库,他们包含系统元数据表。

initdb()刚完成后,template0和template1数据库中的表是一样的。但是template1数据库可以根据用户需要创建对象。

用户数据库是通过克隆template1数据库来创建的;

2.表空间相关概念:

initdb()后,创建pg_default和pg_global表空间。

建表时如果没有指定特定的表空间,表默认被存在pg_default表空间中。

用于管理整个数据库集群的表默认被存储在pg_global表空间中。

pg_default表空间的物理位置为$PGDATAbase目录。

pg_global表空间的物理位置为$PGDATAglobal目录。

一个表空间可以被多个数据库同时使用。此时,每一个数据库都会在表空间路径下创建为一个新的子路径。

创建一个用户表空间会在$PGDATApg_tblspc目录下面创建一个软连接,连接到表空间制定的目录位置。

3.表相关概念:

每个表有三个数据文件:

一个文件用于存储数据(文件名是表的OID);

一个文件用于管理表的空闲空间(文件名是OID_fsm)。

一个文件用于管理表的块是否可见(文件名是OID_vm)。

索引没有_vm文件,只有OID和OID_fsm两个文件

(三)后端进程的处理流程

接收前端发送过来的查询(SQL文)

构文解析。将SQL文(单纯的文字)转换成构文树parsertree。

构文树解析完以后,换为查询树。这时会访问数据库,检查表是否存在,如果存在的话,则把表名转换为OID。这个处理称为分析处理(Analyze)。

因PostgreSQL还通过查询语句的重写实现视图(view)和规则(rule),所以需要时,此阶段会对查询语句进行重写。

解析查询树后,可生成计划树。

按照执行计划里面的步骤可以完成查询要达到的目的。

执行结果返回给前端。

返回到步骤一重复执行。

四、国产关系型数据库

国产关系型数据库较多,此处仅以GaussDBT为例

(一)GaussDBT架构

1.内存结构

内存结构分为4部分,如下图:

Listener:包括TCPLSNR和IPCLSNR,用于侦听用户的连接请求

AgentPool:代理的连接池

SGA:

LogBuffer:全局日志缓冲区,缓存redo日志

DataBuffer:全局数据页缓冲区,用于缓存表索引等数据

SQLCache:全局执行计划缓冲区

SortArea:全局排序/物化缓冲区

DictionaryCache:全局数据字典(元数据)缓冲区

Largepool,大池,存放较大的SQL

SessionPool,全局Session池,用于存放Session

后台进程

LOGW:日志写线程,负责将logbuffer中的日志写到磁盘。

CKPT:负责将脏页(DirtyPage)刷到磁盘,保证WAL,并更新ControlFile。

SMON:负责监测系统的状态,比如检测死锁,修复异常的session。

JOBS:应用定制的后台任务调度。

LOGR:日志复制,用于HA和GR。

ARCH:用于日志文件归档。

2、存储结构

数据以文件方式存储,主要有三种文件:

DATAFILE,数据文件,用于存放各种数据,单库最多个数据文件,每个数据文件最大8T(undo除外,undo最大32G)

LOGFILE,日志文件,用于存放redo日志,可以重复使用,最少3组,每个redo日志文件一般建议5-20G

CONTROLFILE,控制文件,用于数据库名、数据文件位置等信息,在数据库启动到mount阶段时会检查。

(二)GaussDBT关键技术

当进行事务提交时,必须先将Redolog刷盘。

脏页数据刷盘后,可用Redo日志可回收。

如果数据未刷盘前掉电,加电后需要重做Redo,保持数据的一致性。

脏页队列:脏页按时序组成链表,即脏页队列,Checkpoint按该队列顺序分组刷盘;

Checkpoint任务调度:Checkpoint后台服务线程通过定时、脏页量、RedoLog满,三个策略满足之一会触发刷盘操作;

Redo任务调度:Redo后台服务线程通过定时、Redobuffer量、事务提交满足之一时会触发RedoLogBuffer刷盘操作;

镜像页机制:刷盘时间相对较长,为避免I/O阻塞,Checkpoint通过一个镜像页面缓存来完成刷盘。

采用MVCC机制提高事务并发能力。

(三)GaussDBT的高可用部署模式

1、单机和主备部署模式

2、分布式部署模式

(四)典型的分布式部署架构

各组件说明如下:

OM(OperationManager):运维管理模块。提供集群日常运维、配置管理的管理接口、工具。

CM(ClusterManager):集群管理模块。管理和监控分布式系统中各个功能单元和物理资源的运行情况,确保整个系统的稳定运行。

CN(CoordinatorNode):协同调度节点。负责接收来自应用的访问请求,并向客户端返回执行结果;负责分解任务,并调度任务分片在各DN上并行执行。集群中,CN有多个且CN的角色是平等的。

DN(Datanode):数据节点。负责存储业务数据,执行数据查询任务以及向CN返回执行结果。在集群中,DN有多个。每个DN支持设置多个存储备机。

GTS(GlobalTimeServer):全局时钟服务器。用于强一致场景下,为各个节点提供逻辑时钟。

五、主流关系型数据库特点分析

原题:常用(闭源、开源)关系型数据库的分析与比较

欢迎点击文末阅读原文到该探讨活动,浏览更多交流分享

觉得本文有用,请转发或点击“在看”,让更多同行看到

资料/文章推荐:

Oracle资料大全

19个实用文档46篇文章

MySQL实用知识和技巧29篇文章+10篇文档

一文看懂分布式数据库原理和PostgreSQL分布式架构

常用分布式数据库的分析与比较——NoSQL数据库:

1
查看完整版本: 几种常用闭源开源关系型数据库的架构