SQL Server 数据库分区分表(水平分表)详细步骤

最近几个担心网站数据量大会影响sqlserver数据库的性能,所以提前将数据库分表处理好,下面是ExceptionalBoy同学分享的详细方法,需要的朋友可以参考下

1、需求说明

将数据库demo中的表按照日期字段进行水平分区分表。要求数据文件按一年一个文件存储,且分区的分割点会根据时间的增长自动添加(例如现在是2017年1月1日,将其作为一个分割点,即将2017年1月1日之前的数据存储到数据文件a中,将2017年1月1日的之后的数据存储到数据文件b中;当时间到2018年1月1日时,自动将2018年1月1日添加为一个新的分区分割点,并将2017年1月1日至2018年1月1日的数据存储在数据文件b中,将2018年1月1日之后的数据存储在一个新的数据文件c中,以此类推)。

2、实现思路

2.1分区原理

要实现这一功能,首先要了解数据库对水平分区表进行分区存储的原理。

所谓水平分区分表,就是把逻辑上的一个表,在物理上按照你指定的规则分放到不同的文件里,把一个大的数据文件拆分为多个小文件,还可以把这些小文件放在不同的磁盘下。这样把一个大的文件拆分成多个小文件,便于我们对数据的管理。

2.2水平分区优点

l 便于存档

l 便于管理:备份恢复时可以单一的备份或者恢复某一个分区

l 提高可用性:一个分区故障,不影响其他分区的正常使用

l 提高性能:提升查询数据的速度

2.3实现思路

①创建数据库

②在创建的数据库中添加文件组

③在文件组中添加新的文件

④定义分区函数

⑤定义分区架构

⑥定义分区表

⑦定义代理作业,自动添加分区分割点

⑧测试数据

注意:

² 分区表依赖于分区架构,而分区架构又依赖与分区函数,所以在穿件分区函数、分区架构、分区表是要按照对应的顺序创建。

² 分区函数并不属于具体的分区架构和分区表,它们之间仅仅是使用关系。

² 分区表只能在创建的时候指定为分区表

3、实现步骤

3.1代码创建分区表

3.1.1创建数据库

新建数据库,并将其命名为demo

3.1.2添加文件组

代码格式:

alter database <数据库名称> add filegroup<文件组名>

代码示例:

alter database demoadd filegroup demofilegroup

3.1.3添加文件

代码格式:

alter database <数据库名称> add file <数据标识> to filegroup<文件组名称>

注意:数据标识中name为逻辑文件名、filename为物理文件路径名、size为文件初始大小(单位:kb/mb/gb/tb)、filegrowth为文件自动增量(单位:kb/mb/gb/tb)、maxsize为文件增大的最大大小(单位:kb/mb/gb/tb/unlimited)

代码示例:

?

1

2

3

4

5

6

alter databasedemo add file (

name='demofile1',

filename='d:\\programfiles\\microsoft sql server\\mssql11.mssqlserver\\mssql\\data\\demofile1.mdf',

size=5mb,

filegrowth=5mb)

tofilegroup demofilegroup

在此我们重复执行示例代码,在示例文件组下添加三个文件。

3.1.4定义分区函数

分区函数是用于判定数据行该属于哪个分区,通过分区函数中设置边界值来使得根据行中特定列的值来确定其分区。

代码格式:

create partitionfunction partition_function_name( input_parameter_type )

asrange [ left | right ]

forvalues ( [ boundary_value [ ,…n ] ] )

[ ; ]

其中“left”和“right”决定了“values”中的边界值被划分到哪一个分区中(即,边界值属于左侧分区还是右侧分区)。

代码示例:

?

1

2

3

create partitionfunction demopartitionfunction( datetime2(0) )

asrange right

forvalues ('2016-01-01 00:00:00','2017-01-01 00:00:00')

查看分区函数是否创建成功:

select * from sys.partition_functions

3.1.5定义分区架构

定义完分区函数仅仅是知道了如何将列的值区分到了不同的分区,而每个分区的存储方式,则需要分区构架来定义。分区构架仅仅是依赖分区函数.分区构架中负责分配每个区属于哪个文件组,而分区函数是决定如何在逻辑上分区。

代码格式:

create partitionscheme partition_scheme_name

aspartition partition_function_name

[ all ]to ( { file_group_name | [ primary ] } [ ,…n ] )

[ ; ]

代码示例:

?

1

2

3

create partitionscheme demopartitionscheme

aspartition demopartitionfunction

to ( demofilegroup,[primary],demofilegroup)

查看分区架构是否创建完成:

select * from sys.partition_schemes

3.1.6定义分区表

表在创建的时候就已经决定是否是分区表了。虽然在很多情况下都是你在发现已经表已经足够大的时候才想到要把表分区,但是分区表只能够在创建的时候指定为分区表。

代码格式:

create tabletable_name(

) onpartition_scheme_name(column_name)

代码示例:

?

1

2

3

4

5

create tabledemotable(

demo_id bigint,

demo_date datetime2(0),

demo_desc varchar(50)

) ondemopartitionscheme(demo_date)

3.2 界面向导表分区

在3.4、3.5、3.6中,我们已经详细的描述了如何定义分区函数、分区架构以及分区表,但这些都是通过代码实现的,下面,我们来通过sql server 2012 management studio的界面向导创建分区表。

3.2.1 创建数据库

右键点击“数据库”,选择第一项“新建数据库(n)…”,新建数据库,如图1所示:

SQL Server 数据库分区分表(水平分表)详细步骤

图1 新建数据库

3.2.2 创建文件组

右键数据库demo,选择“属性”,如图2所示:

SQL Server 数据库分区分表(水平分表)详细步骤

图2 数据库属性界面

在属性界面中,点击箭头所示的“文件组”选项,进入文件组编辑界面,如图3所示:

SQL Server 数据库分区分表(水平分表)详细步骤

图3 文件组管理界面

在文件组管理界面中点击箭头①所示的“添加”选项,添加新的文件组,界面中会出现箭头②所示的属性框,并键入对应的属性值,之后点击“确定”,完成新建文件组。

3.2.3 添加文件

和添加文件组的方式一样,右键数据库demo,选择“属性”,打开数据库属性界面,这次选择“文件”,打开文件管理界面,如图4所示:

SQL Server 数据库分区分表(水平分表)详细步骤

图4 文件管理界面

在文件管理界面中,点击箭头①所示的“添加”选项,添加新的文件,在新添加的箭头②所示的区域,根据实际需求,填写对应的文件属性值,填写完成后点击“确定”。其中,一个文件组中可以添加多个文件,即“文件组”属性的值是可以重复的。

3.2.4 定义分区表

在sql server 2012 management studio的界面中,找到目标数据库下的“表”菜单,右键点击,选择“新建数据库表”,打开新建数据库表界面,新建一个分区表。如图5所示:

SQL Server 数据库分区分表(水平分表)详细步骤

图5 新建数据库表

3.2.5 添加分区函数和分区架构

完成新建分区表后,我们就可以在分区表上添加分区函数和分区架构了。右键点击分区表,选择“存储”,然后选择“创建分区”,开始添加分区函数和分区架构,如图6所示:

SQL Server 数据库分区分表(水平分表)详细步骤

图6 新建分区界面

点击“下一步”,如图7所示:

SQL Server 数据库分区分表(水平分表)详细步骤

图7 选择分区列

在图7所示的界面中,勾选分区列,勾选完成后,选择“下一步”,如图8所示:

SQL Server 数据库分区分表(水平分表)详细步骤

图8 填写分区函数

在图8所示的界面填写分区函数名称,填写完成后点击“下一步”,如图9所示:

SQL Server 数据库分区分表(水平分表)详细步骤

图9 填写分区架构

在图9所示的界面中填写需要创建的分区架构的名称,填写完成后点击“下一步”,如图10所示:

SQL Server 数据库分区分表(水平分表)详细步骤

图10 指定文件组

如图10所示,按照图示箭头步骤,一步步设置文件组参数。首先选择分区边界值划分在左边界分区还是右边界分区,然后进行第二步,设置分区所属文件组,再设置分区边界值(该值要与分区表的分区字段类型对应),最后点击“预计存储空间(e)”对其他参数进行自动填充。设置完成后点击“下一步”,如图11所示:

SQL Server 数据库分区分表(水平分表)详细步骤

图11 脚本设置

在图11所示的界面中,根据实际需求完成最后的设置(一般不做设置),然后点击“完成”,在下一个界面中再次点击“完成”,然后等待数据库执行操作,最后关闭界面。

分区完成后,右键点击分区表,选择“属性”,然后选择“存储”,打开如图12所示界面:

SQL Server 数据库分区分表(水平分表)详细步骤

图12 表分区查看

从图12中可以看到数据库表已经完成分区。

3.3 动态添加分割点

要完成动态的向分区函数中添加分割点的功能,首先我们来理一下思路:首先我们要向文件组中添加一个新的文件或者直接添加一个新的文件组,添加完成后,需要修改分区架构,来告知数据库新分的分区数据存储到那个文件或者文件组中,最后在分区函数中添加新的分割点,完成动态添加分区分割点的功能。

根据这个思路,我编写的了一个存储过程,用于动态的添加分割点:

?

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

create proc[dbo].[demo_filegroup_add]

as

declare

@file_name varchar(20),–要添加的文件名称

@add_sql nvarchar(max)–在文件组下添加新文件的sql语句

begin

set @file_name='demofile'+left((convert(varchar,(dateadd(yy, datediff(yy,0,(dateadd(yy,1,getdate()))), 0)),120)),4)–动态拼接文件名

set @add_sql='

alter database demo add file (

name='+@file_name+',

filename=''d:\\programfiles\\microsoft sql server\\mssql11.mssqlserver\\mssql\\data\\'+@file_name+'.mdf'',

size=5mb,

filegrowth=5mb)

to filegroup demofilegroup'

–select @add_sql

exec sp_executesql@add_sql–执行向文件组中添加文件的sql语句

alter partitionscheme demopartitionschemenext used 'demofilegroup' –告知数据库新建立的分区放在哪个文件组(修改分区架构)

alter partitionfunction demopartitionfunction() split range (convert(varchar,dateadd(yy, datediff(yy,0,(dateadd(yy,1,getdate()))), 0),120))–在分区函数中添加分割点

end

注意:在执行该存储过程之前,一定要确保文件组中没有即将添加的文件,并且在分区函数中,没有要添加的分割点,否则会报错,存储过程不能执行。

4、测试数据

4.1添加测试数据

4.1.1新建测试表

新建一个未分区的testtable表,其表结构与分区表demotable表结构完全一致,代码如下:

?

1

2

3

4

5

create table[dbo].[testtable](

[demo_id][bigint],

[demo_date][datetime2](0),

[demo_desc][varchar](50)

)

4.1.2 编写t-sql添加测试数据

t-sql语句如下:

?

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

declare

@num bigint, –id

@test_date datetime2(0),–时间

@test_desc varchar(300),–描述

@count int–计数器

begin

set @num= 0 –设置初始id

set @test_date= '2015-01-01 00:00:00'–设置初始日期

set @test_desc='屈贾谊于长沙,无非明主;窜梁鸿于海曲,岂乏明时?'

while (@test_date<'2019-01-01 00:00:00') –设置日期上限

begin

set@count = 0

while(@count<10)–每个时间点添加10条数据

begin

insertinto dbo.demotable values(@num,@test_date,@test_desc+cast(@count as varchar)) –添加数据

set@count=@count+1 –计数自增

set@num = @num +1 –id自增

end

set@test_date = dateadd(mi,1,@test_date) –每一个时间点添加完10条数据后,时间自增1分

end

end

修改t-sql语句中insert部分的表明,分别向两张表中添加测试数据,添加21038400行数据,结果如下:

SQL Server 数据库分区分表(水平分表)详细步骤

图13 分区表插入数据耗时统计

SQL Server 数据库分区分表(水平分表)详细步骤

图14 分区表存储信息

SQL Server 数据库分区分表(水平分表)详细步骤

图15 普通表插入数据耗时统计

SQL Server 数据库分区分表(水平分表)详细步骤

图16 普通表存储信息

从图13与图15中可以看出,同样插入21038400行数据,分区表耗时3740秒,普通表耗时3920秒,分区表快4.6%。考虑到运行环境对测试数据的影响,在此我们先对此数据不做评价,毕竟4.6%不是很明显。

而从图14与图16的对比中可以看出,分区表的索引空间为0.125mb,而普通表的索引空间为0.008mb。那么为什么分区表的索引空间要比普通表的索引空间大呢?其实这个问题个人理解大致是:创建分区表就是将数据存储在不同的文件中,然后数据库会根据分区函数和分区架构,以分区列为索引列,创建分区索引来管理数据存放的位置,所以分区表的索引空间理所当然会比普通标表的索引空间大。

默认情况下,分区表中创建的索引使用与分区表相同分区架构和分区列,这样,索引将于表对齐。将表与其索引对齐,可以使管理工作更容易进行,对于滑动窗口方案尤其如此。若要启动分区切换,表的所有索引都必须对齐。

在创建索引时,也可以指定不同的分区方案(schema)或单独的文件组(filegroup)来存储索引,这样sql server 不会将索引与表对齐。

在已分区的表上创建索引(分区索引)时,应该注意以下事项:

l 唯一索引

建立唯一索引(聚集或者非聚集)时,分区列必须出现在索引列中。此限制将使sql server只调查单个分区,并确保表中宠物的新键值。如果分区依据列不可能包含在唯一键中,则必须使用dml触发器,而不是强制实现唯一性。

l 非唯一索引

对非唯一的聚集索引进行分区时,如果未在聚集键中明确指定分区依据列,默认情况下sql server 将在聚集索引列中添加分区依据列。

对非唯一的非聚集索引进行分区时,默认情况下sql server 将分区依据列添加为索引的包含性列,以确保索引与基表对齐,若果索引中已经存在分区依据列,sql server 将不会像索引中添加分区依据列。

5、补充说明

5.1分区分表理解

分区分表分为垂直分区分表和水平分区分表,根据我自己查阅资料,总结如下:

垂直分区分表是在sql server 2005之前大量使用的,垂直分表相对很少见到和用到,因为这可能是数据库设计上的问题了。如果数据库中一张表有部分字段几乎从不不更改但经常查询,而部分字段的数据频繁更改,这种设计放到同一个表中就不合理了,相互影响太大了。在已存在改情况的表的时候,可以考虑按列拆分表,即垂直拆分。拆分完成后,通过分表之间设置外键关联,然后创建视图和触发器等对表进行增、删、改、查操作。

而水平分区分表是sql server2005之后被大量使用的。其原理就是将逻辑上的一个表,在物理上拆分,将数据存储在不同的文件组中,这个我们前边已经讲过了,这里就不在赘述。

5.2 水平分区分表疑惑

在自己学习水平分区分表的过程中发现一个问题,描述如下:

在创建分区表的时候,似乎可以将不同分区的数据存放在同一个文件组下的不同文件中,也可以将不同分区的数据分别存放在不同的文件组,那么这两种存储数据的方式对数据查询的性能有影响吗?

这个问题我觉得可以做一个小小的测试。

5.3 其它说明

学习是永无止境的,这篇文章只是我个人在学习sql server水平分区分表的时候做的一些总结,其中添加了一些个人理解,如果有不对的地方,欢迎与我交流,大家相互学习,共同进步。

原文链接:https://blog.csdn.net/exceptionalboy/article/details/78851327

版权声明:本文(即:原文链接:https://www.qin1qin.com/catagory/20939/)内容由互联网用户自发投稿贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 630367839@qq.com 举报,一经查实,本站将立刻删除。

(0)
上一篇 2022-09-12 12:14:29
下一篇 2022-09-12 12:14:39

软件定制开发公司

相关阅读

发表回复

登录后才能评论
通知:禁止投稿所有关于虚拟货币,币圈类相关文章,发现立即永久封锁账户ID!