淺談MySQL表空間回收的正確姿勢(shì)
不知道大家有沒(méi)有遇到這樣的一種情況,線上業(yè)務(wù)在MySQL表上做增刪改查操作,隨著時(shí)間的推移,表里面的數(shù)據(jù)越來(lái)越多,表數(shù)據(jù)文件越來(lái)越大,數(shù)據(jù)庫(kù)占用的空間自然也逐漸增長(zhǎng)
為了縮小磁盤(pán)上表數(shù)據(jù)文件占用的空間,我們?cè)谧畲蟮囊粡垬I(yè)務(wù)表中用delete命令刪除了一半兒的舊數(shù)據(jù),刪除之后,磁盤(pán)上表數(shù)據(jù)文件并沒(méi)有縮小,即使刪除整張表的數(shù)據(jù),文件依然沒(méi)有變小,這是為什么呢?
本文將詳細(xì)的分析上述問(wèn)題,并給出正確回收表空間的方法
前置說(shuō)明
目前大部分MySQL數(shù)據(jù)庫(kù)都是用的 InnoDB 引擎,所以如無(wú)特殊說(shuō)明,文中的實(shí)例都是基于InnoDB引擎的
在MySQL配置中有個(gè)配置項(xiàng)叫 innodb_file_per_table
將它設(shè)置為1之后,
每個(gè)表的數(shù)據(jù)會(huì)單獨(dú)存儲(chǔ)在一個(gè)以 .ibd
為后綴的文件中
如果 innodb_file_per_table
沒(méi)有開(kāi)啟的話,
表的數(shù)據(jù)是存儲(chǔ)在系統(tǒng)的共享表空間,這樣即使刪除了表,共享表空間也不會(huì)釋放這部分空間
所以,通常情況下,都是將 innodb_file_per_table
選項(xiàng)設(shè)置為 1, 同時(shí)為了能直觀的看到表數(shù)據(jù)文件的大小變化,文中的實(shí)例也都是基于開(kāi)啟了 此選項(xiàng)來(lái)說(shuō)明的
問(wèn)題重現(xiàn)
新建一張表ta
,表的結(jié)構(gòu)如下
mysql> show create table ta\G *************************** 1. row *************************** Table: ta Create Table: CREATE TABLE `ta` ( `id` int(11) NOT NULL, `ia` int(11) NOT NULL, PRIMARY KEY (`id`) ) ENGINE=InnoDB DEFAULT CHARSET=utf8 1 row in set (0.00 sec)
使用下面的存儲(chǔ)過(guò)程,向 ta
中批量插入數(shù)據(jù)
delimiter // create procedure multinsert(in beg int,in cnt int) begin declare icnt int default 0; declare tmp int default 0; while icnt < cnt do set icnt = icnt + 1; set tmp = beg + icnt; insert into ta(id,ia) values(tmp,tmp); end while; end// delimiter ;
在MySQL控制臺(tái)執(zhí)行 call multinsert(0,100000)
命令,往 ta
表插入10萬(wàn)條數(shù)據(jù)
mysql> call multinsert(0,100000); mysql> select count(*) from ta; +----------+ | count(*) | +----------+ | 100000 | +----------+ 1 row in set (0.02 sec)
查看磁盤(pán)上ta
表的數(shù)據(jù)文件 ta.ibd
的大小
[root@ecs-centos-7 test]# cd /var/lib/mysql/test/ [root@ecs-centos-7 test]# ls -l ta.ibd -rw-r----- 1 mysql mysql 11534336 1月 3 23:14 ta.ibd
從上面的結(jié)果可以知道,ta
表插入10萬(wàn)條數(shù)據(jù)之后,ta.ibd
大小為 11534336 字節(jié)( 大約 11M )
現(xiàn)在我們使用 delete
命令刪除一半兒表數(shù)據(jù)( 5萬(wàn)行記錄 )
mysql> delete from ta where id between 1 and 50000; Query OK, 10000 rows affected (0.03 sec) mysql> select count(*) from ta; +----------+ | count(*) | +----------+ | 50000 | +----------+ 1 row in set (0.02 sec)
刪除操作完成之后,再次查看磁盤(pán)上 ta.ibd
的大小
[root@ecs-centos-7 test]# cd /var/lib/mysql/test/ [root@ecs-centos-7 test]# ls -l ta.ibd -rw-r----- 1 mysql mysql 11534336 1月 3 23:14 ta.ibd
從上面的結(jié)果可以知道,ta
表刪除了一半兒,也就是5萬(wàn)行數(shù)據(jù)之后,ta.ibd
的大小是 11534336 字節(jié)( 約11M )
也就是說(shuō) ta
表刪除數(shù)據(jù)前后,磁盤(pán)上表數(shù)據(jù)文件并沒(méi)有縮小
要弄明白數(shù)據(jù)文件為什么沒(méi)有縮小,就需要深入了解刪除數(shù)據(jù)的原理
刪除數(shù)據(jù)原理
我們都知道,InnoDB里的數(shù)據(jù)都是用B+樹(shù)組織的,關(guān)于B+樹(shù)的知識(shí)請(qǐng)參考 理解B+樹(shù)
圖(1)
上面是InnoDB的索引示意圖,其中用虛線框起來(lái)的節(jié)點(diǎn)是屬于Page1數(shù)據(jù)頁(yè),葉子節(jié)點(diǎn)存儲(chǔ)的是索引對(duì)應(yīng)的數(shù)據(jù),它們按照索引從小到大的順序組成了一個(gè)有序數(shù)組
假如我們要?jiǎng)h除Page1頁(yè)中索引key值為 13 的數(shù)據(jù),也即上圖中紅色部分
InnoDB引擎會(huì)把索引key值為13的節(jié)點(diǎn)標(biāo)記為已刪除,它并不會(huì)回收節(jié)點(diǎn)真實(shí)的物理空間,只是將它標(biāo)記為已刪除的節(jié)點(diǎn),后續(xù)是可以復(fù)用的,所以,刪除表記錄,磁盤(pán)上數(shù)據(jù)文件不會(huì)縮小
你可能會(huì)說(shuō),上面只是刪除了Page1頁(yè)中一個(gè)節(jié)點(diǎn)的數(shù)據(jù),那如果把Page1頁(yè)中節(jié)點(diǎn)數(shù)據(jù)全部刪除了,應(yīng)該會(huì)回收Page1頁(yè)的空間吧?
答案是,不會(huì)回收
當(dāng)Page1頁(yè)數(shù)據(jù)全部刪除了,整個(gè)數(shù)據(jù)頁(yè)都會(huì)被標(biāo)記為已刪除,并且整個(gè)數(shù)據(jù)頁(yè)都可以復(fù)用,所以,這種情況下,磁盤(pán)上的數(shù)據(jù)文件仍然不會(huì)縮小
數(shù)據(jù)的復(fù)用
數(shù)據(jù)的復(fù)用涉及到數(shù)據(jù)節(jié)點(diǎn)的插入、刪除、轉(zhuǎn)移以及數(shù)據(jù)頁(yè)的合并等操作,具體的操作流程相關(guān)的細(xì)節(jié)請(qǐng)參考 理解B+樹(shù),這里就不再重復(fù)說(shuō)明了
- 數(shù)據(jù)節(jié)點(diǎn)的復(fù)用
在上面 圖(1) 中,當(dāng)刪除了索引key值為 13 的節(jié)點(diǎn)后,此節(jié)點(diǎn)就被標(biāo)記為可復(fù)用的
如果之后又插入了一條索引key值在 7 到 18 之間的記錄時(shí),就會(huì)復(fù)用原來(lái)索引key值為13的數(shù)據(jù)節(jié)點(diǎn)
但是如果之后插入的記錄的索引key值不在 7 到 18 之間時(shí),可能就無(wú)法復(fù)用原來(lái)索引key值為13的數(shù)據(jù)節(jié)點(diǎn)
也就是說(shuō),數(shù)據(jù)節(jié)點(diǎn)的復(fù)用,需要索引key值滿足一定的范圍條件
- 數(shù)據(jù)頁(yè)的復(fù)用
在 圖(1) 當(dāng)刪除了Page1數(shù)據(jù)頁(yè)全部數(shù)據(jù)節(jié)點(diǎn)后,Page1整頁(yè)都是可復(fù)用的,當(dāng)插入的記錄需要用到新頁(yè)的時(shí)候,Page1就可以被復(fù)用
當(dāng)相鄰的數(shù)據(jù)頁(yè)利用率比較低的時(shí)候,有可能會(huì)把它們合并到其中一個(gè)數(shù)據(jù)頁(yè)中,這時(shí),另外一個(gè)數(shù)據(jù)頁(yè)就空出來(lái)了,這個(gè)空出來(lái)的數(shù)據(jù)頁(yè)就變成可復(fù)用的了
哪些操作會(huì)造成數(shù)據(jù)空洞
我們用 delete
命令刪除一條記錄后,InnoDB只是把對(duì)應(yīng)的數(shù)據(jù)節(jié)點(diǎn)標(biāo)記為已刪除且可復(fù)用的,這些可空著的等待使用的數(shù)據(jù)節(jié)點(diǎn)可以看作是一個(gè)一個(gè)的數(shù)據(jù)空洞
- 刪除數(shù)據(jù)
刪除數(shù)據(jù)的時(shí)候,會(huì)造成數(shù)據(jù)空洞,前面已經(jīng)解釋過(guò),這里不再贅述了
- 插入數(shù)據(jù)
如果數(shù)據(jù)是按照索引大小順序插入,這個(gè)時(shí)候數(shù)據(jù)頁(yè)是緊湊的,不會(huì)出現(xiàn)數(shù)據(jù)空洞
如果是從索引中間插入的話,有可能會(huì)造成頁(yè)分裂,分裂之后的頁(yè)有可能出現(xiàn)數(shù)據(jù)空洞,下圖就是插入導(dǎo)致頁(yè)分裂的一個(gè)例子
如圖所示,分裂前葉子頁(yè)面已經(jīng)滿了,這時(shí)數(shù)據(jù)排列得很緊湊
現(xiàn)在插入了一個(gè)索引key值為15的數(shù)據(jù),插入之后,Page1 頁(yè)分裂成了上圖中 Page1,Page2
兩個(gè)頁(yè)面
分裂之后,Page1 頁(yè)面出現(xiàn)了兩個(gè)空洞,這兩個(gè)數(shù)據(jù)節(jié)點(diǎn)是可復(fù)用的,而 Page2頁(yè)面剛好滿了
- 更新數(shù)據(jù)
更新數(shù)據(jù)可以看成先刪除再插入,也是有可能造成數(shù)據(jù)空洞
比如: id
是表 ta
的主鍵, update ta set id = 10 where id = 1
語(yǔ)句把 id = 1
修改為 id = 10
,相當(dāng)于先刪除 id = 1
的記錄,再插入 id = 10
的記錄,這種情況是會(huì)產(chǎn)生數(shù)據(jù)空洞的
但是如果是類(lèi)似 update ta set ia = ia + 1 where id = 1
這種沒(méi)有更改主鍵值的語(yǔ)句是不會(huì)造成空洞的
所以,更新數(shù)據(jù)可能會(huì)造成數(shù)據(jù)空洞
總結(jié)下來(lái)就是,表的增刪改操作,可能會(huì)造成數(shù)據(jù)空洞的,而線上的服務(wù)會(huì)對(duì)表進(jìn)行大量的增刪改操作,數(shù)據(jù)空洞存在的可能性比較大
如何收縮表空間
既然一張表,經(jīng)過(guò)大量無(wú)規(guī)則的增刪改操作之后,會(huì)產(chǎn)生大量的數(shù)據(jù)空洞
那如果我們新建一張和原來(lái)有數(shù)據(jù)空洞的表結(jié)構(gòu)相同的新表,然后把舊表中的數(shù)據(jù)按照索引升序依次插入到新表中,待舊表數(shù)據(jù)全部插入到新表之后,刪除舊表,再把新表重命名為舊表的名字
由于新表中葉子節(jié)點(diǎn)數(shù)據(jù)是按順序添加的,所以頁(yè)面是很緊湊的, 頁(yè)面利用率很高,需要的頁(yè)面比舊表少了很多,這樣舊表中索引上的空洞在新表就不存在了,新表數(shù)據(jù)文件占用的磁盤(pán)空間自然就會(huì)縮小,這樣就實(shí)現(xiàn)了表空間的收縮的目的
下面介紹的幾種收縮表空間的方法,雖然方法不同,但是基本的原理都是通過(guò)重建表的形式來(lái)達(dá)到目的的
- truntace table 表名
此操作等于 drop + create
,先刪除表,然后再創(chuàng)建一個(gè)同名的新表,當(dāng)然,再執(zhí)行 truncate table
命令之前需要先保存一份舊表的數(shù)據(jù), 命令執(zhí)行完成之后,再把這份數(shù)據(jù)導(dǎo)入新表
- alter table 表名 engine=InnoDB
這個(gè)操作是遍歷舊表主鍵索引的數(shù)據(jù)頁(yè),把數(shù)據(jù)頁(yè)中的記錄生成B+樹(shù)結(jié)構(gòu),存儲(chǔ)到磁盤(pán)上的臨時(shí)文件中,數(shù)據(jù)頁(yè)遍歷完了之后,用臨時(shí)文件替換掉舊表的數(shù)據(jù)文件
從MySQL5.6版本之后,這個(gè)操作是 Online DDL 的,需要說(shuō)明的是,這種方法需要掃描表數(shù)據(jù)文件,對(duì)于大表來(lái)說(shuō)是非常耗時(shí)的,如果是針對(duì)線上服務(wù)的話,需要避開(kāi)業(yè)務(wù)高峰期,小心操作。
注意:
在重建表的時(shí)候,InnoDB 不會(huì)把整張表占滿,每個(gè)頁(yè)留了大概10%左右的數(shù)據(jù)節(jié)點(diǎn) 給后續(xù)的更新用, 也就是說(shuō),其實(shí)重建表之后并不是最緊湊的
假如有這么一個(gè)過(guò)程: 將表 t 重建一次,
插入一部分?jǐn)?shù)據(jù),但是插入的這些數(shù)據(jù),用掉了一部分的預(yù)留空間,
這種情況下,再重建一次表 t,就可能會(huì)出現(xiàn)重建表后比重建之前占用的空間還要大
小結(jié)
本文從一個(gè)實(shí)際的問(wèn)題出發(fā),重現(xiàn)問(wèn)題、分析問(wèn)題到解決問(wèn)題,每一步都進(jìn)行了詳細(xì)的分析,限于篇幅,有些細(xì)節(jié)沒(méi)有深入,需要讀者自行了解
到此這篇關(guān)于淺談MySQL表空間回收的正確姿勢(shì)的文章就介紹到這了,更多相關(guān)MySQL表空間回收內(nèi)容請(qǐng)搜索本站以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持本站!
版權(quán)聲明:本站文章來(lái)源標(biāo)注為YINGSOO的內(nèi)容版權(quán)均為本站所有,歡迎引用、轉(zhuǎn)載,請(qǐng)保持原文完整并注明來(lái)源及原文鏈接。禁止復(fù)制或仿造本網(wǎng)站,禁止在非www.sddonglingsh.com所屬的服務(wù)器上建立鏡像,否則將依法追究法律責(zé)任。本站部分內(nèi)容來(lái)源于網(wǎng)友推薦、互聯(lián)網(wǎng)收集整理而來(lái),僅供學(xué)習(xí)參考,不代表本站立場(chǎng),如有內(nèi)容涉嫌侵權(quán),請(qǐng)聯(lián)系alex-e#qq.com處理。