一、先說一下為什么要分表：

當(dāng)一張的數(shù)據(jù)達(dá)到幾百萬時(shí)，你查詢一次所花的時(shí)間會(huì)變多，如果有聯(lián)合查詢的話，有可能會(huì)死在那兒了。分表的目的就在于此，減小數(shù)據(jù)庫(kù)的負(fù)擔(dān)，縮短查詢時(shí)間。日常開發(fā)中我們經(jīng)常會(huì)遇到大表的情況，所謂的大表是指存儲(chǔ)了百萬級(jí)乃至千萬級(jí)條記錄的表。這樣的表過于龐大，導(dǎo)致數(shù)據(jù)庫(kù)在查詢和插入的時(shí)候耗時(shí)太長(zhǎng)，性能低下，如果涉及聯(lián)合查詢的情況，性能會(huì)更加糟糕。分表和表分區(qū)的目的就是減少數(shù)據(jù)庫(kù)的負(fù)擔(dān)，提高數(shù)據(jù)庫(kù)的效率，通常點(diǎn)來講就是提高表的增刪改查效率。數(shù)據(jù)庫(kù)中的數(shù)據(jù)量不一定是可控的，在未進(jìn)行分庫(kù)分表的情況下，隨著時(shí)間和業(yè)務(wù)的發(fā)展，庫(kù)中的表會(huì)越來越多，表中的數(shù)據(jù)量也會(huì)越來越大，相應(yīng)地，數(shù)據(jù)操作，增刪改查的開銷也會(huì)越來越大；另外，由于無法進(jìn)行分布式式部署，而一臺(tái)服務(wù)器的資源（CPU、磁盤、內(nèi)存、IO等）是有限的，最終數(shù)據(jù)庫(kù)所能承載的數(shù)據(jù)量、數(shù)據(jù)處理能力都將遭遇瓶頸。

mysql執(zhí)行一個(gè)sql的過程如下：

1、接收到sql;

2、把sql放到排隊(duì)隊(duì)列中;

3、執(zhí)行sql;

4、返回執(zhí)行結(jié)果。

在這個(gè)執(zhí)行過程中最花時(shí)間在什么地方呢？第一，是排隊(duì)等待的時(shí)間，第二，sql的執(zhí)行時(shí)間。其實(shí)這兩個(gè)是一回事，等待的同時(shí)，肯定有sql在執(zhí)行。所以我們要縮短sql的執(zhí)行時(shí)間。

mysql中有一種機(jī)制是表鎖定和行鎖定，為什么要出現(xiàn)這種機(jī)制，是為了保證數(shù)據(jù)的完整性，我舉個(gè)例子來說吧，如果有二個(gè)sql都要修改同一張表的同一條數(shù)據(jù)，這個(gè)時(shí)候怎么辦呢，是不是二個(gè)sql都可以同時(shí)修改這條數(shù)據(jù)呢？很顯然mysql對(duì)這種情況的處理是，一種是表鎖定（myisam存儲(chǔ)引擎），一個(gè)是行鎖定（innodb存儲(chǔ)引擎）。表鎖定表示你們都不能對(duì)這張表進(jìn)行操作，必須等我對(duì)表操作完才行。行鎖定也一樣，別的sql必須等我對(duì)這條數(shù)據(jù)操作完了，才能對(duì)這條數(shù)據(jù)進(jìn)行操作。如果數(shù)據(jù)太多，一次執(zhí)行的時(shí)間太長(zhǎng)，等待的時(shí)間就越長(zhǎng)，這也是我們?yōu)槭裁匆直淼脑颉?/p>

二、分表的方案

1、集群

1，做mysql集群，有人會(huì)問mysql集群，根分表有什么關(guān)系嗎？雖然它不是實(shí)際意義上的分表，但是它啟到了分表的作用，做集群的意義是什么呢？為一個(gè)數(shù)據(jù)庫(kù)減輕負(fù)擔(dān)，說白了就是減少sql排隊(duì)隊(duì)列中的sql的數(shù)量，舉個(gè)例子：有10個(gè)sql請(qǐng)求，如果放在一個(gè)數(shù)據(jù)庫(kù)服務(wù)器的排隊(duì)隊(duì)列中，他要等很長(zhǎng)時(shí)間，如果把這10個(gè)sql請(qǐng)求，分配到5個(gè)數(shù)據(jù)庫(kù)服務(wù)器的排隊(duì)隊(duì)列中，一個(gè)數(shù)據(jù)庫(kù)服務(wù)器的隊(duì)列中只有2個(gè)，這樣等待時(shí)間是不是大大的縮短了呢？這已經(jīng)很明顯了。所以我把它列到了分表的范圍以內(nèi)，我做過一些mysql的集群：

linux mysql proxy 的安裝，配置，以及讀寫分離

mysql replication 互為主從的安裝及配置，以及數(shù)據(jù)同步

優(yōu)點(diǎn)：擴(kuò)展性好，沒有多個(gè)分表后的復(fù)雜操作（php代碼）

缺點(diǎn)：?jiǎn)蝹€(gè)表的數(shù)據(jù)量還是沒有變，一次操作所花的時(shí)間還是那么多，硬件開銷大。

2、分表

分表的2種方式：

講字段拆分到不同表中，將原表中的string類型字段拆分到其他表，能夠加快主表的查詢。

2.垂直分割就是按字段分.

一個(gè)數(shù)據(jù)庫(kù)有3000W用戶記錄.包括字段id,user,password,first_name,last_name,email,addr,等幾十字段.用戶登錄時(shí)需要user,password字段,需要查找user,password字段比較慢,若是把它user,password單建立一表,速度會(huì)快.用戶的其它字段獨(dú)立再建立一個(gè)表.這僅是一個(gè)例子.

把數(shù)據(jù)拆分到多個(gè)同樣結(jié)構(gòu)的表中。

水平.就是按記錄分.一個(gè)數(shù)據(jù)庫(kù)有3000W用戶記錄.處理速度比較慢.這時(shí)可以把3000W.分成五份.每份都是600W.分別放在不同的機(jī)器上.

水平分表：

就是預(yù)先估計(jì)會(huì)出現(xiàn)大數(shù)據(jù)量并且訪問頻繁的表，將其分為若干個(gè)表，這種預(yù)估大差不差的，論壇里面發(fā)表帖子的表，時(shí)間長(zhǎng)了這張表肯定很大，幾十萬，幾百萬都有可能。聊天室里面信息表，幾十個(gè)人在一起一聊一個(gè)晚上，時(shí)間長(zhǎng)了，這張表的數(shù)據(jù)肯定很大。像這樣的情況很多。所以這種能預(yù)估出來的大數(shù)據(jù)量表，我們就事先分出個(gè)N個(gè)表，這個(gè)N是多少，根據(jù)實(shí)際情況而定。以聊天信息表為例：

我事先建100個(gè)這樣的表，message_00,message_01,message_02……….message_98,message_99.然后根據(jù)用戶的ID來判斷這個(gè)用戶的聊天信息放到哪張表里面，可以用求余的方式來獲得

3、實(shí)際應(yīng)用中：

需要把垂直分表和水平分表結(jié)合起來使用，如果一個(gè)數(shù)據(jù)庫(kù)有3000w用戶的話，可以先考慮垂直拆，拆完之后在進(jìn)行水平拆分。

就是先將其他字段拆分到user_info表中，用戶主表只留下用戶id，密碼，用戶名等關(guān)鍵字段。

之后在進(jìn)行水平拆分，將用戶和用戶信息表分為多個(gè)同樣結(jié)構(gòu)的表。

接下來我們來看下MYSQL在分表存儲(chǔ)數(shù)據(jù)的時(shí)候是如何運(yùn)作的：

1、簡(jiǎn)單的MySQL主從復(fù)制:

MySQL的主從復(fù)制解決了數(shù)據(jù)庫(kù)的讀寫分離，并很好的提升了讀的性能，其圖如下：

其主從復(fù)制的過程如下圖所示：

但是，主從復(fù)制也帶來其他一系列性能瓶頸問題：

1. 寫入無法擴(kuò)展

2. 寫入無法緩存

3. 復(fù)制延時(shí)

4. 鎖表率上升

5. 表變大，緩存率下降

那問題產(chǎn)生總得解決的，這就產(chǎn)生下面的優(yōu)化方案，一起來看看。

2、MySQL垂直分區(qū)

如果把業(yè)務(wù)切割得足夠獨(dú)立，那把不同業(yè)務(wù)的數(shù)據(jù)放到不同的數(shù)據(jù)庫(kù)服務(wù)器將是一個(gè)不錯(cuò)的方案，而且萬一其中一個(gè)業(yè)務(wù)崩潰了也不會(huì)影響其他業(yè)務(wù)的正常進(jìn)行，并且也起到了負(fù)載分流的作用，大大提升了數(shù)據(jù)庫(kù)的吞吐能力。經(jīng)過垂直分區(qū)后的數(shù)據(jù)庫(kù)架構(gòu)圖如下：

然而，盡管業(yè)務(wù)之間已經(jīng)足夠獨(dú)立了，但是有些業(yè)務(wù)之間或多或少總會(huì)有點(diǎn)聯(lián)系，如用戶，基本上都會(huì)和每個(gè)業(yè)務(wù)相關(guān)聯(lián)，況且這種分區(qū)方式，也不能解決單張表數(shù)據(jù)量暴漲的問題，因此為何不試試水平分割呢？

3、MySQL水平分片（Sharding）

這是一個(gè)非常好的思路，將用戶按一定規(guī)則（按id哈希）分組，并把該組用戶的數(shù)據(jù)存儲(chǔ)到一個(gè)數(shù)據(jù)庫(kù)分片中，即一個(gè)sharding，這樣隨著用戶數(shù)量的增加，只要簡(jiǎn)單地配置一臺(tái)服務(wù)器即可，原理圖如下：

如何來確定某個(gè)用戶所在的shard呢，可以建一張用戶和shard對(duì)應(yīng)的數(shù)據(jù)表，每次請(qǐng)求先從這張表找用戶的shard id，再?gòu)膶?duì)應(yīng)shard中查詢相關(guān)數(shù)據(jù)，如下圖所示：

單庫(kù)單表

單庫(kù)單表是最常見的數(shù)據(jù)庫(kù)設(shè)計(jì)，例如，有一張用戶(user)表放在數(shù)據(jù)庫(kù)db中，所有的用戶都可以在db庫(kù)中的user表中查到。

單庫(kù)多表

隨著用戶數(shù)量的增加，user表的數(shù)據(jù)量會(huì)越來越大，當(dāng)數(shù)據(jù)量達(dá)到一定程度的時(shí)候?qū)ser表的查詢會(huì)漸漸的變慢，從而影響整個(gè)DB的性能。如果使用mysql, 還有一個(gè)更嚴(yán)重的問題是，當(dāng)需要添加一列的時(shí)候，mysql會(huì)鎖表，期間所有的讀寫操作只能等待。

可以通過某種方式將user進(jìn)行水平的切分，產(chǎn)生兩個(gè)表結(jié)構(gòu)完全一樣的user_0000,user_0001等表，user_0000 + user_0001 + …的數(shù)據(jù)剛好是一份完整的數(shù)據(jù)。

多庫(kù)多表

隨著數(shù)據(jù)量增加也許單臺(tái)DB的存儲(chǔ)空間不夠，隨著查詢量的增加單臺(tái)數(shù)據(jù)庫(kù)服務(wù)器已經(jīng)沒辦法支撐。這個(gè)時(shí)候可以再對(duì)數(shù)據(jù)庫(kù)進(jìn)行水平區(qū)分。

分庫(kù)分表規(guī)則

設(shè)計(jì)表的時(shí)候需要確定此表按照什么樣的規(guī)則進(jìn)行分庫(kù)分表。例如，當(dāng)有新用戶時(shí)，程序得確定將此用戶信息添加到哪個(gè)表中；同理，當(dāng)?shù)卿浀臅r(shí)候我們得通過用戶的賬號(hào)找到數(shù)據(jù)庫(kù)中對(duì)應(yīng)的記錄，所有的這些都需要按照某一規(guī)則進(jìn)行。

路由

通過分庫(kù)分表規(guī)則查找到對(duì)應(yīng)的表和庫(kù)的過程。如分庫(kù)分表的規(guī)則是user_id mod 4的方式，當(dāng)用戶新注冊(cè)了一個(gè)賬號(hào)，賬號(hào)id的123,我們可以通過id mod 4的方式確定此賬號(hào)應(yīng)該保存到User_0003表中。當(dāng)用戶123登錄的時(shí)候，我們通過123 mod 4后確定記錄在User_0003中。

分庫(kù)分表產(chǎn)生的問題，及注意事項(xiàng)

1. 分庫(kù)分表維度的問題

假如用戶購(gòu)買了商品,需要將交易記錄保存取來，如果按照用戶的緯度分表，則每個(gè)用戶的交易記錄都保存在同一表中，所以很快很方便的查找到某用戶的 購(gòu)買情況，但是某商品被購(gòu)買的情況則很有可能分布在多張表中，查找起來比較麻煩。反之，按照商品維度分表，可以很方便的查找到此商品的購(gòu)買情況，但要查找 到買人的交易記錄比較麻煩。

所以常見的解決方式有：

a.通過掃表的方式解決，此方法基本不可能，效率太低了。

b.記錄兩份數(shù)據(jù)，一份按照用戶緯度分表，一份按照商品維度分表。

c.通過搜索引擎解決，但如果實(shí)時(shí)性要求很高，又得關(guān)系到實(shí)時(shí)搜索。

2. 聯(lián)合查詢的問題

聯(lián)合查詢基本不可能，因?yàn)殛P(guān)聯(lián)的表有可能不在同一數(shù)據(jù)庫(kù)中。

3. 避免跨庫(kù)事務(wù)

避免在一個(gè)事務(wù)中修改db0中的表的時(shí)候同時(shí)修改db1中的表，一個(gè)是操作起來更復(fù)雜，效率也會(huì)有一定影響。

4. 盡量把同一組數(shù)據(jù)放到同一DB服務(wù)器上

例如將賣家a的商品和交易信息都放到db0中，當(dāng)db1掛了的時(shí)候，賣家a相關(guān)的東西可以正常使用。也就是說避免數(shù)據(jù)庫(kù)中的數(shù)據(jù)依賴另一數(shù)據(jù)庫(kù)中的數(shù)據(jù)。

一主多備

在實(shí)際的應(yīng)用中，絕大部分情況都是讀遠(yuǎn)大于寫。Mysql提供了讀寫分離的機(jī)制，所有的寫操作都必須對(duì)應(yīng)到Master，讀操作可以在 Master和Slave機(jī)器上進(jìn)行，Slave與Master的結(jié)構(gòu)完全一樣，一個(gè)Master可以有多個(gè)Slave,甚至Slave下還可以掛 Slave,通過此方式可以有效的提高DB集群的 QPS.

所有的寫操作都是先在Master上操作，然后同步更新到Slave上，所以從Master同步到Slave機(jī)器有一定的延遲，當(dāng)系統(tǒng)很繁忙的時(shí)候，延遲問題會(huì)更加嚴(yán)重，Slave機(jī)器數(shù)量的增加也會(huì)使這個(gè)問題更加嚴(yán)重。

此外，可以看出Master是集群的瓶頸，當(dāng)寫操作過多，會(huì)嚴(yán)重影響到Master的穩(wěn)定性，如果Master掛掉，整個(gè)集群都將不能正常工作。

所以，1. 當(dāng)讀壓力很大的時(shí)候，可以考慮添加Slave機(jī)器的分式解決，但是當(dāng)Slave機(jī)器達(dá)到一定的數(shù)量就得考慮分庫(kù)了。 2. 當(dāng)寫壓力很大的時(shí)候，就必須得進(jìn)行分庫(kù)操作。

MySQL使用為什么要分庫(kù)分表

可以用說用到MySQL的地方,只要數(shù)據(jù)量一大, 馬上就會(huì)遇到一個(gè)問題,要分庫(kù)分表.

這里引用一個(gè)問題為什么要分庫(kù)分表呢?MySQL處理不了大的表嗎?

其實(shí)是可以處理的大表的.我所經(jīng)歷的項(xiàng)目中單表物理上文件大小在80G多,單表記錄數(shù)在5億以上,而且這個(gè)表

屬于一個(gè)非常核用的表:朋友關(guān)系表.

但這種方式可以說不是一個(gè)最佳方式. 因?yàn)槊媾R文件系統(tǒng)如Ext3文件系統(tǒng)對(duì)大于大文件處理上也有許多問題.

這個(gè)層面可以用xfs文件系統(tǒng)進(jìn)行替換.但MySQL單表太大后有一個(gè)問題是不好解決: 表結(jié)構(gòu)調(diào)整相關(guān)的操作基

本不在可能.所以大項(xiàng)在使用中都會(huì)面監(jiān)著分庫(kù)分表的應(yīng)用.

從Innodb本身來講數(shù)據(jù)文件的Btree上只有兩個(gè)鎖, 葉子節(jié)點(diǎn)鎖和子節(jié)點(diǎn)鎖,可以想而知道,當(dāng)發(fā)生頁拆分或是添加

新葉時(shí)都會(huì)造成表里不能寫入數(shù)據(jù).

所以分庫(kù)分表還就是一個(gè)比較好的選擇了.

那么分庫(kù)分表多少合適呢?

經(jīng)測(cè)試在單表1000萬條記錄一下,寫入讀取性能是比較好的. 這樣在留點(diǎn)buffer,那么單表全是數(shù)據(jù)字型的保持在

800萬條記錄以下, 有字符型的單表保持在500萬以下.

如果按 100庫(kù)100表來規(guī)劃,如用戶業(yè)務(wù):

500萬*100*100 = 50000000萬 = 5000億記錄.

心里有一個(gè)數(shù)了,按業(yè)務(wù)做規(guī)劃還是比較容易的.

海外穩(wěn)定服務(wù)器

版權(quán)聲明：本站文章來源標(biāo)注為YINGSOO的內(nèi)容版權(quán)均為本站所有，歡迎引用、轉(zhuǎn)載，請(qǐng)保持原文完整并注明來源及原文鏈接。禁止復(fù)制或仿造本網(wǎng)站，禁止在非www.sddonglingsh.com所屬的服務(wù)器上建立鏡像，否則將依法追究法律責(zé)任。本站部分內(nèi)容來源于網(wǎng)友推薦、互聯(lián)網(wǎng)收集整理而來，僅供學(xué)習(xí)參考，不代表本站立場(chǎng)，如有內(nèi)容涉嫌侵權(quán)，請(qǐng)聯(lián)系alex-e#qq.com處理。