MySQL高效導(dǎo)入多個.sql文件方法詳解
MySQL有多種方法導(dǎo)入多個.sql文件(里面是sql語句),常用的有兩個命令:mysql和source。
但是這兩個命令的導(dǎo)入效率差別很大,具體請看最后的比較。
(還有sqlimport和LOAD DATA INFILE等導(dǎo)入方法,不過它們主要用于導(dǎo)入.csv或.xml文件數(shù)據(jù),不是.sql文件)
假設(shè)我們有一個 users.sql 大文件,為方便我們將其拆分成:user1.sql、user2.sql、user3.sql 三個獨立的小sql文件。
1、mysql命令導(dǎo)入
mysql命令導(dǎo)入多個sql文件方法:
$ for SQL in *.sql; do mysql -uroot -p"123456" mydb < $SQL; done
2、source命令導(dǎo)入
source命令需要首先進入MySQL命令行:
$ mysql -uroot -p"123456"
導(dǎo)入多個sql文件需要先創(chuàng)建一個額外的文件,名字隨意,這里我們?nèi)。篴ll.sql,內(nèi)容:
source user1.sql
source user2.sql
source user3.sql
注意,這里每行一條,必須以source命令開頭。
然后用source命令執(zhí)行該文件:
mysql > use mydb; mysql > source /home/gary/all.sql
3、如何提高導(dǎo)入速度?
對于百M級以上文件,如果光這樣導(dǎo)入,速度是極其緩慢的,
根據(jù)MySQL官方建議,我們有幾個措施可以極大提高導(dǎo)入的速度,如下:
對于MyISAM,調(diào)整系統(tǒng)參數(shù):bulk_insert_buffer_size(至少單個文件大小的2倍以上)
對于InnoDB,調(diào)整系統(tǒng)參數(shù):innodb_log_buffer_size(至少單個文件大小的2倍以上,導(dǎo)入完成后可以改回默認(rèn)的8M,注意不是innodb_buffer_pool_size。)
除主鍵外,刪除其他索引,導(dǎo)入完成后重建索引。
關(guān)閉自動提交:autocommit=0。(請勿用set global autocommit=1;命令來關(guān)閉,否則整個MySQL系統(tǒng)都會停止自動commit,innodb log buffer很快就會爆滿,5和6項也請僅在會話中有效,正確做法請往下看)
關(guān)閉唯一索引檢查:unique_checks=0。(關(guān)閉了這一項會影響on duplicate key update的效果)
關(guān)閉外鍵檢查:foreign_key_checks=0。
insert值寫在一條語句內(nèi),如:INSERT INTO yourtable VALUES (1,2), (5,5), ...;
有自增列的,設(shè)置:innodb_autoinc_lock_mode的值為2,
其中,第1-2、8條在修改my.cnf文件,然后重啟MySQL:
bulk_insert_buffer_size=2G; innodb_log_buffer_size=2G; innodb_autoinc_lock_mode=2;
第3條用到的命令:
#刪除索引 DROP INDEX index_name ON talbe_name ALTER TABLE table_name DROP INDEX index_name ALTER TABLE table_name DROP PRIMARY KEY # 添加索引 ALTER TABLE table_name ADD INDEX index_name (column_list) ALTER TABLE table_name ADD UNIQUE (column_list) ALTER TABLE table_name ADD PRIMARY KEY (column_list)
第4-6條寫在.sql中,批量bash腳本如下:
for SQL in *.sql; do echo $SQL; sed -i '1i\SET autocommit=0;\nSET unique_checks=0;\nSET foreign_key_checks=0;' $SQL sed -i '$a\COMMIT;\nSET autocommit=1;\nSET unique_checks=1;\nSET foreign_key_checks=1;' $SQL done
按照以上幾個步驟調(diào)整后,插入速度必會有大幅度的提高。
4、mysql和source效率比較
在sql文件較小的情況下,source速度比mysql高,
在實際測試導(dǎo)入時,5個合計25M的sql文件,mysql命令的速度比source要快2秒(我自己的測試,不代表普遍的結(jié)果),
可以粗略得出,在導(dǎo)入大的sql文件時,建議使用mysql命令。
以上既是MySQL高效導(dǎo)入多個.sql文件的方法,希望能幫助到大家
版權(quán)聲明:本站文章來源標(biāo)注為YINGSOO的內(nèi)容版權(quán)均為本站所有,歡迎引用、轉(zhuǎn)載,請保持原文完整并注明來源及原文鏈接。禁止復(fù)制或仿造本網(wǎng)站,禁止在非www.sddonglingsh.com所屬的服務(wù)器上建立鏡像,否則將依法追究法律責(zé)任。本站部分內(nèi)容來源于網(wǎng)友推薦、互聯(lián)網(wǎng)收集整理而來,僅供學(xué)習(xí)參考,不代表本站立場,如有內(nèi)容涉嫌侵權(quán),請聯(lián)系alex-e#qq.com處理。