PostgreSQL 如何查找需要收集的vacuum 表信息
通常,在PostgreSQL中,由于經(jīng)常需要對(duì)表進(jìn)行 UPDATE 和 DELETE,因此表會(huì)產(chǎn)生碎片空間。
在 PostgreSQL中,使用VACUUM 僅僅對(duì)需要執(zhí)行 VACUUM 表將已刪除的空間標(biāo)識(shí)為未使用,以便以后重用這些空間,但是不能立即將占用的空間返還給操作系統(tǒng),因此需要使用 VACUUM FULL,才可以釋放空間,并立即將空間返還給操作系統(tǒng)。
實(shí)現(xiàn)腳本
記錄收集表創(chuàng)建
CREATE TABLE IF NOT EXISTS tab_vacuum_record (sqltext text);
收集需要VACUUM 表函數(shù)
CREATE OR REPLACE FUNCTION f_vacuum_tables() RETURNS void AS $FUNCTION$ DECLARE v_tablename text; v_dead_cond bigint; v_sql text; cur_tablename REFCURSOR; v_vacuum_record text; BEGIN v_vacuum_record := 'tab_vacuum_record'; OPEN cur_tablename FOR SELECT tablename FROM pg_tables WHERE tablename !~ '^pg|^sql'; LOOP FETCH cur_tablename INTO v_tablename; SELECT n_dead_tup INTO v_dead_cond FROM pg_stat_user_tables WHERE relname = v_tablename; IF v_dead_cond > 0 THEN v_sql := 'INSERT INTO ' || v_vacuum_record || ' VALUES(' || chr(39) ||'VACUUM FULL ' || v_tablename ||';'|| chr(39) ||')'; EXECUTE v_sql; END IF; EXIT WHEN NOT FOUND; END LOOP; CLOSE cur_tablename; END; $FUNCTION$ LANGUAGE PLPGSQL;
SHELL腳本
#!/bin/bash #獲取環(huán)境變量 CURRDIR=$(cd "$(dirname $0)";pwd) TOPDIR=$(cd $CURRDIR/..;pwd) CONFIG=$TOPDIR/conf/host.ini CT_FILE=${TOPDIR}/sql/CREATE_VACCUM_TABLE_RECORD.sql CT_FUNCTION=${TOPDIR}/sql/CHECK_NEEDS_VACUUM_TABLE_FUNCTION.sql source $CONFIG CONNINFO="psql -U $USER -d $DBNAME -h $HOSTADDR -p $PORT" function check_status() { echo "檢查數(shù)據(jù)庫(kù)服務(wù)器狀態(tài)是否正常 !" stat=`$CONNINFO -Aqt -c 'SELECT 1'` if [ "${stat}" == "1" ];then echo "服務(wù)器連接正常" else echo "服務(wù)器連接異常,退出" exit -1; fi } function create_table() { echo "創(chuàng)建收集需要vacuum的表" $CONNINFO -f $CT_FILE } function create_function() { echo "創(chuàng)建收集需要 vacuum 表的函數(shù)" $CONNINFO -f $CT_FUNCTION } check_status create_table create_function
執(zhí)行方式
postgres=# SELECT * FROM f_vacuum_tables(); f_vacuum_tables ----------------- (1 row) --創(chuàng)建測(cè)試表 postgres=# CREATE TABLE tab_test(id int); --插入數(shù)據(jù) postgres=# INSERT INTO tab_test SELECT id FROM generate_series(1,100000) as id; INSERT 0 100000 --刪除數(shù)據(jù) postgres=# DELETE FROM tab_Test WHERE id <= 10000; DELETE 10002 postgres=# SELECT * FROM tab_vacuum_record ; sqltext ----------------------- VACUUM FULL tab_test; (1 row)
該腳本也可以自己根據(jù)需要進(jìn)行修改,詳細(xì)見(jiàn)github
補(bǔ)充:PostgreSQL中 Vacuum 略談
VACUUM doc
路由清理
PostgreSQL 需要定期維護(hù)清理,一般都是由守護(hù)進(jìn)程自動(dòng)清理的,我們只是需要參數(shù)調(diào)優(yōu),也可以執(zhí)行腳本定時(shí)去清理回收。
Vacuumming Basics
PG不得不對(duì)每張表進(jìn)行 Vacuum 命令,原因如下:
1、為了回收和再利用通過(guò)更新或者刪除行所占用的磁盤(pán)空間
2、為了更新被PG查詢(xún)計(jì)劃所使用的數(shù)據(jù)分析
3、為了更新只讀索引掃描的可見(jiàn)的集合
4、避免由于事務(wù)ID或者混合事務(wù)ID丟失歷史數(shù)據(jù)
由于這些原因,在進(jìn)行頻繁的 VACUUM 操作時(shí)進(jìn)行規(guī)定:
標(biāo)準(zhǔn) VACUUM
進(jìn)行回收時(shí),生產(chǎn)環(huán)境不影響數(shù)據(jù)庫(kù)庫(kù)的正常使用(SELECT、INSERT、UPDATE、DELETE),并行使用,清理時(shí)不允許對(duì)表結(jié)構(gòu)進(jìn)行修改(ALTER TABLE)推薦使用該方案
VACUUM FULL
a、可以回收大量空間,但是比標(biāo)準(zhǔn)回收?qǐng)?zhí)行慢
b、運(yùn)行時(shí)需要鎖表
VACUUM 運(yùn)行會(huì)導(dǎo)致讀寫(xiě)性能比較差,所以需要調(diào)整一些參數(shù)降低影響
temp_file_limit = -1 #默認(rèn)-1表示不限制每個(gè)進(jìn)程可使用的最大臨時(shí)文件限制,單位kb #max_files_per_process = 1000 #每個(gè)子進(jìn)程允許同時(shí)打開(kāi)文件的最大數(shù)量
在執(zhí)行 VACUUM 和 ANYLYZE 期間,系統(tǒng)會(huì)維護(hù)一個(gè)用于估算各種I/O操作所消耗的內(nèi)部計(jì)數(shù)器,當(dāng)該值達(dá)到vacuum_cost_limit的值時(shí),該進(jìn)程會(huì)休眠 vacuum_cost_delay 指定的時(shí)間,并重置計(jì)數(shù)器的值,繼續(xù)運(yùn)行 VACUM 或者 ANYLYZE 操作
vacuum_cost_limit = 200 vacuum_cost_delay = 0 # 單位微秒,默認(rèn)為 0 沒(méi)有開(kāi)啟
該參數(shù) vacuum_cost_delay 主要用于并發(fā)時(shí)降低I/O的影響,推薦為10
vacuum_cost_page_hit = 1 # 代表從緩存池查找共享的hash table并掃描 該`頁(yè)`的內(nèi)容 #的估計(jì)值 vacuum_cost_page_miss = 10 # 0-10000 credits vacuum_cost_page_dirty = 20
NOTE
當(dāng)一張表中包含了大量數(shù)據(jù)時(shí),同時(shí)進(jìn)行刪除或者更新操作時(shí),VACUUM 并不是最好的方案,
如果有該情況,則應(yīng)該使用 VACUU FULL ,當(dāng)執(zhí)行 ALTER TABLE 時(shí),會(huì)重新 COPY整
個(gè)表和重新構(gòu)建索引,會(huì)進(jìn)行執(zhí)行鎖,臨時(shí)占用和原始表大小的磁盤(pán)空間,直到新數(shù)據(jù)COPY完成。
升級(jí)執(zhí)行計(jì)劃
執(zhí)行計(jì)劃通過(guò)自己或者 VACUUM調(diào)用命令 ANALYZE 收集統(tǒng)計(jì),
創(chuàng)建 表達(dá)式索引 能夠提高查詢(xún)執(zhí)行計(jì)劃
default_statistics_target = 100 #提高查詢(xún)的 析計(jì)劃
以上為個(gè)人經(jīng)驗(yàn),希望能給大家一個(gè)參考,也希望大家多多支持本站。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教。
版權(quán)聲明:本站文章來(lái)源標(biāo)注為YINGSOO的內(nèi)容版權(quán)均為本站所有,歡迎引用、轉(zhuǎn)載,請(qǐng)保持原文完整并注明來(lái)源及原文鏈接。禁止復(fù)制或仿造本網(wǎng)站,禁止在非www.sddonglingsh.com所屬的服務(wù)器上建立鏡像,否則將依法追究法律責(zé)任。本站部分內(nèi)容來(lái)源于網(wǎng)友推薦、互聯(lián)網(wǎng)收集整理而來(lái),僅供學(xué)習(xí)參考,不代表本站立場(chǎng),如有內(nèi)容涉嫌侵權(quán),請(qǐng)聯(lián)系alex-e#qq.com處理。