使用elasticsearch定時(shí)刪除索引數(shù)據(jù)
1、有的時(shí)候我們?cè)谑褂肊S
由于資源有限或業(yè)務(wù)需求,我們只想保存最近一段時(shí)間的數(shù)據(jù),所以有必要做定時(shí)刪除數(shù)據(jù)。
2、編寫腳本
vim del_es_by_day.sh #!/bin/bash #定時(shí)刪除elasticsearch索引 #author menard 2019-3-25 date=`date -d "-7 days" "+%Y.%m.%d"` /usr/bin/curl -v --user elastic:password -XDELETE "http://192.168.10.201:9200/*-$date"
增加可執(zhí)行權(quán)限 chmod +x del_es_by_day.sh
3、創(chuàng)建用于測(cè)試的索引
put test-2019.03.18 put index-2019.03.18
4、執(zhí)行腳本測(cè)試結(jié)果,可以看到刪除成功
5、做定時(shí)任務(wù)
crontab -e 00 01 * * * /workspace/script/del_es_by_day.sh
補(bǔ)充:Elasticsearch定時(shí)備份索引數(shù)據(jù)與恢復(fù)
定時(shí)備份腳本
Linux定時(shí)任務(wù)功能使用cron服務(wù)來進(jìn)行
編寫定時(shí)任務(wù)的cron表達(dá)式
crontab -e #進(jìn)入cron定時(shí)任務(wù)編輯
定時(shí)任務(wù)
*/1 * * * * /opt/scheduler/es_bk.sh >> /opt/scheduler/bk_log.txt 2>&1
每隔1分鐘定時(shí)執(zhí)行 /opt/scheduler/目錄下的es_bk.sh腳本,將數(shù)據(jù)內(nèi)容寫入到 /opt/scheduler目錄下的bk.log.txt文件中
查看一下es_bk.sh腳本內(nèi)容
#! /bin/bash echo '=================================start======================================' #刪除備份的快照 curl -i -X DELETE localhost:9200/_snapshot/es_backup/snapshot01 #再次備份 curl -i -X PUT localhost:9200/_snapshot/es_backup/snapshot01 echo '==================================end======================================='
ES備份數(shù)據(jù)需要將要備份的索引數(shù)據(jù)快照一份,需要指定一個(gè)快照名,且不能使用相同的快照,所以在每次備份之前需要?jiǎng)h除舊的快照,再備份。
ES備份與恢復(fù)
創(chuàng)建一個(gè)備份倉(cāng)庫(kù)(目錄)
mkdir -p /bk/es/data #修改權(quán)限 chmod -R 777 bk
修改elasticsearch.yml文件,指定倉(cāng)庫(kù)位置
發(fā)送初始化倉(cāng)庫(kù)請(qǐng)求
curl -i -H ""'Content-Type:application/json;charset=UTF-8'"" -X PUT --data '{"type": "fs","settings": {"location": "/bk/es/data"}}' localhost:9200/_snapshot/es_backup
es_backup是備份命名空間,可以隨意指定
創(chuàng)建第一份快照
curl -i -X PUT localhost:9200/_snapshot/es_backup/snapshot01
將使用es_backup這個(gè)備份將es的所有索引數(shù)據(jù)備份到snapshot01這個(gè)快照下,當(dāng)然也可以只備份指定索引
curl -i -H ""'Content-Type:application/json;charset=UTF-8'"" -X PUT --data '{"indices": "'bk_user_index_server'"}' localhost:9200/_snapshot/es_backup/snapshot01
重啟定時(shí)任務(wù)
systemctl restart cron
恢復(fù)索引
恢復(fù)指定
curl -i -H ""'Content-Type:application/json;charset=UTF-8'"" -X POST --data '{"indices": "'bk_user_index_server'"}' localhost:9200/_snapshot/es_backup/snapshot01/_restore
恢復(fù)所有
curl -i -X POST localhost:9200/_snapshot/es_backup/snapshot01/_restore
以上為個(gè)人經(jīng)驗(yàn),希望能給大家一個(gè)參考,也希望大家多多支持本站。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教。
版權(quán)聲明:本站文章來源標(biāo)注為YINGSOO的內(nèi)容版權(quán)均為本站所有,歡迎引用、轉(zhuǎn)載,請(qǐng)保持原文完整并注明來源及原文鏈接。禁止復(fù)制或仿造本網(wǎng)站,禁止在非www.sddonglingsh.com所屬的服務(wù)器上建立鏡像,否則將依法追究法律責(zé)任。本站部分內(nèi)容來源于網(wǎng)友推薦、互聯(lián)網(wǎng)收集整理而來,僅供學(xué)習(xí)參考,不代表本站立場(chǎng),如有內(nèi)容涉嫌侵權(quán),請(qǐng)聯(lián)系alex-e#qq.com處理。