Linux中l(wèi)ogrotate日志輪詢操作總結(jié)
對(duì)于Linux系統(tǒng)安全來說,日志文件是極其重要的工具。不知為何,我發(fā)現(xiàn)很多運(yùn)維同學(xué)的服務(wù)器上都運(yùn)行著一些諸如每天切分Nginx日志之類的CRON腳本,大家似乎遺忘了Logrotate,爭相發(fā)明自己的輪子,這真是讓人沮喪?。【秃帽让髅魃磉吿芍F(xiàn)成的性感美女,大家卻忙著自娛自樂,罪過!logrotate程序是一個(gè)日志文件管理工具。用于分割日志文件,刪除舊的日志文件,并創(chuàng)建新的日志文件,起到“轉(zhuǎn)儲(chǔ)”作用??梢怨?jié)省磁盤空間。
下面就對(duì)logrotate日志輪轉(zhuǎn)操作做一梳理記錄:
1)配置文件介紹
Linux系統(tǒng)默認(rèn)安裝logrotate工具,它默認(rèn)的配置文件在:
/etc/logrotate.conf
/etc/logrotate.d/
logrotate.conf 才主要的配置文件,logrotate.d 是一個(gè)目錄,該目錄里的所有文件都會(huì)被主動(dòng)的讀入/etc/logrotate.conf中執(zhí)行。
另外,如果 /etc/logrotate.d/ 里面的文件中沒有設(shè)定一些細(xì)節(jié),則會(huì)以/etc/logrotate.conf這個(gè)文件的設(shè)定來作為默認(rèn)值。
Logrotate是基于CRON來運(yùn)行的,其腳本是/etc/cron.daily/logrotate,日志輪轉(zhuǎn)是系統(tǒng)自動(dòng)完成的。
實(shí)際運(yùn)行時(shí),Logrotate會(huì)調(diào)用配置文件/etc/logrotate.conf。
可以在/etc/logrotate.d目錄里放置自定義好的配置文件,用來覆蓋Logrotate的缺省值。
[root@huanqiu_web1 ~]# cat /etc/cron.daily/logrotate #!/bin/sh /usr/sbin/logrotate /etc/logrotate.conf >/dev/null 2>&1 EXITVALUE=$? if [ $EXITVALUE != 0 ]; then /usr/bin/logger -t logrotate "ALERT exited abnormally with [$EXITVALUE]" fi exit 0
如果等不及cron自動(dòng)執(zhí)行日志輪轉(zhuǎn),想手動(dòng)強(qiáng)制切割日志,需要加-f參數(shù);不過正式執(zhí)行前最好通過Debug選項(xiàng)來驗(yàn)證一下(-d參數(shù)),這對(duì)調(diào)試也很重要
# /usr/sbin/logrotate -f /etc/logrotate.d/nginx # /usr/sbin/logrotate -d -f /etc/logrotate.d/nginx
logrotate命令格式:
- logrotate [OPTION...] <configfile>
- -d, --debug :debug模式,測試配置文件是否有錯(cuò)誤。
- -f, --force :強(qiáng)制轉(zhuǎn)儲(chǔ)文件。
- -m, --mail=command :壓縮日志后,發(fā)送日志到指定郵箱。
- -s, --state=statefile :使用指定的狀態(tài)文件。
- -v, --verbose :顯示轉(zhuǎn)儲(chǔ)過程。
根據(jù)日志切割設(shè)置進(jìn)行操作,并顯示詳細(xì)信息
[root@huanqiu_web1 ~]# /usr/sbin/logrotate -v /etc/logrotate.conf [root@huanqiu_web1 ~]# /usr/sbin/logrotate -v /etc/logrotate.d/php
根據(jù)日志切割設(shè)置進(jìn)行執(zhí)行,并顯示詳細(xì)信息,但是不進(jìn)行具體操作,debug模式
[root@huanqiu_web1 ~]# /usr/sbin/logrotate -d /etc/logrotate.conf [root@huanqiu_web1 ~]# /usr/sbin/logrotate -d /etc/logrotate.d/nginx
查看各log文件的具體執(zhí)行情況
[root@fangfull_web1 ~]# cat /var/lib/logrotate.status
2)切割介紹
比如以系統(tǒng)日志/var/log/message做切割來簡單說明下:
第一次執(zhí)行完rotate(輪轉(zhuǎn))之后,原本的messages會(huì)變成messages.1,而且會(huì)制造一個(gè)空的messages給系統(tǒng)來儲(chǔ)存日志;
第二次執(zhí)行之后,messages.1會(huì)變成messages.2,而messages會(huì)變成messages.1,又造成一個(gè)空的messages來儲(chǔ)存日志!
如果僅設(shè)定保留三個(gè)日志(即輪轉(zhuǎn)3次)的話,那么執(zhí)行第三次時(shí),則 messages.3這個(gè)檔案就會(huì)被刪除,并由后面的較新的保存日志所取代!也就是會(huì)保存最新的幾個(gè)日志。
日志究竟輪換幾次,這個(gè)是根據(jù)配置文件中的dateext 參數(shù)來判定的。
看下logrotate.conf配置:
# cat /etc/logrotate.conf
# 底下的設(shè)定是 "logrotate 的默認(rèn)值" ,如果別的文件設(shè)定了其他的值,
# 就會(huì)以其它文件的設(shè)定為主
weekly //默認(rèn)每一周執(zhí)行一次rotate輪轉(zhuǎn)工作
rotate 4 //保留多少個(gè)日志文件(輪轉(zhuǎn)幾次).默認(rèn)保留四個(gè).就是指定日志文件刪除之前輪轉(zhuǎn)的次數(shù),0 指沒有備份
create //自動(dòng)創(chuàng)建新的日志文件,新的日志文件具有和原來的文件相同的權(quán)限;因?yàn)槿罩颈桓拿?因此要?jiǎng)?chuàng)建一個(gè)新的來繼續(xù)存儲(chǔ)之前的日志
dateext //這個(gè)參數(shù)很重要!就是切割后的日志文件以當(dāng)前日期為格式結(jié)尾,如xxx.log-20131216這樣,如果注釋掉,切割出來是按數(shù)字遞增,即前面說的 xxx.log-1這種格式
compress //是否通過gzip壓縮轉(zhuǎn)儲(chǔ)以后的日志文件,如xxx.log-20131216.gz ;如果不需要壓縮,注釋掉就行
include /etc/logrotate.d
# 將 /etc/logrotate.d/ 目錄中的所有文件都加載進(jìn)來
/var/log/wtmp { //僅針對(duì) /var/log/wtmp 所設(shè)定的參數(shù)
monthly //每月一次切割,取代默認(rèn)的一周
minsize 1M //文件大小超過 1M 后才會(huì)切割
create 0664 root utmp //指定新建的日志文件權(quán)限以及所屬用戶和組
rotate 1 //只保留一個(gè)日志.
}
# 這個(gè) wtmp 可記錄用戶登錄系統(tǒng)及系統(tǒng)重啟的時(shí)間
# 因?yàn)橛?minsize 的參數(shù),因此不見得每個(gè)月一定會(huì)執(zhí)行一次喔.要看文件大小。
由這個(gè)文件的設(shè)定可以知道/etc/logrotate.d其實(shí)就是由/etc/logrotate.conf 所規(guī)劃出來的目錄,雖然可以將所有的配置都寫入/etc/logrotate.conf ,但是這樣一來這個(gè)文件就實(shí)在是太復(fù)雜了,尤其是當(dāng)使用很多的服務(wù)在系統(tǒng)上面時(shí), 每個(gè)服務(wù)都要去修改/etc/logrotate.conf的設(shè)定也似乎不太合理了。
所以,如果獨(dú)立出來一個(gè)目錄,那么每個(gè)要切割日志的服務(wù), 就可以獨(dú)自成為一個(gè)文件,并且放置到 /etc/logrotate.d/ 當(dāng)中
其他重要參數(shù)說明
---------------------------------------------------------------------------------------------------------
- compress 通過gzip 壓縮轉(zhuǎn)儲(chǔ)以后的日志
- nocompress 不做gzip壓縮處理
- copytruncate 用于還在打開中的日志文件,把當(dāng)前日志備份并截?cái)啵皇窍瓤截愒偾蹇盏姆绞?,拷貝和清空之間有一個(gè)時(shí)間差,可能會(huì)丟失部分日志數(shù)據(jù)。
- nocopytruncate 備份日志文件不過不截?cái)?/li>
- create mode owner group 輪轉(zhuǎn)時(shí)指定創(chuàng)建新文件的屬性,如create 0777 nobody nobody
- nocreate 不建立新的日志文件
- delaycompress 和compress 一起使用時(shí),轉(zhuǎn)儲(chǔ)的日志文件到下一次轉(zhuǎn)儲(chǔ)時(shí)才壓縮
- nodelaycompress 覆蓋 delaycompress 選項(xiàng),轉(zhuǎn)儲(chǔ)同時(shí)壓縮。
- missingok 如果日志丟失,不報(bào)錯(cuò)繼續(xù)滾動(dòng)下一個(gè)日志
- errors address 專儲(chǔ)時(shí)的錯(cuò)誤信息發(fā)送到指定的Email 地址
- ifempty 即使日志文件為空文件也做輪轉(zhuǎn),這個(gè)是logrotate的缺省選項(xiàng)。
- notifempty 當(dāng)日志文件為空時(shí),不進(jìn)行輪轉(zhuǎn)
- mail address 把轉(zhuǎn)儲(chǔ)的日志文件發(fā)送到指定的E-mail 地址
- nomail 轉(zhuǎn)儲(chǔ)時(shí)不發(fā)送日志文件
- olddir directory 轉(zhuǎn)儲(chǔ)后的日志文件放入指定的目錄,必須和當(dāng)前日志文件在同一個(gè)文件系統(tǒng)
- noolddir 轉(zhuǎn)儲(chǔ)后的日志文件和當(dāng)前日志文件放在同一個(gè)目錄下
- sharedscripts 運(yùn)行postrotate腳本,作用是在所有日志都輪轉(zhuǎn)后統(tǒng)一執(zhí)行一次腳本。如果沒有配置這個(gè),那么每個(gè)日志輪轉(zhuǎn)后都會(huì)執(zhí)行一次腳本
- prerotate 在logrotate轉(zhuǎn)儲(chǔ)之前需要執(zhí)行的指令,例如修改文件的屬性等動(dòng)作;必須獨(dú)立成行
- postrotate 在logrotate轉(zhuǎn)儲(chǔ)之后需要執(zhí)行的指令,例如重新啟動(dòng) (kill -HUP) 某個(gè)服務(wù)!必須獨(dú)立成行
- daily 指定轉(zhuǎn)儲(chǔ)周期為每天
- weekly 指定轉(zhuǎn)儲(chǔ)周期為每周
- monthly 指定轉(zhuǎn)儲(chǔ)周期為每月
- rotate count 指定日志文件刪除之前轉(zhuǎn)儲(chǔ)的次數(shù),0 指沒有備份,5 指保留5 個(gè)備份
- dateext 使用當(dāng)期日期作為命名格式
- dateformat .%s 配合dateext使用,緊跟在下一行出現(xiàn),定義文件切割后的文件名,必須配合dateext使用,只支持 %Y %m %d %s 這四個(gè)參數(shù)
- size(或minsize) log-size 當(dāng)日志文件到達(dá)指定的大小時(shí)才轉(zhuǎn)儲(chǔ),log-size能指定bytes(缺省)及KB (sizek)或MB(sizem).
- 當(dāng)日志文件 >= log-size 的時(shí)候就轉(zhuǎn)儲(chǔ)。 以下為合法格式:(其他格式的單位大小寫沒有試過)
- size = 5 或 size 5 (>= 5 個(gè)字節(jié)就轉(zhuǎn)儲(chǔ))
- size = 100k 或 size 100k
- size = 100M 或 size 100M
小示例:下面一個(gè)切割nginx日志的配置
[root@master-server ~]# vim /etc/logrotate.d/nginx
/usr/local/nginx/logs/*.log {
daily
rotate 7
missingok
notifempty
dateext
sharedscripts
postrotate
if [ -f /usr/local/nginx/logs/nginx.pid ]; then
kill -USR1 `cat /usr/local/nginx/logs/nginx.pid`
fi
endscript
}
--------------------------------------------------分享一例曾經(jīng)使用過的nginx日志切割處理腳本-----------------------------------------------
1)logrotate日志分割配置:
[root@bastion-IDC ~# vim /etc/logrotate.d/nginx
/data/nginx_logs/*.access_log
{
nocompress
daily
copytruncate
create
ifempty
olddir /data/nginx_logs/days
rotate 0
}
2)日志分割腳本
[root@bastion-IDC ~# vim /usr/local/sbin/logrotate-nginx.sh
#!/bin/bash
#創(chuàng)建轉(zhuǎn)儲(chǔ)日志壓縮存放目錄
mkdir -p /data/nginx_logs/days
#手工對(duì)nginx日志進(jìn)行切割轉(zhuǎn)換
/usr/sbin/logrotate -vf /etc/logrotate.d/nginx
#當(dāng)前時(shí)間
time=$(date -d "yesterday" +"%Y-%m-%d")
#進(jìn)入轉(zhuǎn)儲(chǔ)日志存放目錄
cd /data/nginx_logs/days
#對(duì)目錄中的轉(zhuǎn)儲(chǔ)日志文件的文件名進(jìn)行統(tǒng)一轉(zhuǎn)換
for i in $(ls ./ | grep "^\(.*\)\.[[:digit:]]$")
do
mv ${i} ./$(echo ${i}|sed -n 's/^\(.*\)\.\([[:digit:]]\)$/\1/p')-$(echo $time)
done
#對(duì)轉(zhuǎn)儲(chǔ)的日志文件進(jìn)行壓縮存放,并刪除原有轉(zhuǎn)儲(chǔ)的日志文件,只保存壓縮后的日志文件。以節(jié)約存儲(chǔ)空間
for i in $(ls ./ | grep "^\(.*\)\-\([[:digit:]-]\+\)$")
do
tar jcvf ${i}.bz2 ./${i}
rm -rf ./${i}
done
#只保留最近7天的壓縮轉(zhuǎn)儲(chǔ)日志文件
find /data/nginx_logs/days/* -name "*.bz2" -mtime 7 -type f -exec rm -rf {} \;
3)crontab定時(shí)執(zhí)行
[root@bastion-IDC ~# crontab -e #logrotate 0 0 * * * /bin/bash -x /usr/local/sbin/logrotate-nginx.sh > /dev/null 2>&1
手動(dòng)執(zhí)行腳本,測試下看看:
[root@bastion-IDC ~# /bin/bash -x /usr/local/sbin/logrotate-nginx.sh [root@bastion-IDC ~# cd /data/nginx_logs/days [root@bastion-IDC days# ls huantest.access_log-2017-01-18.bz2
----------------------------------php腳本切割一例----------------------------------
[root@huanqiu_web1 ~]# cat /etc/logrotate.d/php
/Data/logs/php/*log {
daily
rotate 365
missingok
notifempty
compress
dateext
sharedscripts
postrotate
if [ -f /Data/app/php5.6.26/var/run/php-fpm.pid ]; then
kill -USR1 `cat /Data/app/php5.6.26/var/run/php-fpm.pid`
fi
endscript
postrotate
/bin/chmod 644 /Data/logs/php/*gz
endscript
}
[root@huanqiu_web1 ~]# ll /Data/app/php5.6.26/var/run/php-fpm.pid
-rw-r--r-- 1 root root 4 Dec 28 17:03 /Data/app/php5.6.26/var/run/php-fpm.pid
[root@huanqiu_web1 ~]# cd /Data/logs/php
[root@huanqiu_web1 php]# ll
total 25676
-rw-r--r-- 1 root root 0 Jun 1 2016 error.log
-rw-r--r-- 1 nobody nobody 182 Aug 30 2015 error.log-20150830.gz
-rw-r--r-- 1 nobody nobody 371 Sep 1 2015 error.log-20150901.gz
-rw-r--r-- 1 nobody nobody 315 Sep 7 2015 error.log-20150907.gz
.........
.........
----------------------------------nginx日志切割一例-----------------------------------
[root@huanqiu_web1 ~]# cat /etc/logrotate.d/nginx
/Data/logs/nginx/*/*log {
daily
rotate 365
missingok
notifempty
compress
dateext
sharedscripts
postrotate
/etc/init.d/nginx reload
endscript
}
[root@huanqiu_web1 ~]# ll /Data/logs/nginx/www.huanqiu.com/
..........
-rw-r--r-- 1 root root 1652 Jan 1 00:00 error.log-20170101.gz
-rw-r--r-- 1 root root 1289 Jan 2 00:00 error.log-20170102.gz
-rw-r--r-- 1 root root 1633 Jan 3 00:00 error.log-20170103.gz
-rw-r--r-- 1 root root 3239 Jan 4 00:00 error.log-20170104.gz
----------------------------------系統(tǒng)日志切割一例-----------------------------------
[root@huanqiu_web1 ~]# cat /etc/logrotate.d/syslog
/var/log/cron
/var/log/maillog
/var/log/messages
/var/log/secure
/var/log/spooler
{
sharedscripts
postrotate
/bin/kill -HUP `cat /var/run/syslogd.pid 2> /dev/null` 2> /dev/null || true
endscript
}
[root@huanqiu_web1 ~]# ll /var/log/messages*
-rw------- 1 root root 34248975 Jan 19 18:42 /var/log/messages
-rw------- 1 root root 51772994 Dec 25 03:11 /var/log/messages-20161225
-rw------- 1 root root 51800210 Jan 1 03:05 /var/log/messages-20170101
-rw------- 1 root root 51981366 Jan 8 03:36 /var/log/messages-20170108
-rw------- 1 root root 51843025 Jan 15 03:40 /var/log/messages-20170115
[root@huanqiu_web1 ~]# ll /var/log/cron*
-rw------- 1 root root 2155681 Jan 19 18:43 /var/log/cron
-rw------- 1 root root 2932618 Dec 25 03:11 /var/log/cron-20161225
-rw------- 1 root root 2939305 Jan 1 03:06 /var/log/cron-20170101
-rw------- 1 root root 2951820 Jan 8 03:37 /var/log/cron-20170108
-rw------- 1 root root 3203992 Jan 15 03:41 /var/log/cron-20170115
[root@huanqiu_web1 ~]# ll /var/log/secure*
-rw------- 1 root root 275343 Jan 19 18:36 /var/log/secure
-rw------- 1 root root 2111936 Dec 25 03:06 /var/log/secure-20161225
-rw------- 1 root root 2772744 Jan 1 02:57 /var/log/secure-20170101
-rw------- 1 root root 1115543 Jan 8 03:26 /var/log/secure-20170108
-rw------- 1 root root 731599 Jan 15 03:40 /var/log/secure-20170115
[root@huanqiu_web1 ~]# ll /var/log/spooler*
-rw------- 1 root root 0 Jan 15 03:41 /var/log/spooler
-rw------- 1 root root 0 Dec 18 03:21 /var/log/spooler-20161225
-rw------- 1 root root 0 Dec 25 03:11 /var/log/spooler-20170101
-rw------- 1 root root 0 Jan 1 03:06 /var/log/spooler-20170108
-rw------- 1 root root 0 Jan 8 03:37 /var/log/spooler-20170115
----------------------------------tomcat日志切割一例-----------------------------------
[root@huanqiu-backup ~]# cat /etc/logrotate.d/tomcat
/Data/app/tomcat-7-huanqiu/logs/catalina.out {
rotate 14
daily
copytruncate
compress
notifempty
missingok
}
[root@huanqiu-backup ~]# ll /Data/app/tomcat-7-huanqiu/logs/catalina.*
-rw-r--r--. 1 root root 0 Jan 19 19:11 /Data/app/tomcat-7-huanqiu/logs/catalina.out
-rw-r--r--. 1 root root 95668 Jan 19 19:11 /Data/app/tomcat-7-huanqiu/logs/catalina.out.1.gz
---------------------------------早期用過的nginx日志處理一例----------------------------------
[root@letv-backup ~]# vim /letv/sh/cut_nginx_log.sh
#!/bin/bash
# 你的日志文件存放目錄
logs_path="/letv/logs/"
# 日志文件的名字,多個(gè)需要空格隔開
logs_names=(error access pv_access)
dates=`date -d "yesterday" +"%Y%m%d"`
mkdir -p ${logs_path}$dates/
num=${#logs_names[@]}
for((i=0;i<num;i++));do
mv ${logs_path}${logs_names[i]}.log ${logs_path}$dates/${logs_names[i]}.log
done
#nginx平滑重啟
kill -USR1 `cat /letv/logs/nginx/nginx.pid`
結(jié)合crontab定時(shí)執(zhí)行
[root@letv-backup ~]# crontab -e
#nginx日志切割
00 00 * * * cd /letv/logs;/bin/bash /letv/sh/cut_nginx_log.sh > /dev/null 2>$1
3)嘗試解決logrotate無法自動(dòng)輪詢?nèi)罩镜霓k法
現(xiàn)象說明:
使用logrotate輪詢nginx日志,配置好之后,發(fā)現(xiàn)nginx日志連續(xù)兩天沒被切割,這是為什么呢??
然后開始檢查日志切割的配置文件是否有問題,檢查后確定配置文件一切正常。
于是懷疑是logrotate預(yù)定的cron沒執(zhí)行,查看了cron的日志,發(fā)現(xiàn)有一條Dec 7 04:02:01 www crond[18959]: (root) CMD (run-parts /etc/cron.daily)這樣的日志,證明cron在04:02分時(shí)已經(jīng)執(zhí)行/etc/cron.daily目錄下的程序。
接著查看/etc /cron.daily/logrotate(這是logrotate自動(dòng)輪轉(zhuǎn)的腳本)的內(nèi)容:
[root@huanqiu_test ~]# cat /etc/cron.daily/logrotate #!/bin/sh /usr/sbin/logrotate /etc/logrotate.conf >/dev/null 2>&1 EXITVALUE=$? if [ $EXITVALUE != 0 ]; then /usr/bin/logger -t logrotate "ALERT exited abnormally with [$EXITVALUE]" fi exit 0
沒有發(fā)現(xiàn)異常,配置好的日志輪轉(zhuǎn)操作都是由這個(gè)腳本完成的,一切運(yùn)行正常,腳本應(yīng)該就沒問題。
直接執(zhí)行命令:
[root@huanqiu_test ~]# /usr/sbin/logrotate /etc/logrotate.conf
這些系統(tǒng)日志是正常輪詢了,但nginx日志卻還是沒輪詢
接著強(qiáng)行啟動(dòng)記錄文件維護(hù)操作,縱使logrotate指令認(rèn)為沒有需要,應(yīng)該有可能是logroate認(rèn)為nginx日志太小,不進(jìn)行輪詢。
故需要強(qiáng)制輪詢,即在/etc/cron.daily/logrotate腳本中將 -t 參數(shù)替換成 -f 參數(shù)
[root@huanqiu_test ~]# cat /etc/cron.daily/logrotate #!/bin/sh /usr/sbin/logrotate /etc/logrotate.conf >/dev/null 2>&1 EXITVALUE=$? if [ $EXITVALUE != 0 ]; then /usr/bin/logger -f logrotate "ALERT exited abnormally with [$EXITVALUE]" fi exit 0
最后最后重啟下cron服務(wù):
[root@huanqiu_test ~]# /etc/init.d/crond restart Stopping crond: [ OK ] Starting crond: [ OK ]
總結(jié)
以上就是這篇文章的全部內(nèi)容了,希望本文的內(nèi)容對(duì)大家的學(xué)習(xí)或者工作能帶來一定的幫助,如果有疑問大家可以留言交流,謝謝大家對(duì)本站的支持。
版權(quán)聲明:本站文章來源標(biāo)注為YINGSOO的內(nèi)容版權(quán)均為本站所有,歡迎引用、轉(zhuǎn)載,請(qǐng)保持原文完整并注明來源及原文鏈接。禁止復(fù)制或仿造本網(wǎng)站,禁止在非maisonbaluchon.cn所屬的服務(wù)器上建立鏡像,否則將依法追究法律責(zé)任。本站部分內(nèi)容來源于網(wǎng)友推薦、互聯(lián)網(wǎng)收集整理而來,僅供學(xué)習(xí)參考,不代表本站立場,如有內(nèi)容涉嫌侵權(quán),請(qǐng)聯(lián)系alex-e#qq.com處理。
關(guān)注官方微信