二丫讲梵 二丫讲梵
首页
  • 最佳实践
  • 迎刃而解
  • Nginx
  • Php
  • Zabbix
  • AWS
  • Prometheus
  • Grafana
  • CentOS
  • Systemd
  • Docker
  • Rancher
  • Ansible
  • Ldap
  • Gitlab
  • GitHub
  • Etcd
  • Consul
  • RabbitMQ
  • Kafka
  • MySql
  • MongoDB
  • OpenVPN
  • KVM
  • VMware
  • Other
  • ELK
  • K8S
  • LLM
  • Nexus
  • Jenkins
  • 随写编年
  • 家人物语
  • 追忆青春
  • 父亲的朋友圈
  • 电影音乐
  • 效率工具
  • 博客相关
  • Shell
  • 前端实践
  • Vue学习笔记
  • Golang学习笔记
  • Golang编程技巧
  • 学习周刊
  • Obsidian插件周刊
关于
友链
  • 本站索引

    • 分类
    • 标签
    • 归档
  • 本站页面

    • 导航
    • 打赏
  • 我的工具

    • 备忘录清单 (opens new window)
    • json2go (opens new window)
    • gopher (opens new window)
    • 微信MD编辑 (opens new window)
    • 国内镜像 (opens new window)
    • 出口IP查询 (opens new window)
    • 代码高亮工具 (opens new window)
  • 外站页面

    • 开往 (opens new window)
    • ldapdoc (opens new window)
    • HowToStartOpenSource (opens new window)
    • vdoing-template (opens new window)
GitHub (opens new window)

二丫讲梵

行者常至,为者常成
首页
  • 最佳实践
  • 迎刃而解
  • Nginx
  • Php
  • Zabbix
  • AWS
  • Prometheus
  • Grafana
  • CentOS
  • Systemd
  • Docker
  • Rancher
  • Ansible
  • Ldap
  • Gitlab
  • GitHub
  • Etcd
  • Consul
  • RabbitMQ
  • Kafka
  • MySql
  • MongoDB
  • OpenVPN
  • KVM
  • VMware
  • Other
  • ELK
  • K8S
  • LLM
  • Nexus
  • Jenkins
  • 随写编年
  • 家人物语
  • 追忆青春
  • 父亲的朋友圈
  • 电影音乐
  • 效率工具
  • 博客相关
  • Shell
  • 前端实践
  • Vue学习笔记
  • Golang学习笔记
  • Golang编程技巧
  • 学习周刊
  • Obsidian插件周刊
关于
友链
  • 本站索引

    • 分类
    • 标签
    • 归档
  • 本站页面

    • 导航
    • 打赏
  • 我的工具

    • 备忘录清单 (opens new window)
    • json2go (opens new window)
    • gopher (opens new window)
    • 微信MD编辑 (opens new window)
    • 国内镜像 (opens new window)
    • 出口IP查询 (opens new window)
    • 代码高亮工具 (opens new window)
  • 外站页面

    • 开往 (opens new window)
    • ldapdoc (opens new window)
    • HowToStartOpenSource (opens new window)
    • vdoing-template (opens new window)
GitHub (opens new window)
  • Shell编程

    • 如何让不断增加的目录只保留五个文件
    • 那些使用字符画出来的画
    • 业务中期的日志备份操作过程
    • 关于sed命令当中包含变量的坑
    • 利用shell脚本将博客数据库备份到邮箱附件
  • Go编程笔记

  • 前端编程笔记

  • Go学习笔记

  • Vue-21年学习笔记

  • Vue-22年重学笔记

  • 编程世界
  • Shell编程
二丫讲梵
2018-12-11

业务中期的日志备份操作过程

文章发布较早,内容可能过时,阅读注意甄别。

天气不错,正在忙活自己的事情,一位开发大哥过来说有一些日志,最好清理一下,只保留最近的就行。瞬间明白这个情况,但是日志是线上的,所以当然不能清理,打算异地转移,然后本地保留五天的。

说干就干,说起来这应该是一个很小的事情,就算脚本从无到有,那么一个小时也足够的了,但是我却足足的忙活了一大晌,中间做了很多事情,也并没有一开始想象的一个小时搞定的样子,毕竟做了一件事情,就想朝完美的方向去跨越的,所以不断调试,总结,终于搞定,欣喜之情自不待言,其中也有许多值得记录一下的,特别在此记下。

写脚本是一个有意思的过程,最开始可能特别小,后来慢慢特别大,到最后,基本上会精简到最合适。

由于线上是五台服务器,有三台是一样的,基本上可以分成三个种类来考虑。

其实只把眼前的都给弄好了,这没什么难度大概主体操作也就那么三步而已,分别是下边这样:

zip filename.zip filename
ssh -p 22 user@ip "[ ! -d /nfs_mount/alladminlog ] && mkdir -p /nfs_mount/alladminlog "
scp -P 22 filename.zip user@ip:/nfs_mount/alladminlog && rm -f filename.zip
1
2
3

简单解释,那就是,先将本地对应的日志压缩(注意这里的日志全部都是按照日期每天或者每个小时都自动分割好了的),检测要移动的服务器是否有对应的目录,没有的话创建目录,然后将压缩好的文件传输到备份服务器的对应目录下,并顺便把刚刚在本地压缩出来的文件删除掉。 接下来所有的考虑则都是围绕着主题来进行的了。

首先是我想把今天之前的所有日志先进行如上的操作,如此才能够放心的将这些古老而庞大的日志在本地进行删除,所以,就必须先写出一个可供使用的或递减或递增的日期(这个日期的格式要与服务器中日志日期格式相匹配),这样才能一个一个将之前的日志扔进刚才三句主体里边进行 “加工” 操作。

日常工作中,类似的循环之类的脚本,我个人写的并不是很经常,于是乎更经常的,就是遗忘掉了,好在自己有心,以往写过的脚本,都会保留在一个地方,使用到了哪种类型的脚本,看两眼,自己也就知道格式是什么样的了。于是就先写了一个输出日期的脚本:

#!/bin/bash
Date=`date +%Y-%m-%d`
a=1
while true
do
        DAte=`date -d "$a day ago" +"%Y-%m-%d"`
        let a++
        echo $DAte
done
1
2
3
4
5
6
7
8
9

脚本完全是自己琢磨出来,并没有参考任何地方,基本思路在创造出来之后,看上去也很简单,因为 Linux 有这样的一个日期表达,昨天是 “date -d “1 day ago” +”%Y-%m-%d””,那么好,两天前就是 2 咯,就让他作为一个变量,然后如上脚本,制作出一个不停的可以循环输出日期的内容。这样基本上就满足了我的需要了,只用在每一次输出一个日期的时候对这个输出加以利用就 ok 啦。这里的工作原理也不用过多介绍了,不懂的可以先去看看 while 的原理,其实就是先将变量赋值,然后主体动作,完成一次之后,接着,再次进入到循环之中,如果不加判断或者干预,那么这个脚本将会一直运行下去,跑到世界初始的时候(不信的话,可以自己去试试,嘿嘿,最好不要试,因为除了无聊之外,这还会将你的 CPU 持续性吃满)。

那么,既然想要的东西已经满足了,现在就是拿着这个东西来进行一些加工的时候了。明白了刚才简单讲解的这个循环的工作原理的话,那么再进行下一步的操作,也就非常简单了,就是在他的当次循环没有结束之前进行对应的工作,其实就是在 done 之前添加工作的代码就 ok 了。如下:

#!/bin/bash
A=1
Path=/usr/local/tomcat/logs
Date=`date +%Y-%m-%d`
MONTH=$(date -d yesterday '+%Y%m')
while true
do
    DAte=`date -d "$A day ago" +"%Y-%m-%d"`
for i in admin admin-error admin_warn admin-maidian admin-risk
do
    cd $Path
    filename=${i}${DAte}
    zip ${filename}.zip ${filename}*
    ssh -p 22 user@ip "[ ! -d /nfs_mount/alladminlog/$i/$MONTH ] && mkdir -p /nfs_mount/alladminlog/$i/$MONTH"
    scp -P 22 ${filename}.zip user@ip:/nfs_mount/alladminlog/$i/$MONTH && rm -f ${filename}.zip
done
    let A++
  if [ $A == 90 ]
  then
    break
  fi
done
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22

到这里,要简单做一些小注解了:

  • 1,本机要对远程服务器免密码登陆,如果是普通用户,公钥放置在普通用户家目录下。

  • 2,切勿照搬此脚本,因为我只是把大框架给罗列出来了,请根据实际情况对脚本进行调整。

  • 3,$i 是在日志目录下的每个日志类型的前缀,这个时候有可能与日期的衔接处稍微不同,也请注意调整,如 admin.2018-01-27.log,以及 admin_2018-01-27.log。

  • 4,定义 filename 是为了备份后的文件容易辨识,这是非常重要的一件事儿,包括在目录后边加上月份的分类,这些都是对日志归类存放的策略之一,包括等会儿脚本还会再添加一些参数,让存放的日志清晰易寻。

    • 命名大概这样:

    • /nfs_mount/alladminlog/admin-1/tomcat_admin1/admin-error/201801/…
      备份目录/总目录/主机名/项目名/日志前缀/月份/日志文件。
      
      1
      2
  • 5, 在最后加了一个小判断,是为了避免脚本跑到了世界之初,数字根据服务器存留日志的历史最早日期来进行控制,不用精确计算,基本上按月来进行一个估算就行。

  • 如此,基本上对于一个历史日志异地备份的脚本就此落成。而再根据不同服务器下会有不同项目,不同项目下会有不同日志文件,仔细观察其中规律,然后最后将脚本彻底改造成适合实际生产使用的样子:

  • #!/bin/bash
    dosome(){
    A=1
    Project="admin-A"
    Date=`date +%Y-%m-%d`
    MONTH=$(date -d yesterday '+%Y%m')
    while true
    do
        DAte=`date -d "$A day ago" +"%Y-%m-%d"`
    for i in $B
    do
        cd $Path
        filename=${i}${DAte}
        zip ${filename}.zip ${filename}*
        ssh -p 22 user@ip "[ ! -d /nfs_mount/alladminlog/$i/$MONTH ] && mkdir -p /nfs_mount/alladminlog/$i/$MONTH"
        scp -P 22 ${filename}.zip user@ip:/nfs_mount/alladminlog/$i/$MONTH && rm -f ${filename}.zip
    done
        let A++
      if [ $A == 150 ]
      then
        break
      fi
    done
    }
    for f in tomcat_admin tomcat_admin1 tomcat_admin2
    do
    if [ $f == tomcat_admin ]
    then
        Path="/usr/local/tomcat_admin/logs"
        B="admin admin-error admin_warn admin-maidian admin-risk"
        dosome
    elif [ $f == tomcat_admin1 ]
    then
        Path="/usr/local/tomcat_admin1/logs"
        B="admin1 admin1-error admin1_warn admin1-maidian admin1-risk"
        dosome
    else
        Path="/usr/local/tomcat_admin2/logs"
        B="admin2 admin-error2 admin_warn2 admin-maidian2 admin-risk2"
        dosome
    fi
    done
    
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    30
    31
    32
    33
    34
    35
    36
    37
    38
    39
    40
    41
    42
  • 这里也不用多说了,基本上就是根据实际情况进行参数变量的设置调用,基本上难度不大了。只用将脚本安放在一个规范的地方 / usr/local/scripts 下,然后加入到定时任务当中,因为历史日志太多估计要跑二三十分钟了,服务器又是线上的,所以将这第一次任务放在凌晨执行最合适了。

  • 第二天一大早,我就赶忙打开服务器查看脚本执行的情况,这是一个重要的点,尤其是对线上服务器,前天制定的定时任务,第二天一定要检查任务执行情况。 看到以往的日志全部都乖乖的压缩然后被转移到了备份服务器之上,心情瞬间舒畅了。最后再对脚本进行一些调整,那么以后就不用管啦。

  • #!/bin/bash
    dosome(){
    A=1
    Project="admin-A"
    Date=`date -d yesterday +%Y-%m-%d`
    MONTH=$(date -d yesterday '+%Y%m')
    for i in $B
    do
        cd $Path
        filename=${i}${DAte}
        zip ${filename}.zip ${filename}*
        ssh -p 22 user@ip "[ ! -d /nfs_mount/alladminlog/$i/$MONTH ] && mkdir -p /nfs_mount/alladminlog/$i/$MONTH"
        scp -P 22 ${filename}.zip user@ip:/nfs_mount/alladminlog/$i/$MONTH && rm -f ${filename}.zip
    find $Path -mtime +5 -name "*log*" -exec rm -rf {} \;
    done
    }
    for f in tomcat_admin tomcat_admin1 tomcat_admin2
    do
    if [ $f == tomcat_admin ]
    then
        Path="/usr/local/tomcat_admin/logs"
        B="admin admin-error admin_warn admin-maidian admin-risk"
        dosome
    elif [ $f == tomcat_admin1 ]
    then
        Path="/usr/local/tomcat_admin1/logs"
        B="admin1 admin1-error admin1_warn admin1-maidian admin1-risk"
        dosome
    else
        Path="/usr/local/tomcat_admin2/logs"
        B="admin2 admin-error2 admin_warn2 admin-maidian2 admin-risk2"
        dosome
    fi
    done
    
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    30
    31
    32
    33
    34
  • 与之前脚本比较改动的地方有:

    • 1,删除掉对历史日志备份的循环。
    • 2,Date=date -d yesterday +%Y-%m-%d 备份日志的日期由今天改成昨天,因为脚本执行的时间是凌晨,所以备份昨天的日志,是对的。
    • 3,加入一句删除日志的命令。只在本地保留 5 天。
  • 记录于 18 年 1 月 29 日

微信 支付宝
#shell
上次更新: 2024/06/13, 22:13:45
那些使用字符画出来的画
关于sed命令当中包含变量的坑

← 那些使用字符画出来的画 关于sed命令当中包含变量的坑→

最近更新
01
从赵心童世锦赛夺冠聊聊我的斯诺克情缘
05-16
02
学习周刊-总第211期-2025年第20周
05-15
03
记录二五年五一之短暂回归家庭
05-09
更多文章>
Theme by Vdoing | Copyright © 2017-2025 | 点击查看十年之约 | 浙ICP备18057030号
  • 跟随系统
  • 浅色模式
  • 深色模式
  • 阅读模式