python通过TimedRotatingFileHandler按时间切割日志


Posted in Python onJuly 17, 2019

通过TimedRotatingFileHandler按时间切割日志

线上跑了一个定时脚本,每天生成的日志文件都写在了一个文件中。但是日志信息不可能输出到单一的一个文件中。

原因有二:1.日志文件越来越大会影响系统的性能。2.日志文件格式不够清晰,比如我想看今天的日志,不太方便找到的今天的日志信息(即使对日志输出做了时间提示)

通过设置 TimedRotatingFileHandler 进行日志按周(W)、天(D)、时(H)、分(M)、秒(S)切割。

先看一个简单例子:

import time
import logging
import os
from logging import handlers
def _logging(**kwargs):
  level = kwargs.pop('level', None)
  filename = kwargs.pop('filename', None)
  datefmt = kwargs.pop('datefmt', None)
  format = kwargs.pop('format', None)
  if level is None:
    level = logging.DEBUG
  if filename is None:
    filename = 'default.log'
  if datefmt is None:
    datefmt = '%Y-%m-%d %H:%M:%S'
  if format is None:
    format = '%(asctime)s [%(module)s] %(levelname)s [%(lineno)d] %(message)s'
  log = logging.getLogger(filename)
  format_str = logging.Formatter(format, datefmt)
  # backupCount 保存日志的数量,过期自动删除
  # when 按什么日期格式切分(这里方便测试使用的秒)
  th = handlers.TimedRotatingFileHandler(filename=filename, when='S', backupCount=3, encoding='utf-8')
  th.setFormatter(format_str)
  th.setLevel(logging.INFO)
  log.addHandler(th)
  log.setLevel(level)
  return log
os.makedirs("./logs", exist_ok=True)
logger = _logging(filename='./logs/default.log')
if __name__ == '__main__':
  while True:
    time.sleep(0.1)
    logger.info('哈哈哈')

结果如下:

python通过TimedRotatingFileHandler按时间切割日志

上述代码可以正常运行,而且也可以生成固定的日志个数,但是有一个问题,生成的日志文件格式是你的 文件名+时间 的格式,没有设置时间的话默认设置到了秒(这里是按秒切割)

修改日志格式后缀名称:

# 在上述代码中加入
def namer(filename):
  return filename.split('default.')
th.namer = namer
# 设置为S,默认的suffix为 Y-%m-%d_%H-%M-%S
th.suffix = "%Y-%m-%d_%H-%M-%S.log"
# 为了看的更视觉效果,可以显示在控制台答应
cmd = logging.StreamHandler()
cmd.setFormatter(format_str)
cmd.setLevel(level)
log.addHandler(cmd)

运行结果:

python通过TimedRotatingFileHandler按时间切割日志

名字好像可以了,但是日志好像没有起到自动删除的目的啊,而且也没在之前的log文件夹了。

来看看源码:

def getFilesToDelete(self):
    """
    Determine the files to delete when rolling over.

    More specific than the earlier method, which just used glob.glob().
    """
    dirName, baseName = os.path.split(self.baseFilename)
    fileNames = os.listdir(dirName)
    result = []
    prefix = baseName + "."
    plen = len(prefix)
    for fileName in fileNames:
      if fileName[:plen] == prefix:
        suffix = fileName[plen:]
        if self.extMatch.match(suffix):
          result.append(os.path.join(dirName, fileName))
    if len(result) < self.backupCount:
      result = []
    else:
      result.sort()
      result = result[:len(result) - self.backupCount]
    return result

这是它的删除逻辑,关键是通过 . 前面的字段判断是否重复,当有特定的重复数后开始删除。

所以问题来了,要么自己去重写源码,要么就只能用 default.日期.log 这种格式了。

附上平时使用的日志代码

import logging
import os
from logging import handlers
def _logging(**kwargs):
  level = kwargs.pop('level', None)
  filename = kwargs.pop('filename', None)
  datefmt = kwargs.pop('datefmt', None)
  format = kwargs.pop('format', None)
  if level is None:
    level = logging.DEBUG
  if filename is None:
    filename = 'default.log'
  if datefmt is None:
    datefmt = '%Y-%m-%d %H:%M:%S'
  if format is None:
    format = '%(asctime)s [%(module)s] %(levelname)s [%(lineno)d] %(message)s'
  log = logging.getLogger(filename)
  format_str = logging.Formatter(format, datefmt)
  def namer(filename):
    return filename.split('default.')[1]
  # cmd = logging.StreamHandler()
  # cmd.setFormatter(format_str)
  # cmd.setLevel(level)
  # log.addHandler(cmd)
  os.makedirs("./debug/logs", exist_ok=True)
  th_debug = handlers.TimedRotatingFileHandler(filename="./debug/" + filename, when='D', backupCount=3,
                         encoding='utf-8')
  # th_debug.namer = namer
  th_debug.suffix = "%Y-%m-%d.log"
  th_debug.setFormatter(format_str)
  th_debug.setLevel(logging.DEBUG)
  log.addHandler(th_debug)
  th = handlers.TimedRotatingFileHandler(filename=filename, when='D', backupCount=3, encoding='utf-8')
  # th.namer = namer
  th.suffix = "%Y-%m-%d.log"
  th.setFormatter(format_str)
  th.setLevel(logging.INFO)
  log.addHandler(th)
  log.setLevel(level)
  return log
os.makedirs('./logs', exist_ok=True)
logger = _logging(filename='./logs/default')

总结

以上所述是小编给大家介绍的python通过TimedRotatingFileHandler按时间切割日志,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!
如果你觉得本文对你有帮助,欢迎转载,烦请注明出处,谢谢!

Python 相关文章推荐
Python3基础之基本运算符概述
Aug 13 Python
给Python的Django框架下搭建的BLOG添加RSS功能的教程
Apr 08 Python
python实现的jpg格式图片修复代码
Apr 21 Python
Python实现SMTP发送邮件详细教程
Mar 02 Python
python批量导入数据进Elasticsearch的实例
May 30 Python
WIn10+Anaconda环境下安装PyTorch(避坑指南)
Jan 30 Python
Django 外键的使用方法详解
Jul 19 Python
Django项目后台不挂断运行的方法
Aug 31 Python
python @propert装饰器使用方法原理解析
Dec 25 Python
Python web框架(django,flask)实现mysql数据库读写分离的示例
Nov 18 Python
使用BeautifulSoup4解析XML的方法小结
Dec 07 Python
分享python函数常见关键字
Apr 26 Python
python递归法实现简易连连看小游戏
Mar 25 #Python
django2笔记之路由path语法的实现
Jul 17 #Python
Django之创建引擎索引报错及解决详解
Jul 17 #Python
python实现连连看辅助之图像识别延伸
Jul 17 #Python
Django 路由控制的实现
Jul 17 #Python
详解python实现数据归一化处理的方式:(0,1)标准化
Jul 17 #Python
简单了解django索引的相关知识
Jul 17 #Python
You might like
PHP产生随机字符串函数
2006/12/06 PHP
php基础知识:类与对象(4) 范围解析操作符(::)
2006/12/13 PHP
php PDO中文乱码解决办法
2009/07/20 PHP
php笔记之:有规律大文件的读取与写入的分析
2013/04/26 PHP
php从数据库中获取数据用ajax传送到前台的方法
2018/08/20 PHP
JavaScript 组件之旅(三):用 Ant 构建组件
2009/10/28 Javascript
非常有用的40款jQuery 插件推荐(系列二)
2011/12/25 Javascript
node.js中的querystring.unescape方法使用说明
2014/12/10 Javascript
JavaScript中的值是按值传递还是按引用传递问题探讨
2015/01/30 Javascript
jquery实现图片放大镜功能
2015/11/23 Javascript
学习AngularJs:Directive指令用法(完整版)
2016/04/26 Javascript
js实现动态创建的元素绑定事件
2016/07/19 Javascript
form表单转Json提交的方法(推荐)
2016/09/23 Javascript
Bootstrap Table的使用总结
2016/10/08 Javascript
js eval函数使用,js对象和字符串互转实例
2017/03/06 Javascript
vue.js 实现输入框动态添加功能
2018/06/25 Javascript
react-native使用leanclound消息推送的方法
2018/08/06 Javascript
基于vue实现移动端圆形旋钮插件效果
2018/11/28 Javascript
Vue源码解析之数据响应系统的使用
2019/04/24 Javascript
python基础教程之字典操作详解
2014/03/25 Python
python定时器(Timer)用法简单实例
2015/06/04 Python
Python网络编程之TCP与UDP协议套接字用法示例
2018/02/02 Python
Python遍历numpy数组的实例
2018/04/04 Python
python 常见的排序算法实现汇总
2020/08/21 Python
HTML5响应式(自适应)网页设计的实现
2017/11/17 HTML / CSS
html5使用window.postMessage进行跨域实现数据交互的一次实战
2021/02/24 HTML / CSS
欧缇丽英国官方网站:Caudalie英国
2016/08/17 全球购物
兰芝美国网上商城:购买LANEIGE睡眠面膜等
2017/06/30 全球购物
阿姆斯特丹城市卡:Amsterdam Pass
2019/12/01 全球购物
行政主管职责范本
2014/03/07 职场文书
《雨点儿》教学反思
2014/04/14 职场文书
2014年销售助理工作总结
2014/12/01 职场文书
实习单位鉴定意见
2015/06/04 职场文书
评测 | 大屏显示带收音机的高端音箱,JBL TUNE2便携式插卡音箱实测
2021/04/24 无线电
SQL Server 忘记密码以及重新添加新账号
2022/04/26 SQL Server
常用的文件对应的MIME类型汇总
2022/04/26 HTML / CSS