当前位置:   article > 正文

【python】logging 模块学习记录01_基础学习_python中logging.getlevelname

python中logging.getlevelname

目录

1.logging是干什么用的

2.如何使用

logging日志框架

1)loggers

2)Handlers

3)Filters

4) Formatters​

几个重要函数:

logging.basicConfig函数各参数:

logging.getLogger([name])

logging.getLevelName(lvl)

logging.shutdown()

Logger.setLevel(lvl):

Logger.debug(msg [ ,*args [, **kwargs]])

Logger.info(msg[ , *args[ , **kwargs] ] )

Logger.warnning(msg[ , *args[ , **kwargs] ] )

Logger.error(msg[ , *args[ , **kwargs] ] )

Logger.critical(msg[ , *args[ , **kwargs] ] )

Logger.addHandler(hdlr)

Logger.removeHandler(hdlr)

Logger.log(lvl, msg[ , *args[ , **kwargs] ] )

Logger.exception(msg[, *args])

Logger.makeRecord(name, lvl, fn, lno, msg, args, exc_info[, func, extra])

Logger.addFilter(filt)

Logger.removeFilter(filt)

3.如何将日志写入到文件

4.日志回滚

4.1按照时间回滚

4.2按照大小回滚

5.如何捕获traceback(异常)

6.多模块使用logging

1)主模块和子模块(通过继承关系实现)

2)通过logging.config模块配置日志

3)通过JSON加载日志配置

4)通过YAML文件配置


学习链接:

logging模块:

        https://www.cnblogs.com/deeper/p/7404190.html   (较全,详细)

        https://www.cnblogs.com/liujiacai/p/7804848.html

日志回滚:https://www.cnblogs.com/andy9468/p/8378492.html


1.logging是干什么用的

logging模块是Python内置的标准模块,主要用于输出运行日志,可以设置输出日志的等级、日志保存路径、日志文件回滚等;相比print,具备如下优点:

  1. 可以通过设置不同的日志等级,在release版本中只输出重要信息,而不必显示大量的调试信息;
  2. print将所有信息都输出到标准输出中,严重影响开发者从标准输出中查看其它数据;logging则可以由开发者决定将信息输出到什么地方,以及怎么输出。

 

2.如何使用

logging日志框架

https://www.cnblogs.com/deeper/p/7404190.html

主要包括四部分:

  • Loggers: 可供程序直接调用的接口,app通过调用提供的api来记录日志
  • Handlers: 决定将日志记录分配至正确的目的地
  • Filters:对日志信息进行过滤, 提供更细粒度的日志是否输出的判断
  • Formatters: 制定最终记录打印的格式布局

1)loggers

loggers 就是程序可以直接调用的一个日志接口,可以直接向logger写入日志信息。logger并不是直接实例化使用的,而是通过logging.getLogger(name)来获取对象,事实上logger对象是单例模式,logging是多线程安全的,也就是无论程序中哪里需要打日志获取到的logger对象都是同一个。但是不幸的是logger并不支持多进程。

【注意】loggers对象是有父子关系的,当没有父logger对象时它的父对象是root,当拥有父对象时父子关系会被修正。举个例子,logging.getLogger("abc.xyz") 会创建两个logger对象,一个是abc父对象,一个是xyz子对象,同时abc没有父对象,所以它的父对象是root。但是实际上abc是一个占位对象(虚的日志对象),可以没有handler来处理日志。但是root不是占位对象,如果某一个日志对象打日志时,它的父对象会同时收到日志,所以有些使用者发现创建了一个logger对象时会打两遍日志,就是因为他创建的logger打了一遍日志,同时root对象也打了一遍日志。

2)Handlers

Handlers 将logger发过来的信息进行准确地分配,送往正确的地方。举个栗子,送往控制台或者文件或者both或者其他地方(进程管道之类的)。它决定了每个日志的行为,是之后需要配置的重点区域。

每个Handler同样有一个日志级别,一个logger可以拥有多个handler也就是说logger可以根据不同的日志级别将日志传递给不同的handler。当然也可以相同的级别传递给多个handlers这就根据需求来灵活的设置了。

3)Filters

Filters 提供了更细粒度的判断,来决定日志是否需要打印。原则上handler获得一个日志就必定会根据级别被统一处理,但是如果handler拥有一个Filter可以对日志进行额外的处理和判断。例如Filter能够对来自特定源的日志进行拦截or修改甚至修改其日志级别(修改后再进行级别判断)。

logger和handler都可以安装filter甚至可以安装多个filter串联起来。

4) Formatters

Formatters 指定了最终某条记录打印的格式布局。Formatter会将传递来的信息拼接成一条具体的字符串,默认情况下Format只会将信息%(message)s直接打印出来。Format中有一些自带的LogRecord属性可以使用,如下表格:

一个Handler只能拥有一个Formatter 因此如果要实现多种格式的输出只能用多个Handler来实现。

一个简单的例子:

  1. import logging
  2. # logging.basicConfig(level = logging.INFO,format = '%(asctime)s - %(name)s - %(levelname)s - %(message)s')
  3. # logging中可以选择很多消息级别,如debug、info、warning、error以及critical。
  4. # 通过赋予logger或者handler不同的级别,开发者就可以只输出错误信息到特定的记录文件,或者在调试时只记录调试信息。
  5. logging.basicConfig(level = logging.DEBUG,format = '%(asctime)s - %(name)s - %(levelname)s - %(message)s')
  6. logger = logging.getLogger(__name__)
  7. logger.info("Start print log")
  8. logger.debug("Do something")
  9. logger.warning("Something maybe fail.")
  10. logger.info("Finish")

终端输出:

几个重要函数:

logging.basicConfig函数各参数:

filename:指定日志文件名,日志文件的保存路径。如果配置了些参数,将自动创建一个FileHandler作为Handler;

filemode:和file函数意义相同,指定日志文件的打开模式,'w'或者'a',默认值为’a’,表示日志消息以追加的形式添加到日志文件中。如果设为’w’, 那么每次程序启动的时候都会创建一个新的日志文件;

format:指定输出的格式和内容,format可以输出很多有用的信息,

  1. 参数:作用
  2. %(levelno)s:打印日志级别的数值
  3. %(levelname)s:打印日志级别的名称
  4. %(pathname)s:打印当前执行程序的路径,其实就是sys.argv[0]
  5. %(filename)s:打印当前执行程序名
  6. %(funcName)s:打印日志的当前函数
  7. %(lineno)d:打印日志的当前行号
  8. %(asctime)s:打印日志的时间
  9. %(thread)d:打印线程ID
  10. %(threadName)s:打印线程名称
  11. %(process)d:打印进程ID
  12. %(message)s:打印日志信息

datefmt:指定时间格式,同time.strftime();

level:设置日志级别,默认为logging.WARNNING。

可以给日志对象(Logger Instance)设置日志级别,低于该级别的日志消息将会被忽略,也可以给Hanlder设置日志级别,对于低于该级别的日志消息, Handler也会忽略。

可以设置不同的日志等级,用于控制日志的输出,

  1. 日志等级:使用范围
  2. FATAL:致命错误
  3. CRITICAL:特别糟糕的事情,如内存耗尽、磁盘空间为空,一般很少使用
  4. ERROR:发生错误时,如IO操作失败或者连接问题
  5. WARNING:发生很重要的事件,但是并不是错误时,如用户登录密码错误
  6. INFO:处理请求或者状态变化等日常事务
  7. DEBUG:调试过程中使用DEBUG等级,如算法中每个循环的中间状态

stream:指定日志的输出流,可以指定输出到sys.stderr,sys.stdout或者文件,默认输出到sys.stderr,当stream和filename同时指定时,stream被忽略。

logging.getLogger([name])

创建Logger对象。日志记录的工作主要由Logger对象来完成。在调用getLogger时要提供Logger的名称(注:多次使用相同名称来调用getLogger,返回的是同一个对象的引用。),Logger实例之间有层次关系,这些关系通过Logger名称来体现,如:

p = logging.getLogger(“root”)

c1 = logging.getLogger(“root.c1”)

c2 = logging.getLogger(“root.c2”)

例子中,p是父logger, c1,c2分别是p的子logger。c1, c2将继承p的设置。如果省略了name参数, getLogger将返回日志对象层次关系中的根Logger。

logging.getLevelName(lvl)

获取日志级别对应的名称。

  1. #下面的结果都为DEBUG
  2. print logging.getLevelName(10)
  3. print logging.getLevelName(logging.DEBUG)
  4. #下面的结果都为ERROR
  5. print logging.getLevelName(40)
  6. print logging.getLevelName(logging.ERROR)

logging.shutdown()

当不再使用日志系统的时候,调用该方法,它会将日志flush到对应的目标域上。一般在系统退出的时候调用。

Logger.setLevel(lvl):

设置日志的级别。对于低于该级别的日志消息将被忽略。

Logger.debug(msg [ ,*args [, **kwargs]])

记录DEBUG级别的日志信息。参数msg是信息的格式,args与kwargs分别是格式参数。

Logger.info(msg[ , *args[ , **kwargs] ] )

Logger.warnning(msg[ , *args[ , **kwargs] ] )

Logger.error(msg[ , *args[ , **kwargs] ] )

Logger.critical(msg[ , *args[ , **kwargs] ] )

记录相应级别的日志信息。参数的含义与Logger.debug一样。

Logger.addHandler(hdlr)

Logger.removeHandler(hdlr)

添加/移除日志消息处理器。在讲述Handler时具体介绍。

Logger.log(lvl, msg[ , *args[ , **kwargs] ] )

记录日志,参数lvl用户设置日志信息的级别。参数msg, *args, **kwargs的含义与Logger.debug一样。

Logger.exception(msg[, *args])

以ERROR级别记录日志消息,异常跟踪信息将被自动添加到日志消息里。

Logger.makeRecord(name, lvl, fn, lno, msg, args, exc_info[, func, extra])

创建LogRecord对象。日志消息被实例为一个LogRecord对象,并在日志类内处理。

Logger.addFilter(filt)

Logger.removeFilter(filt)

添加/移除日志消息过滤器。

3.如何将日志写入到文件

  1. import logging
  2. logger = logging.getLogger(__name__)
  3. logger.setLevel(level = logging.INFO) # 控制等级
  4. handler = logging.FileHandler("log.txt") # 将日志写入到文件
  5. #对输出消息的格式进行设置,将其添加到logger
  6. handler.setLevel(logging.INFO)
  7. formatter = logging.Formatter('%(asctime)s - %(name)s - %(levelname)s - %(message)s')
  8. handler.setFormatter(formatter)
  9. logger.addHandler(handler)
  10. logger.info("Start print log")
  11. logger.debug("Do something")
  12. logger.warning("Something maybe fail.")
  13. logger.info("Finish")

设置logging,创建一个FileHandler,并对输出消息的格式进行设置,将其添加到logger,然后将日志写入到指定的文件中,之前出现在终端的数据就会直接被写入到文件。(跟之前内容不同,因为level变了)

  1. '''写入文件并显示到终端'''
  2. import logging
  3. logger = logging.getLogger(__name__)
  4. logger.setLevel(level = logging.INFO)
  5. handler = logging.FileHandler("log.txt")
  6. handler.setLevel(logging.INFO)
  7. formatter = logging.Formatter('%(asctime)s - %(name)s - %(levelname)s - %(message)s')
  8. handler.setFormatter(formatter)
  9. console = logging.StreamHandler()
  10. console.setLevel(logging.INFO)
  11. logger.addHandler(handler)
  12. logger.addHandler(console)
  13. logger.info("Start print log")
  14. logger.debug("Do something")
  15. logger.warning("Something maybe fail.")
  16. logger.info("Finish")

可以发现,logging有一个日志处理的主对象其他处理方式都是通过addHandler添加进去,logging中包含的handler主要有如下几种,

  1. handler名称:位置;作用
  2. StreamHandler:logging.StreamHandler;日志输出到流,可以是sys.stderr,sys.stdout或者文件
  3. FileHandler:logging.FileHandler;日志输出到文件
  4. BaseRotatingHandler:logging.handlers.BaseRotatingHandler;基本的日志回滚方式
  5. RotatingHandler:logging.handlers.RotatingHandler;日志回滚方式,支持日志文件最大数量和日志文件回滚
  6. TimeRotatingHandler:logging.handlers.TimeRotatingHandler;日志回滚方式,在一定时间区域内回滚日志文件
  7. SocketHandler:logging.handlers.SocketHandler;远程输出日志到TCP/IP sockets
  8. DatagramHandler:logging.handlers.DatagramHandler;远程输出日志到UDP sockets
  9. SMTPHandler:logging.handlers.SMTPHandler;远程输出日志到邮件地址
  10. SysLogHandler:logging.handlers.SysLogHandler;日志输出到syslog
  11. NTEventLogHandler:logging.handlers.NTEventLogHandler;远程输出日志到Windows NT/2000/XP的事件日志
  12. MemoryHandler:logging.handlers.MemoryHandler;日志输出到内存中的指定buffer
  13. HTTPHandler:logging.handlers.HTTPHandler;通过"GET"或者"POST"远程输出到HTTP服务器

4.日志回滚

日志回滚:(https://www.cnblogs.com/andy9468/p/8378492.html

将日志信息输出到一个单一的文件中,随着应用程序的持续使用,该日志文件会越来越庞大,进而影响系统的性能。因此,有必要对日志文件按某种条件进行切分,要切分日志文件。

分割日志的触发条件:大小、日期,或者大小加上日期。

说是切分,实际上是,当一个日志文件达到触发条件后,对日志文件进行重命名,之后再新建原来名称的日志文件(此时就是空文件了),新产生的日志就写入新的日志文件。

为啥叫回滚呢?当分割的日志文件达到指定数目的上限个数时,最老的日志文件就会被删除。

4.1按照时间回滚

(按时间分割日志,并且限制日志文件的个数,删除早期的日志)

TimeRotatingHandler:logging.handlers.TimeRotatingHandler;日志回滚方式,在一定时间区域内回滚日志文件

  1. '''日志回滚'''
  2. import time
  3. import logging
  4. import logging.handlers
  5. # logging初始化工作
  6. logging.basicConfig()
  7. # myapp的初始化工作
  8. myapp = logging.getLogger('myapp')
  9. myapp.setLevel(logging.INFO)
  10. # 添加TimedRotatingFileHandler
  11. # 定义一个1秒换一次log文件的handler
  12. # 保留3个旧log文件
  13. handler = logging.handlers.TimedRotatingFileHandler("爬虫项目douban/doubanTOP.log", when='S', interval=1, backupCount=3)
  14. # 设置后缀名称,跟strftime的格式一样
  15. handler.suffix = "%Y-%m-%d.log"#按天删
  16. formatter = logging.Formatter('%(asctime)s|%(name)-12s: %(levelname)-8s %(message)s')
  17. handler.setFormatter(formatter)
  18. myapp.addHandler(handler)
  19. while True:
  20. time.sleep(0.1)
  21. myapp.info("test")
  1. timefilehandler.suffix = "%Y-%m-%d_%H-%M-%S.log"#按秒删
  2. timefilehandler.suffix = "%Y-%m-%d.log"#按天删

NOTE:filehanlder.suffix的格式必须这么写,才能自动删除旧文件,写成其他格式会导致删除旧文件不生效。

TimedRotatingFileHandler的构造函数定义如下:
TimedRotatingFileHandler(filename [,when [,interval [,backupCount]]])
filename 是输出日志文件名的前缀,比如log/myapp.log
when 是一个字符串的定义如下:
“S”: Seconds
“M”: Minutes
“H”: Hours
“D”: Days
“W”: Week day (0=Monday)
“midnight”: Roll over at midnight
interval 是指等待多少个单位when的时间后,Logger会自动重建文件,当然,这个文件的创建
取决于filename+suffix,若这个文件跟之前的文件有重名,则会自动覆盖掉以前的文件,所以
有些情况suffix要定义的不能因为when而重复。
backupCount 是保留日志个数。默认的0是不会自动删除掉日志。若设3,则在文件的创建过程中
库会判断是否有超过这个3,若超过,则会从最先创建的开始删除。

4.2按照大小回滚

RotatingFileHandler,基于文件大小切分。

  1. # logging初始化工作
  2. logging.basicConfig()
  3. # myapp的初始化工作
  4. myapp = logging.getLogger('myapp')
  5. myapp.setLevel(logging.INFO)
  6. # 写入文件,如果文件超过100个Bytes,仅保留5个文件。
  7. handler = logging.handlers.RotatingFileHandler(
  8. '爬虫项目douban/doubanTOP.log', maxBytes=500, backupCount=5)
  9. formatter = logging.Formatter('%(asctime)s|%(name)-12s: %(levelname)-8s %(message)s')
  10. handler.setFormatter(formatter)
  11. myapp.addHandler(handler)
  12. while True:
  13. time.sleep(0.1)
  14. myapp.info("test")

5.如何捕获traceback(异常)

基本范式是:(https://blog.csdn.net/Waleking/article/details/7524854?utm_medium=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-1.edu_weight&depth_1-utm_source=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-1.edu_weight

  1. try:
  2. '''
  3. do-something-block
  4. '''
  5. except:
  6. logger.exception("Exception Logged")

例如:

  1. #捕获异常Traceback
  2. try:
  3. open("sklearn.txt","rb")
  4. except (SystemExit,KeyboardInterrupt):
  5. raise
  6. except Exception:
  7. logger.error("Faild to open sklearn.txt from logger.error",exc_info = True)

也可以使用logger.exception(msg,_args),它等价于logger.error(msg,exc_info = True,_args),将

logger.error("Faild to open sklearn.txt from logger.error",exc_info = True)

替换为,

logger.exception("Failed to open sklearn.txt from logger.exception")

6.多模块使用logging

1)主模块和子模块(通过继承关系实现)

  1. import logging
  2. logger = logging.getLogger('mainModule')#主模块
  3. logger.setLevel(level=logging.INFO)
  4. formatter = logging.Formatter(
  5. '%(asctime)s - %(name)s - %(levelname)s - %(message)s')
  6. handler = logging.FileHandler('log.txt')
  7. handler.setLevel(logging.INFO)
  8. handler.setFormatter(formatter)
  9. console = logging.StreamHandler()
  10. console.setLevel(logging.INFO)
  11. console.setFormatter(formatter)
  12. logger.addHandler(handler)
  13. logger.addHandler(console)
  14. # 在其他模块导入该日志接口module_logger即可
  15. module_logger = logging.getLogger('mainModule.sub')#子模块
  16. module_logger.info('this is another module using logging')

说明:

首先定义了logger 'mainModule',并对它进行了配置,就可以在解释器进程里面的其他地方通过getLogger('mainModule')得到的对象都是一样的,不需要重新配置,可以直接使用。定义的该logger的子logger,都可以共享父logger的定义和配置,所谓的父子logger是通过命名来识别任意以'mainModule'开头的logger都是它的子logger,例如'mainModule.sub'。

实际开发一个application,首先可以通过logging配置文件编写好这个application所对应的配置,可以生成一个根logger,如'PythonAPP',然后在主函数中通过fileConfig加载logging配置,接着在application的其他地方、不同的模块中,可以使用根logger的子logger,如'PythonAPP.Core','PythonAPP.Web'来进行log,而不需要反复的定义和配置各个模块的logger。

2)通过logging.config模块配置日志

不太懂,暴力记录一下。

  1. #logger.conf
  2. ###############################################
  3. [loggers]
  4. keys=root,example01,example02
  5. [logger_root]
  6. level=DEBUG
  7. handlers=hand01,hand02
  8. [logger_example01]
  9. handlers=hand01,hand02
  10. qualname=example01
  11. propagate=0
  12. [logger_example02]
  13. handlers=hand01,hand03
  14. qualname=example02
  15. propagate=0
  16. ###############################################
  17. [handlers]
  18. keys=hand01,hand02,hand03
  19. [handler_hand01]
  20. class=StreamHandler
  21. level=INFO
  22. formatter=form02
  23. args=(sys.stderr,)
  24. [handler_hand02]
  25. class=FileHandler
  26. level=DEBUG
  27. formatter=form01
  28. args=('myapp.log', 'a')
  29. [handler_hand03]
  30. class=handlers.RotatingFileHandler
  31. level=INFO
  32. formatter=form02
  33. args=('myapp.log', 'a', 10*1024*1024, 5)
  34. ###############################################
  35. [formatters]
  36. keys=form01,form02
  37. [formatter_form01]
  38. format=%(asctime)s %(filename)s[line:%(lineno)d] %(levelname)s %(message)s
  39. datefmt=%a, %d %b %Y %H:%M:%S
  40. [formatter_form02]
  41. format=%(name)-12s: %(levelname)-8s %(message)s
  42. datefmt=%a, %d %b %Y %H:%M:%S
  1. import logging
  2. import logging.config
  3. logging.config.fileConfig("logger.conf")
  4. logger = logging.getLogger("example01")
  5. logger.debug('This is debug message')
  6. logger.info('This is info message')
  7. logger.warning('This is warning message')
  1. import logging
  2. import logging.config
  3. logging.config.fileConfig("logger.conf")
  4. logger = logging.getLogger("example02")
  5. logger.debug('This is debug message')
  6. logger.info('This is info message')
  7. logger.warning('This is warning message')

3)通过JSON加载日志配置

  1. {
  2. "version":1,
  3. "disable_existing_loggers":false,
  4. "formatters":{
  5. "simple":{
  6. "format":"%(asctime)s - %(name)s - %(levelname)s - %(message)s"
  7. }
  8. },
  9. "handlers":{
  10. "console":{
  11. "class":"logging.StreamHandler",
  12. "level":"DEBUG",
  13. "formatter":"simple",
  14. "stream":"ext://sys.stdout"
  15. },
  16. "info_file_handler":{
  17. "class":"logging.handlers.RotatingFileHandler",
  18. "level":"INFO",
  19. "formatter":"simple",
  20. "filename":"info.log",
  21. "maxBytes":"10485760",
  22. "backupCount":20,
  23. "encoding":"utf8"
  24. },
  25. "error_file_handler":{
  26. "class":"logging.handlers.RotatingFileHandler",
  27. "level":"ERROR",
  28. "formatter":"simple",
  29. "filename":"errors.log",
  30. "maxBytes":10485760,
  31. "backupCount":20,
  32. "encoding":"utf8"
  33. }
  34. },
  35. "loggers":{
  36. "my_module":{
  37. "level":"ERROR",
  38. "handlers":["info_file_handler"],
  39. "propagate":"no"
  40. }
  41. },
  42. "root":{
  43. "level":"INFO",
  44. "handlers":["console","info_file_handler","error_file_handler"]
  45. }
  46. }

通过JSON加载配置文件,然后通过logging.dictConfig配置logging,

  1. import json
  2. import logging.config
  3. import os
  4. def setup_logging(default_path = "logging.json",default_level = logging.INFO,env_key = "LOG_CFG"):
  5. path = default_path
  6. value = os.getenv(env_key,None)
  7. if value:
  8. path = value
  9. if os.path.exists(path):
  10. with open(path,"r") as f:
  11. config = json.load(f)
  12. logging.config.dictConfig(config)
  13. else:
  14. logging.basicConfig(level = default_level)
  15. def func():
  16. logging.info("start func")
  17. logging.info("exec func")
  18. logging.info("end func")
  19. if __name__ == "__main__":
  20. setup_logging(default_path = "logging.json")
  21. func()

4)通过YAML文件配置

通过YAML文件进行配置,比JSON看起来更加简介明了,但我没学过YAML,先存下来。

https://www.cnblogs.com/deeper/p/7404190.html

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/正经夜光杯/article/detail/815960
推荐阅读
相关标签
  

闽ICP备14008679号