当前位置:   article > 正文

开源模型应用落地-qwen-7b-chat与vllm实现推理加速的正确姿势(五)_vllm指定日志级别

vllm指定日志级别

一、前言

        在这里,我相信您已经准备就绪,但请不要忽视一个隐藏的盲点:日志备份。目前我们有应用程序日志、Gunicorn日志、Supervisord日志、标准输出日志和异常输出日志。
        假设您设置了较低的日志级别(如info或debug),并且磁盘空间有限,那么您需要小心这个定时炸弹,以免随时将磁盘撑满。


二、术语

    2.1. Crontab

        是一种用于在Unix和类Unix操作系统上定期执行任务的工具。通过crontab,用户可以设置一系列命令或脚本在指定的时间和频率下自动执行。这些任务可以是系统维护、定期备份、数据处理、日志清理等等。


三、前置条件

       把所有的日志都集中在/data/logs目录下,后续由定时任务统一维护

       应用程序的日志

  1. # 创建一个日志记录器
  2. formatter = logging.Formatter('%(asctime)s [%(levelname)s]: %(message)s')# 指定日志输出格式
  3. logger = logging.getLogger(__name__)
  4. # 创建一个文件处理器,将日志写入到文件中
  5. file_handler = logging.FileHandler('/data/logs/app.log')
  6. file_handler.setFormatter(formatter)
  7. logger.addHandler(file_handler)

         gunicorn的日志

command=/bin/bash -c "so
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/很楠不爱3/article/detail/175559?site
推荐阅读
相关标签
  

闽ICP备14008679号