paramiko使用tail实时获取服务器的日志输出详解


Posted in Python onDecember 06, 2020

基本思路

现在有这么一个需求需要实现自动化:需要实时获取服务器cpu,gpu温度以及传感器信息上报情况,对高低温环境下对于设备运行状态的影响进行测试。基本思路为利用paramiko ssh到服务器上,起一个线程用tail -f命令实时获取日志输出,起另外一个线程用‘cat /sys/class/thermal/thermal_zone0/temp'命令定时获取cpu,gpu温度。

代码

def get_report_info_perid(self, cmd, diff_time, thre_time):
  # 发送要执行的命令
  pre_time_stamp = [0] * 4
  self._channel.send(cmd + '\r')
  # 回显很长的命令可能执行较久,通过循环分批次取回回显
  time_stamp_arr = []
  index = [0] * 4
  current_line = b''
  line_counter = 0
  line_feed_byte = '\n'.encode(self.encoding)
  while True:
   buffer = self._channel.recv(1)
   if len(buffer) == 0:
    logger.info('end______________')
    break
   current_line += buffer
   if buffer == line_feed_byte:
    line = current_line.decode(self.encoding)
    logger.debug('shell显示:%s'%line)
    if not line.startswith(self.rq):
     line_counter += 1
     current_line = b''
     continue
    col = self.check_type(line)
    time_stamp = int(time.mktime(time.strptime(' '.join([line[:8], line[9:17]]), "%Y%m%d %H:%M:%S")))
    time_stamp_dec = line[18: 21] # 精确到毫秒
    time_stamp = time_stamp * 1000 + int(time_stamp_dec)
    logger.info('%s:%s' % (senior_name[col], time_stamp))
    self.write_xl(index[col] + 1, col, time_stamp)
    index[col] += 1
    if pre_time_stamp[col] == 0:
     pre_time_stamp[col] = time_stamp
    else:
     if abs((time_stamp - pre_time_stamp[col]) - diff_time[col]) > thre_time[col]:
      logger.error(
       '两帧数据间隔为{}ms,时间戳分别为:({},{}),行号:{}'.format(time_stamp - pre_time_stamp[col], time_stamp, pre_time_stamp[col],
                  index[col]))
    pre_time_stamp[col] = time_stamp
    line_counter += 1
    current_line = b''


 def get_temp_info(self, col, max_number):
  index = 0
  cpu_arr, gpu_arr = [], []
  while True:
   cpu_temp, gpu_temp = self.get_cpu_gpu_temp()
   logger.info('cpu_temp:%s, gpu_temp:%s' % (cpu_temp, gpu_temp))
   cpu_arr.append(cpu_temp)
   gpu_arr.append(gpu_temp)
   self.write_xl(index + 1, col, cpu_temp)
   self.write_xl(index + 1, col + 1, cpu_temp)
   time.sleep(60)
   index += 1
   if max_number == index:
    break
  return cpu_arr, gpu_arr

遇到问题

1.问题1

一开始的cmd命令为 tail -f log.txt | grep -aE “a|b”

结果出现一个问题,在代码运行几分钟之后,就获取不到数据了

一开始以为是paramiko的问题,会在一定时间之后自动关闭client,但是经过调试之后发现是阻塞在_channel.recv,一直收不到服务端的数据导致。

经过百度之后发现由于linux的缓冲机制影响导致tail -f 结合管道|的时候会输出延迟

缓冲是一种有效提高IO效率的方法,把频繁的读写请求积累到一定程度后再一次性的与IO设备交互操作。

IO缓冲有3种,无缓冲,行缓冲,和全缓冲。

  • 无缓冲,就是不使用缓冲机制。面向字节的设备?(stderr)
  • 行缓冲,缓冲,直到遇到换行符。一般用于终端设备。
  • 全缓冲,缓冲,直到buffer满。一般用于块设备。

在终端窗口中执行tail命令,是面向终端设备的,会使用行缓冲,所以日志中每写入一行,立刻就会输出。

当使用管道时,会变为使用全缓冲,这样一来,就要等到日志中写入的字节数填满buffer后才会输出。

解决方法:

把tail的标准输出重定向到标准错误上,并把标准错误也给管道。

因为stderr是无缓冲的。

例如 tail -f >&2 | grep

或者直接去掉管道

2.问题2

按照问题一的结论,我去掉了命令中的管道,直接使用 tail -f log.txt命令,将过滤放到check_type函数中进行,发现运行几分钟之后获取不到数据的情况并没有解决。于是继续定位。最后经过一番挫折之后发现是使用的tail -f命令有问题

tail -f

等同于?follow=descriptor,根据文件描述符进行追踪,当文件改名或被删除,追踪停止

tail -F

等同于?follow=name --retry,根据文件名进行追踪,并保持重试,即该文件被删除或改名后,如果再次创建相同的文件名,会继续追踪

log.txt文件在程序运行过程中被修改了文件描述符从而导致tail -f不继续跟踪。修改为tail -F后问题解决

到此这篇关于paramiko使用tail实时获取服务器的日志输出的文章就介绍到这了,更多相关paramiko用tail实时获取服务器日志输出内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
python构造icmp echo请求和实现网络探测器功能代码分享
Jan 10 Python
Python最基本的输入输出详解
Apr 25 Python
收藏整理的一些Python常用方法和技巧
May 18 Python
python使用MySQLdb访问mysql数据库的方法
Aug 03 Python
简单谈谈Python中的几种常见的数据类型
Feb 10 Python
Python函数式编程
Jul 20 Python
Python对象中__del__方法起作用的条件详解
Nov 01 Python
详解python中sort排序使用
Mar 23 Python
Django rstful登陆认证并检查session是否过期代码实例
Aug 13 Python
Python %r和%s区别代码实例解析
Apr 03 Python
Python获取浏览器窗口句柄过程解析
Jul 25 Python
python读取excel数据绘制简单曲线图的完整步骤记录
Oct 30 Python
python中二分查找法的实现方法
Dec 06 #Python
python中判断数字是否为质数的实例讲解
Dec 06 #Python
Django搭建项目实战与避坑细节详解
Dec 06 #Python
python温度转换华氏温度实现代码
Dec 06 #Python
python openssl模块安装及用法
Dec 06 #Python
python help函数实例用法
Dec 06 #Python
python中复数的共轭复数知识点总结
Dec 06 #Python
You might like
PHP面向对象的使用教程 简单数据库连接
2006/11/25 PHP
PHP入门之常量简介和系统常量
2014/05/12 PHP
PHP实现的方程求解示例分析
2016/11/11 PHP
疯狂Jquery第一天(Jquery学习笔记)
2012/05/11 Javascript
利用jQuery实现可输入搜索文字的下拉框
2013/10/23 Javascript
网页广告中JS代码的信息监听示例
2014/04/02 Javascript
javascript学习笔记之10个原生技巧
2014/05/21 Javascript
对比分析AngularJS中的$http.post与jQuery.post的区别
2015/02/27 Javascript
12种JavaScript常用的MVC框架比较分析
2015/11/16 Javascript
Position属性之relative用法
2015/12/14 Javascript
AngularJS基础 ng-include 指令示例讲解
2016/08/01 Javascript
AngularGauge 属性解析详解
2016/09/06 Javascript
JavaScript使用readAsDataUrl方法预览图片
2017/05/10 Javascript
nodejs接入阿里大鱼短信验证码的方法
2017/07/10 NodeJs
详解angular2 控制视图的封装模式
2018/12/27 Javascript
Vue开发中常见的套路和技巧总结
2020/11/24 Vue.js
Python实现邮件的批量发送的示例代码
2018/01/23 Python
对Pytorch神经网络初始化kaiming分布详解
2019/08/18 Python
numpy中三维数组中加入元素后的位置详解
2019/11/28 Python
python飞机大战 pygame游戏创建快速入门详解
2019/12/17 Python
Python基于requests库爬取网站信息
2020/03/02 Python
Python实现手绘图效果实例分享
2020/07/22 Python
Python3中小括号()、中括号[]、花括号{}的区别详解
2020/11/15 Python
魔声耳机官方网站:Monster是世界第一品牌的高性能耳机
2016/10/26 全球购物
美国领先的眼镜和太阳镜在线零售商:Glasses.com
2019/08/26 全球购物
什么是数据库锁?Oracle中都有哪些类型的锁?
2015/08/21 面试题
资产经营总监岗位职责
2013/12/04 职场文书
函授毕业自我鉴定
2014/02/04 职场文书
师范学院毕业生求职信
2014/06/24 职场文书
党风廉政建设调研报告
2015/01/01 职场文书
2015年音乐教师个人工作总结
2015/05/20 职场文书
微信搭讪开场白
2015/05/28 职场文书
四群教育工作总结
2015/08/10 职场文书
python b站视频下载的五种版本
2021/05/27 Python
深入理解margin塌陷和margin合并的解决方案
2021/06/26 HTML / CSS
Redis基本数据类型哈希Hash常用操作命令
2022/06/01 Redis