Python读取pdf表格写入excel的方法


Posted in Python onJanuary 22, 2021

背景

今天突然想到之前被要求做同性质银行的数据分析。妈耶!十几个银行,每个银行近5年的财务数据,而且财务报表一般都是 pdf 的,我们将 pdf 中表的数据一个个的拷贝到 excel 中,再借助 excel 去进行求和求平均等聚合函数操作,完事了还得把求出来的结果再统一 CV 到另一张表中,进行可视化分析…

当然,那时风流倜傥的 老Amy 还熟练的玩转着 excel ,也是个秀儿~ 今天就思索着,如果当年我会 Python 是不是可以让我成为班级最靓的崽!用技术占领高地,HHH,所以今天我来了,希望可以帮助大家解决同性质的问题。

开始学习叭

避免CV大法

pdf 文件的表格的数据可以复制,但是这是一项非常繁琐的事情。所以我首先考虑的是,Python 可否帮助我们高效且规范地读取 pdf 中的表格数据。所以一顿的检索,发现了一个比较优质处理 pdf 的库:pdfplumber,当然这个库需要大家 pip install pdfplumber 去进行安装。以及详细使用可参考全球最大基友社区:https://github.com/jsvine/pdfplumber

步骤:

  • 导入 pdfplumber 库
  • 通过 pdfplumber.open() 函数 获取 mt2018.pdf 文件对象
  • 通过该 对象.pages 获取 pdf 每页的对象,截取我们需要的页对象即可
  • 通过 页对象.extract_tables() 获取表格数据(若需要获取文本:页对象.extract_text())

代码实现:

import pdfplumber


# 获取 pdf 文件对象
pdf_mt = pdfplumber.open("mt2018.pdf")

# 因为我需要获取的资产负债表在 51-53页 但是索引从0开始 所以切片取 50-52即可
for pdf_pg in pdf_mt.pages[50:53]:
  
  # 只提取当前页表格数据 
  print(pdf_pg.extract_tables())
  
  
--------------------------------------------------------------------------
结果比较多,截取一部分:
[[['项目', '附注', '期末余额', '期初余额'], ['流动资产:', '', '', ''], ['货币资金', '1', '112,074,791,420.06', '87,868,869,913.34'], ['结算备付金', '', '', ''], ['拆出资金', '', '', ''], ['以公允价值计量且其变动计入当\n期损益的金融资产', '', '', ''], ['衍生金融资产', '', '', ''], ['应收票据及应收账款', '2', '563,739,710.00', '1,221,706,039.00']]]

将完整表保存到 csv 文件中

我们发现,返回的数据集是一个三维的列表。那么在我们平时处理的 excel 表格数据(行与列)都是二维的数据。那么,这多出的一维是什么呢?其实就是我们的夜[页]~ 再来一个循环取出二维数据进行保存即可

for pdf_pg in pdf_mt.pages[50:53]:
  for pdf_tb in pdf_pg.extract_tables():
    print(pdf_tb)
    
------------------------------------------------------------------------------
结果比较多,截取一部分:
[['项目', '附注', '期末余额', '期初余额'], ['流动资产:', '', '', ''], ['货币资金', '1', '112,074,791,420.06', '87,868,869,913.34'], ['结算备付金', '', '', ''], ['拆出资金', '', '', ''], ['以公允价值计量且其变动计入当\n期损益的金融资产', '', '', ''], ['衍生金融资产', '', '', ''], ['应收票据及应收账款', '2', '563,739,710.00', '1,221,706,039.00']]

但是,真的那么简单吗?这时,我们就需要细品我们的 pdf 了,如下图

Python读取pdf表格写入excel的方法

我们发现,一张完整的资产负债表分布在多页上。也就是说,每一页的里面的表格数据都是一个三维的列表,所以我们保存数据的时候,需要让其有共同的表头(列索引),并且进行拼接。

那必须就要强推我们的 pandas 了,pandas.DataFrame() 非常完美的创建表格式的二维数组,以及指定列索引(表头)。包括可以直接 使用 df.append() 进行共同表头数据的堆叠拼接。

import pdfplumber
import pandas as pd
import numpy as np

# 创建仅有表头的 dataframe 数组
pdf_df = pd.DataFrame(columns=['项目', '附注', '期末余额', '期初余额'])

# 获取 pdf 文件对象
pdf_mt = pdfplumber.open("mt2018.pdf")

# 因为我需要获取的资产负债表在 51-53页 但是索引从0开始 所以切片取 50-52即可
for pdf_pg in pdf_mt.pages[50:53]:
  
  # 获取二维列表
  for pdf_tb in pdf_pg.extract_tables():
    
    # 将其拼接
    pdf_df = pdf_df.append(pd.DataFrame(np.array(pdf_tb),columns=['项目', '附注', '期末余额', '期初余额']))

# 显示后五条
pdf_df.tail()

dataframe数据输出如下:

Python读取pdf表格写入excel的方法

pdf 53页如下:

Python读取pdf表格写入excel的方法

实际上,大家也发现,我们获取的最后一页的数据还有一部分是另一个表的,所以我们需要将其去除,并且有序的设置行索引,再保存到 csv 文件中。

# 去除后三行
pdf_df = pdf_df.iloc[:-3,:]

# 重置索引
pdf_df = pdf_df.reset_index(drop=True)

# 保存到 csv 文件中
pdf_df.to_csv("mt_2018.csv")

Python读取pdf表格写入excel的方法

当然,今天就到这里,其它的需求我们下次给大家完善。大家也可以自己将代码封装成函数,这样就可以实现传入 pdf文件名称、页数以及保存的文件名来复用代码。如果大家再掌握了 pandas 就可以根据自己的需求,对各个表格数据进行处理。再结合 seaborn 绘图可视化,完爆 excel ~ 快学习起来叭,GOGOGO

以上就是Python读取pdf表格写入excel的方法的详细内容,更多关于Python读取pdf表格写入excel的资料请关注三水点靠木其它相关文章!

Python 相关文章推荐
Python help()函数用法详解
Mar 11 Python
Python中字符编码简介、方法及使用建议
Jan 08 Python
Python实现抓取网页生成Excel文件的方法示例
Aug 05 Python
Python针对给定字符串求解所有子序列是否为回文序列的方法
Apr 21 Python
详解利用Python scipy.signal.filtfilt() 实现信号滤波
Jun 05 Python
如何在Django配置文件里配置session链接
Aug 06 Python
Python run()函数和start()函数的比较和差别介绍
May 03 Python
Jupyter notebook快速入门教程(推荐)
May 18 Python
Selenium自动化测试工具使用方法汇总
Jun 12 Python
python 制作网站筛选工具(附源码)
Jan 21 Python
pandas按条件筛选数据的实现
Feb 20 Python
python神经网络 tf.name_scope 和 tf.variable_scope 的区别
May 04 Python
python 基于UDP协议套接字通信的实现
Jan 22 #Python
详解matplotlib中pyplot和面向对象两种绘图模式之间的关系
Jan 22 #Python
Jmeter调用Python脚本实现参数互相传递的实现
Jan 22 #Python
Python实现王者荣耀自动刷金币的完整步骤
Jan 22 #Python
python实现马丁策略回测3000只股票的实例代码
Jan 22 #Python
Python爬虫回测股票的实例讲解
Jan 22 #Python
python+selenium实现12306模拟登录的步骤
Jan 21 #Python
You might like
php中cookie的作用域
2008/03/27 PHP
一个PHP的String类代码
2010/04/20 PHP
成为好程序员必须避免的5个坏习惯
2014/07/04 PHP
php限制文件下载速度的代码
2015/10/20 PHP
php正则提取html图片(img)src地址与任意属性的方法
2017/02/08 PHP
PHP实现Redis单据锁以及防止并发重复写入
2018/04/10 PHP
PHP实现简单登录界面
2019/10/23 PHP
如何确保JavaScript的执行顺序 之jQuery.html深度分析
2011/03/03 Javascript
基于jQuery.Validate验证库知识点的详解
2013/04/26 Javascript
21个值得收藏的Javascript技巧
2014/02/04 Javascript
js过滤HTML标签完整实例
2015/11/26 Javascript
JavaScript学习笔记之取数组中最大值和最小值
2016/03/23 Javascript
angularJS+requireJS实现controller及directive的按需加载示例
2017/02/20 Javascript
javascript+jQuery实现360开机时间显示效果
2017/11/03 jQuery
Vue页面骨架屏的实现方法
2018/05/22 Javascript
vue router返回到指定的路由的场景分析
2020/11/10 Javascript
关于element的表单组件整理笔记
2021/02/05 Javascript
python自动化工具日志查询分析脚本代码实现
2013/11/26 Python
python开发之基于thread线程搜索本地文件的方法
2015/11/11 Python
TensorFlow搭建神经网络最佳实践
2018/03/09 Python
快速解决pandas.read_csv()乱码的问题
2018/06/15 Python
python发送告警邮件脚本
2018/09/17 Python
利用python实现简易版的贪吃蛇游戏(面向python小白)
2018/12/30 Python
Python函数中参数是传递值还是引用详解
2019/07/02 Python
Python3爬虫里关于识别微博宫格验证码的知识点详解
2020/07/30 Python
Python Pivot table透视表使用方法解析
2020/09/11 Python
彻底解决pip下载pytorch慢的问题方法
2021/03/01 Python
哄娃神器4moms商店:美国婴童用品品牌
2019/03/07 全球购物
四风存在的原因分析
2014/02/11 职场文书
《值日生》教学反思
2014/02/17 职场文书
“学雷锋活动月”总结
2014/03/09 职场文书
经典促销广告词大全
2014/03/19 职场文书
《路旁的橡树》教学反思
2014/04/07 职场文书
运动会口号大全
2014/06/07 职场文书
2014幼儿园大班工作总结
2014/11/10 职场文书
Python天气语音播报小助手
2021/09/25 Python