详解10个可以快速用Python进行数据分析的小技巧


Posted in Python onJune 24, 2019

一些小提示和小技巧可能是非常有用的,特别是在编程领域。有时候使用一点点黑客技术,既可以节省时间,还可能挽救“生命”。

一个小小的快捷方式或附加组件有时真是天赐之物,并且可以成为真正的生产力助推器。所以,这里有一些小提示和小技巧,有些可能是新的,但我相信在下一个数据分析项目中会让你非常方便。

Pandas中数据框数据的Profiling过程

Profiling(分析器)是一个帮助我们理解数据的过程,而Pandas Profiling是一个Python包,它可以简单快速地对Pandas 的数据框数据进行探索性数据分析。

Pandas中df.describe()和df.info()函数可以实现EDA过程第一步。但是,它们只提供了对数据非常基本的概述,对于大型数据集没有太大帮助。 而Pandas中的Profiling功能简单通过一行代码就能显示大量信息,且在交互式HTML报告中也是如此。

对于给定的数据集,Pandas中的profiling包计算了以下统计信息:

详解10个可以快速用Python进行数据分析的小技巧

由Pandas Profiling包计算出的统计信息包括直方图、众数、相关系数、分位数、描述统计量、其他信息——类型、单一变量值、缺失值等。

1. 安装

用pip安装或者用conda安装

pip install pandas-profiling 
 conda install -c anaconda pandas-profiling

2. 用法

下面代码是用很久以前的泰坦尼克数据集来演示多功能Python分析器的结果。

#importing the necessary packages 
 import pandas as pd 
 import pandas_profiling 
df = pd.read_csv('titanic/train.csv') 
 pandas_profiling.ProfileReport(df)

一行代码就能实现在Jupyter Notebook中显示完整的数据分析报告,该报告非常详细,且包含了必要的图表信息。

详解10个可以快速用Python进行数据分析的小技巧

还可以使用以下代码将报告导出到交互式HTML文件中。

profile = pandas_profiling.ProfileReport(df) 
profile.to_file(outputfile="Titanic data profiling.html")

详解10个可以快速用Python进行数据分析的小技巧

Pandas实现交互式作图

Pandas有一个内置的.plot()函数作为DataFrame类的一部分。但是,使用此功能呈现的可视化不是交互式的,这使得它没那么吸引人。同样,使用pandas.DataFrame.plot()函数绘制图表也不能实现交互。 如果我们需要在不对代码进行重大修改的情况下用Pandas绘制交互式图表怎么办呢?这个时候就可以用Cufflinks库来实现。

Cufflinks库可以将有强大功能的plotly和拥有灵活性的pandas结合在一起,非常便于绘图。下面就来看在pandas中如何安装和使用Cufflinks库。

1. 安装

pip install plotly 
# Plotly is a pre-requisite before installing cufflinks 
pip install cufflinks

2. 用法

#importing Pandas 
 import pandas as pd 
 #importing plotly and cufflinks in offline mode 
 import cufflinks as cf 
import plotly.offline 
 cf.go_offline() 
 cf.set_config_file(offline=False, world_readable=True)

是时候展示泰坦尼克号数据集的魔力了。

df.iplot()

详解10个可以快速用Python进行数据分析的小技巧

详解10个可以快速用Python进行数据分析的小技巧

df.iplot() vs df.plot()

右侧的可视化显示了静态图表,而左侧图表是交互式的,更详细,并且所有这些在语法上都没有任何重大更改。

Magic命令

Magic命令是Jupyter notebook中的一组便捷功能,旨在解决标准数据分析中的一些常见问题。使用命令%lsmagic可以看到所有的可用命令。

详解10个可以快速用Python进行数据分析的小技巧

所有可用的Magic命令列表

Magic命令有两种:行magic命令(line magics),以单个%字符为前缀,在单行输入操作;单元magic命令(cell magics),以双%%字符为前缀,可以在多行输入操作。如果设置为1,则不用键入%即可调用Magic函数。

接下来看一些在常见数据分析任务中可能用到的命令:

1. % pastebin

%pastebin将代码上传到Pastebin并返回url。Pastebin是一个在线内容托管服务,可以存储纯文本,如源代码片段,然后通过url可以与其他人共享。事实上,Github gist也类似于pastebin,只是有版本控制。

在file.py文件中写一个包含以下内容的python脚本,并试着运行看看结果。

#file.py 
 def foo(x): 
   return x

在Jupyter Notebook中使用%pastebin生成一个pastebin url。

详解10个可以快速用Python进行数据分析的小技巧

2. %matplotlib notebook

函数用于在Jupyter notebook中呈现静态matplotlib图。用notebook替换inline,可以轻松获得可缩放和可调整大小的绘图。但记得这个函数要在导入matplotlib库之前调用。

详解10个可以快速用Python进行数据分析的小技巧

3. %run

用%run函数在notebook中运行一个python脚本试试。

%run file.py 
%%writefile

%% writefile是将单元格内容写入文件中。以下代码将脚本写入名为foo.py的文件并保存在当前目录中。

详解10个可以快速用Python进行数据分析的小技巧

4. %%latex

%%latex函数将单元格内容以LaTeX形式呈现。此函数对于在单元格中编写数学公式和方程很有用。

详解10个可以快速用Python进行数据分析的小技巧

查找并解决错误

交互式调试器也是一个神奇的功能,我把它单独定义了一类。如果在运行代码单元时出现异常,请在新行中键入%debug并运行它。 这将打开一个交互式调试环境,它能直接定位到发生异常的位置。还可以检查程序中分配的变量值,并在此处执行操作。退出调试器单击q即可。

详解10个可以快速用Python进行数据分析的小技巧

Printing也有小技巧

如果您想生成美观的数据结构,pprint是首选。它在打印字典数据或JSON数据时特别有用。接下来看一个使用print和pprint来显示输出的示例。

详解10个可以快速用Python进行数据分析的小技巧

详解10个可以快速用Python进行数据分析的小技巧

让你的笔记脱颖而出

我们可以在您的Jupyter notebook中使用警示框/注释框来突出显示重要内容或其他需要突出的内容。注释的颜色取决于指定的警报类型。只需在需要突出显示的单元格中添加以下任一代码或所有代码即可。

1. 蓝色警示框:信息提示

<div class="alert alert-block alert-info"> 
 <b>Tip:</b> Use blue boxes (alert-info) for tips and notes. 
 If it's a note, you don't have to include the word “Note”. 
 </div>

详解10个可以快速用Python进行数据分析的小技巧

2. 黄色警示框:警告

<div class="alert alert-block alert-warning"> 
 <b>Example:</b> Yellow Boxes are generally used to include additional examples or mathematical formulas. 
 </div>

详解10个可以快速用Python进行数据分析的小技巧

3. 绿色警示框:成功

<div class="alert alert-block alert-success"> 
 Use green box only when necessary like to display links to related content. 
 </div>

详解10个可以快速用Python进行数据分析的小技巧

4. 红色警示框:高危

<div class="alert alert-block alert-danger"> 
It is good to avoid red boxes but can be used to alert users to not delete some important part of code etc. 
</div>

详解10个可以快速用Python进行数据分析的小技巧

打印单元格所有代码的输出结果

假如有一个Jupyter Notebook的单元格,其中包含以下代码行:

In [1]: 10+5      
     11+6 
Out [1]: 17

单元格的正常属性是只打印最后一个输出,而对于其他输出,我们需要添加print()函数。然而通过在notebook顶部添加以下代码段可以一次打印所有输出。

添加代码后所有的输出结果就会一个接一个地打印出来。

In [1]: 10+5      
     11+6 
     12+7 
Out [1]: 15 
 Out [1]: 17 
 Out [1]: 19

恢复原始设置:

InteractiveShell.ast_node_interactivity = "last_expr"

使用'i'选项运行python脚本

从命令行运行python脚本的典型方法是:python hello.py。但是,如果在运行相同的脚本时添加-i,例如python -i hello.py,就能提供更多优势。接下来看看结果如何。

首先,即使程序结束,python也不会退出解释器。因此,我们可以检查变量的值和程序中定义的函数的正确性。

详解10个可以快速用Python进行数据分析的小技巧

其次,我们可以轻松地调用python调试器,因为我们仍然在解释器中:

import pdb 
pdb.pm()

这能定位异常发生的位置,然后我们可以处理异常代码。

自动评论代码

Ctrl / Cmd + /自动注释单元格中的选定行,再次命中组合将取消注释相同的代码行。

详解10个可以快速用Python进行数据分析的小技巧

删除容易恢复难

你有没有意外删除过Jupyter notebook中的单元格?如果答案是肯定的,那么可以掌握这个撤消删除操作的快捷方式。

如果您删除了单元格的内容,可以通过按CTRL / CMD + Z轻松恢复它。

如果需要恢复整个已删除的单元格,请按ESC + Z或EDIT>撤消删除单元格。

详解10个可以快速用Python进行数据分析的小技巧

结论

在本文中,我列出了使用Python和Jupyter notebook时收集的一些小提示。我相信它们会对你有用,能让你有所收获,从而实现轻松编码!

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python访问系统环境变量的方法
Apr 29 Python
在Linux下使用Python的matplotlib绘制数据图的教程
Jun 11 Python
python实现文件路径和url相互转换的方法
Jul 06 Python
基于Python如何使用AIML搭建聊天机器人
Jan 27 Python
Python简单实现socket信息发送与监听功能示例
Jan 03 Python
深入浅析Python的类
Jun 22 Python
学习Django知识点分享
Sep 11 Python
python二维键值数组生成转json的例子
Dec 06 Python
pytorch使用 to 进行类型转换方式
Jan 08 Python
解决Jupyter notebook更换主题工具栏被隐藏及添加目录生成插件问题
Apr 20 Python
python小程序之4名牌手洗牌发牌问题解析
May 15 Python
Django数据库迁移常见使用方法
Nov 12 Python
python跳出双层for循环的解决方法
Jun 24 #Python
解决python xx.py文件点击完之后一闪而过的问题
Jun 24 #Python
解决python执行不输出系统命令弹框的问题
Jun 24 #Python
python实现在cmd窗口显示彩色文字
Jun 24 #Python
打包python 加icon 去掉cmd黑窗口方法
Jun 24 #Python
python隐藏终端执行cmd命令的方法
Jun 24 #Python
用django-allauth实现第三方登录的示例代码
Jun 24 #Python
You might like
在Nginx上部署ThinkPHP项目教程
2015/02/02 PHP
PHP explode()函数的几个应用和implode()函数有什么区别
2015/11/05 PHP
PHP结合Jquery和ajax实现瀑布流特效
2016/01/07 PHP
Kindeditor编辑器添加图片上传水印功能(php代码)
2017/08/03 PHP
php判断数组是否为空的实例方法
2020/05/10 PHP
jQuery 操作XML入门
2008/12/25 Javascript
扩展js对象数组的OrderByAsc和OrderByDesc方法实现思路
2013/05/17 Javascript
前端程序员必须知道的高性能Javascript知识
2016/08/24 Javascript
js实现文字截断功能
2016/09/14 Javascript
JavaScript判断浏览器对CSS3属性是否支持的多种方法
2016/11/13 Javascript
详解NodeJS框架express的路径映射(路由)功能及控制
2017/03/24 NodeJs
微信小程序 页面跳转事件绑定的实例详解
2017/09/20 Javascript
基于Layui自定义模块的使用方法详解
2019/09/14 Javascript
微信小程序图片自适应实现解析
2020/01/21 Javascript
Python采用raw_input读取输入值的方法
2014/08/18 Python
python实现跨excel的工作表sheet之间的复制方法
2018/05/03 Python
python中cPickle类使用方法详解
2018/08/27 Python
python中多个装饰器的执行顺序详解
2018/10/08 Python
python如何制作英文字典
2019/06/25 Python
pygame实现非图片按钮效果
2019/10/29 Python
python 多维高斯分布数据生成方式
2019/12/09 Python
python shutil文件操作工具使用实例分析
2019/12/25 Python
python 中的9个实用技巧,助你提高开发效率
2020/08/30 Python
Python+Selenium实现自动化的环境搭建的步骤(图文)
2020/09/01 Python
结合 CSS3 transition transform 实现简单的跑马灯效果的示例
2018/02/07 HTML / CSS
美国美发品牌:Bumble and Bumble
2016/10/08 全球购物
电气技术员岗位职责
2013/11/19 职场文书
高校自主招生自荐信
2013/12/09 职场文书
优秀信贷员先进事迹
2014/01/31 职场文书
《中国的气候》教学反思
2014/02/23 职场文书
构建高效课堂实施方案
2014/03/13 职场文书
环境保护与污染治理求职信
2014/07/16 职场文书
入团介绍人意见范文
2015/06/04 职场文书
2019假期福利管理制度!
2019/07/15 职场文书
创业计划书之寿司
2019/07/19 职场文书
Python编程中内置的NotImplemented类型的用法
2022/03/23 Python