Pandas标记删除重复记录的方法


Posted in Python onApril 08, 2018

Pandas提供了duplicated、Index.duplicated、drop_duplicates函数来标记及删除重复记录

duplicated函数用于标记Series中的值、DataFrame中的记录行是否是重复,重复为True,不重复为False

pandas.DataFrame.duplicated(self, subset=None, keep='first')

pandas.Series.duplicated(self, keep='first')

其中参数解释如下:

subset:用于识别重复的列标签或列标签序列,默认所有列标签

keep=‘frist':除了第一次出现外,其余相同的被标记为重复

keep='last':除了最后一次出现外,其余相同的被标记为重复

keep=False:所有相同的都被标记为重复

import numpy as np
import pandas as pd 
#标记DataFrame重复例子
df = pd.DataFrame({'col1': ['one', 'one', 'two', 'two', 'two', 'three', 'four'], 'col2': [1, 2, 1, 2, 1, 1, 1],
   'col3':['AA','BB','CC','DD','EE','FF','GG']},index=['a', 'a', 'b', 'c', 'b', 'a','c'])
#duplicated(self, subset=None, keep='first')
#根据列名标记
#keep='first'
df.duplicated()#默认所有列,无重复记录
df.duplicated('col1')#第二、四、五行被标记为重复
df.duplicated(['col1','col2'])#第五行被标记为重复
#keep='last'
df.duplicated('col1','last')#第一、三、四行被标记重复
df.duplicated(['col1','col2'],keep='last')#第三行被标记为重复
#keep=False
df.duplicated('col1',False)#Series([True,True,True,True,True,False,False],index=['a','a','b','c','b','a','c'])
df.duplicated(['col1','col2'],keep=False)#在col1和col2列上出现相同的,都被标记为重复
type(df.duplicated(['col1','col2'],keep=False))#pandas.core.series.Series
#根据索引标记
df.index.duplicated()#默认keep='first',第二、五、七行被标记为重复
df.index.duplicated(keep='last')#第一、二、三、四被标记为重复
df[df.index.duplicated()]#获取重复记录行
df[~df.index.duplicated('last')]#获取不重复记录行
#标记Series重复例子
#duplicated(self, keep='first')
s = pd.Series(['one', 'one', 'two', 'two', 'two', 'three', 'four'] ,index= ['a', 'a', 'b', 'c', 'b', 'a','c'],name='sname')
s.duplicated()
s.duplicated('last')
s.duplicated(False)
#根据索引标记
s.index.duplicated()
s.index.duplicated('last')
s.index.duplicated(False)

drop_duplicates函数用于删除Series、DataFrame中重复记录,并返回删除重复后的结果

pandas.DataFrame.drop_duplicates(self, subset=None, keep='first', inplace=False)

pandas.Series.drop_duplicates(self, keep='first', inplace=False)

#删除DataFrame重复记录例子 
#drop_duplicates(self, subset=None, keep='first', inplace=False) 
df.drop_duplicates() 
df.drop_duplicates('col1')#删除了df.duplicated('col1')标记的重复记录 
df.drop_duplicates('col1','last')#删除了df.duplicated('col1','last')标记的重复记录 
df1.drop_duplicates(['col1','col2'])#删除了df.duplicated(['col1','col2'])标记的重复记录 
df.drop_duplicates('col1',keep='last',inplace=True)#inplace=True表示在原DataFrame上执行删除操作 
df.drop_duplicates('col1',keep='last',inplace=False)#inplace=False返回一个副本 
#删除Series重复记录例子 
#drop_duplicates(self, keep='first', inplace=False) 
s.drop_duplicates()

以上这篇Pandas标记删除重复记录的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python中迭代器(iterator)用法实例分析
Apr 29 Python
Python生成不重复随机值的方法
May 11 Python
Python打印斐波拉契数列实例
Jul 07 Python
简单掌握Python的Collections模块中counter结构的用法
Jul 07 Python
Django中的静态文件管理过程解析
Aug 01 Python
django 快速启动数据库客户端程序的方法示例
Aug 16 Python
Python+Tensorflow+CNN实现车牌识别的示例代码
Oct 11 Python
如何使用Python脚本实现文件拷贝
Nov 20 Python
Python基于Tensor FLow的图像处理操作详解
Jan 15 Python
基于django 的orm中非主键自增的实现方式
May 18 Python
python实现学生成绩测评系统
Jun 22 Python
浅谈Python中对象是如何被调用的
Apr 06 Python
Python将DataFrame的某一列作为index的方法
Apr 08 #Python
python DataFrame获取行数、列数、索引及第几行第几列的值方法
Apr 08 #Python
浅谈pandas中DataFrame关于显示值省略的解决方法
Apr 08 #Python
python3获取两个日期之间所有日期,以及比较大小的实例
Apr 08 #Python
python pandas中DataFrame类型数据操作函数的方法
Apr 08 #Python
python随机取list中的元素方法
Apr 08 #Python
Python实现的端口扫描功能示例
Apr 08 #Python
You might like
php模拟post行为代码总结(POST方式不是绝对安全)
2012/02/22 PHP
分析php://output和php://stdout的区别
2018/05/06 PHP
JS教程:window.location使用方法的区别介绍
2013/10/04 Javascript
jQuery学习之prop和attr的区别示例介绍
2013/11/15 Javascript
jQuery .tmpl() 用法示例介绍
2014/08/21 Javascript
基于jQuery实现最基本的淡入淡出效果实例
2015/02/02 Javascript
Javascript中this关键字的一些小知识
2015/03/15 Javascript
jQuery插件slick实现响应式移动端幻灯片图片切换特效
2015/04/12 Javascript
jQuery实现表格展开与折叠的方法
2015/05/04 Javascript
javasript实现密码的隐藏与显示
2015/05/08 Javascript
asp.net中oracle 存储过程(图文)
2015/08/12 Javascript
javascript实现的网站访问量统计代码
2015/12/20 Javascript
解决vue-cli中stylus无法使用的问题方法
2017/06/19 Javascript
详解在React里使用"Vuex"
2018/04/02 Javascript
vue如何实现动态加载脚本
2020/02/05 Javascript
微信小程序搜索框样式并实现跳转到搜索页面(小程序搜索功能)
2020/03/10 Javascript
[40:01]OG vs Winstrike 2018国际邀请赛小组赛BO2 第一场 8.19
2018/08/21 DOTA
Python安装第三方库及常见问题处理方法汇总
2016/09/13 Python
Django框架的中的setting.py文件说明详解
2018/10/15 Python
对pandas读取中文unicode的csv和添加行标题的方法详解
2018/12/12 Python
Python求均值,方差,标准差的实例
2019/06/29 Python
python:按行读入,排序然后输出的方法
2019/07/20 Python
如何通过Django使用本地css/js文件
2020/01/20 Python
python爬虫---requests库的用法详解
2020/09/28 Python
美国知名保健品网站:LuckyVitamin(支持中文)
2017/08/09 全球购物
几道Java和数据库的面试题
2013/05/30 面试题
中西医结合临床医学专业大学生自荐信
2013/09/28 职场文书
外贸学院会计专业应届生求职信
2013/11/14 职场文书
企业节能减排实施方案
2014/03/19 职场文书
骨干教师考核评语
2014/12/31 职场文书
乡镇一岗双责责任书
2015/01/29 职场文书
总经理助理岗位职责范本
2015/03/31 职场文书
优质护理心得体会
2016/01/22 职场文书
导游词之南昌滕王阁
2019/11/29 职场文书
奇妙的 CSS shapes(CSS图形)
2021/04/05 HTML / CSS
mysql 联合索引生效的条件及索引失效的条件
2021/11/20 MySQL