Python 处理数据的实例详解


Posted in Python onAugust 10, 2017

Python 处理数据的实例详解

最近用python(3.2的版本)写了根据特定规则,处理数据的一个小程序,用到了一些python常用的基础知识,在此总结一下:

1,python读文件
2,python写文件
3,python的流程控制
4,python的for循环
5,python的集合,或字符串里判断是否存在某个元素
6,python的逻辑或,逻辑与
7,python的正则过滤
8,python的字符串忽略空格,和以某个字符串开头和按某个字符拆分成list

python的打开文件的模式:

关于open 模式:

w     以写方式打开,
a     以追加模式打开 (从 EOF 开始, 必要时创建新文件)
r+     以读写模式打开
w+     以读写模式打开 (参见 w )
a+     以读写模式打开 (参见 a )
rb     以二进制读模式打开
wb     以二进制写模式打开 (参见 w )
ab     以二进制追加模式打开 (参见 a )
rb+    以二进制读写模式打开 (参见 r+ )
wb+    以二进制读写模式打开 (参见 w+ )
ab+    以二进制读写模式打开 (参见 a+ )

处理代码如下:

def showtxt(path,outpathname,detailpath): 
 
  greenpath=r"C:\\Users\\qindongliang\\Desktop\\tnstxt\\green.txt"; 
  redpath=r"C:\\Users\\qindongliang\\Desktop\\tnstxt\\red.txt"; 
  redset=listtxt(redpath) 
  greenset=listtxt(greenpath) 
  print("红色词数量: ",len(redset)) 
  print("绿色词数量: ",len(greenset)) 
  #符合1条件的内容写入 
  f1=open(r"C:\Users\qindongliang\Desktop\tnstxt\result\\"+detailpath+"\\1.txt",encoding="UTF-8",mode="a+") 
  #符合2条件的内容写入 
  f2=open(r"C:\Users\qindongliang\Desktop\tnstxt\result\\"+detailpath+"\\2.txt",encoding="UTF-8",mode="a+") 
  #符合3条件的内容写入 
  f3=open(r"C:\Users\qindongliang\Desktop\tnstxt\result\\"+detailpath+"\\3.txt",encoding="UTF-8",mode="a+") 
  #符合4条件的内容写入 
  f4=open(r"C:\Users\qindongliang\Desktop\tnstxt\result\\"+detailpath+"\\4.txt",encoding="UTF-8",mode="a+") 
 
 
 
  delcount=1; 
  f=open(path,encoding="UTF-8",mode="r+") 
  fnew=open(outpathname,encoding="UTF-8",mode="a+") 
  flog=open(outpathname+".log",encoding="UTF-8",mode="a+") 
  #count=1; 
  for line in f: 
    list=line.strip().split("\t") 
    line=line.strip() 
    catalogid=list[0] 
    score=list[1] 
    keyword=clear(list[4].strip()) 
    if keyword in redset: 
      if catalogid.startswith("018022") or catalogid.startswith("018035") or catalogid.startswith("014023003") : 
        f1.write(line+"\n")#符合1条件写入 
        fnew.write(line+"\n")#符合1条件写入 
      else: 
        flog.write(line+"  不符合条件1 "+"\n") 
        delcount=delcount+1 
 
    if keyword in greenset: 
      if not (catalogid.startswith("018022") or catalogid.startswith("018035") or catalogid.startswith("014023003")) : 
        fnew.write(line+"\n") 
      else: 
        f2.write(line+"\n") 
        flog.write(line+"  不符合条件2"+"\n") 
        delcount=delcount+1 
 
 
    flist=formatStrList(keyword) 
    if "sexy" in flist or "sex" in flist: 
      if catalogid.startswith("018022") or catalogid.startswith("018035") or catalogid.startswith("014023003") : 
        f3.write(line+"\n") 
        fnew.write(line+"\n") 
      else: 
        flog.write(line+" 不符合条件3"+"\n") 
        delcount=delcount+1 
 
    #if (keyword.find("underwear")!=-1) & keyword.find("sexy")==-1 & keyword.find("sex")==-1: 
    if "underwear" in flist and "sexy" not in flist and "sex" not in flist: 
      if catalogid.startswith("014032") : 
        f4.write(line+"\n") 
        fnew.write(line+"\n") 
      else: 
        flog.write(line+" 不符合条件4"+"\n") 
        delcount=delcount+1 
 
    #print(list[0]," ",list[1]," ",list[4]) 
    #print() 
 
 
 
  flog.write("删除总数目: "+str(delcount)) 
  f.close() 
  f1.close() 
  f2.close() 
  f3.close() 
  f4.close() 
  fnew.close() 
  flog.close() 
 
import re 
def clear(str): 
  str=re.sub("[\"\"\'\'+]","",str) 
  return str 
 
 
def formatStrList(keyword): 
  list=keyword.split(" ") 
  for item in list: 
    item.strip(); 
  return list 
 
 
 
 
def listtxt(path): 
   f=open(path,encoding="UTF-8") 
   s=set() 
   for line in f: 
     s.add(line.strip()) 
   f.close() 
   return s 
 
path1=r"C:\\Users\\qindongliang\\Desktop\\tnstxt\\highfrequency.txt" 
pathout1=r"C:\\Users\\qindongliang\\Desktop\\tnstxt\\detail\\a_highfrequency.txt" 
detail1path="highfrequency" 
path2=r"C:\\Users\\qindongliang\\Desktop\\tnstxt\\highfrequency_d1.txt" 
pathout2=r"C:\\Users\\qindongliang\\Desktop\\tnstxt\\detail\\b_highfrequency_d1.txt" 
detail2path="highfrequency_d1" 
 
#showtxt(path1,pathout1,detail1path) 
 
showtxt(path2,pathout2,detail2path)

以上就是对Python 的数据处理的实例详解,如有疑问请留言或者到本站社区交流讨论,感谢阅读,希望能帮助到大家,谢谢大家对本站的支持!

Python 相关文章推荐
Python使用Redis实现作业调度系统(超简单)
Mar 22 Python
使用Python的Django框架结合jQuery实现AJAX购物车页面
Apr 11 Python
Python使用arrow库优雅地处理时间数据详解
Oct 10 Python
利用python 更新ssh 远程代码 操作远程服务器的实现代码
Feb 08 Python
python3实现指定目录下文件sha256及文件大小统计
Feb 25 Python
Django组件cookie与session的具体使用
Jun 05 Python
把vgg-face.mat权重迁移到pytorch模型示例
Dec 27 Python
用Python生成HTML表格的方法示例
Mar 06 Python
Python装饰器的应用场景代码总结
Apr 10 Python
Django bulk_create()、update()与数据库事务的效率对比分析
May 15 Python
Python selenium环境搭建实现过程解析
Sep 08 Python
PYTHON使用Matplotlib去实现各种条形图的绘制
Mar 22 Python
Python 由字符串函数名得到对应的函数(实例讲解)
Aug 10 #Python
关于Python中空格字符串处理的技巧总结
Aug 10 #Python
Python排序算法实例代码
Aug 10 #Python
简单谈谈python中的语句和语法
Aug 10 #Python
Python中如何优雅的合并两个字典(dict)方法示例
Aug 09 #Python
Python中使用多进程来实现并行处理的方法小结
Aug 09 #Python
Python基于matplotlib绘制栈式直方图的方法示例
Aug 09 #Python
You might like
PHP&MYSQL服务器配置说明
2006/10/09 PHP
PHP中怎样防止SQL注入分析
2014/10/23 PHP
php根据一个给定范围和步进生成数组的方法
2015/06/19 PHP
PHP简单实现生成txt文件到指定目录的方法
2016/04/25 PHP
分析PHP中单双引号的误区和双引号小隐患
2016/07/19 PHP
Laravel Eloquent分表方法并使用模型关联的实现
2019/11/25 PHP
jquery中append()与appendto()用法分析
2014/11/14 Javascript
jquery获取checkbox的值并post提交
2015/01/14 Javascript
jquery事件preventDefault()方法用法实例
2015/01/16 Javascript
利用jQuery和CSS将背景图片拉伸
2015/10/16 Javascript
js倒计时简单实现方法
2015/12/17 Javascript
JS常见问题之为什么点击弹出的i总是最后一个
2016/01/05 Javascript
微信小程序 教程之WXSS
2016/10/18 Javascript
jQuery在header中设置请求信息的方法
2017/03/06 Javascript
微信小程序学习之数据处理详解
2017/07/05 Javascript
JQuery获取元素尺寸、位置及页面滚动事件应用示例
2019/05/14 jQuery
ES6实现图片切换特效代码
2020/01/14 Javascript
vue cli4下环境变量和模式示例详解
2020/04/09 Javascript
JQuery复选框全选效果如何实现
2020/05/08 jQuery
js 执行上下文和作用域的相关总结
2021/02/08 Javascript
[02:41]DOTA2英雄基础教程 谜团
2013/12/10 DOTA
用Python编程实现语音控制电脑
2014/04/01 Python
在python中的socket模块使用代理实例
2014/05/29 Python
Python中操作MySQL入门实例
2015/02/08 Python
完美解决python中ndarray 默认用科学计数法显示的问题
2018/07/14 Python
python2 中 unicode 和 str 之间的转换及与python3 str 的区别
2019/07/25 Python
django 单表操作实例详解
2019/07/30 Python
Python实现分数序列求和
2020/02/25 Python
Python下使用Trackbar实现绘图板
2020/10/27 Python
Sephora丝芙兰澳洲官方网站:国际知名化妆品购物
2016/10/27 全球购物
FitFlop澳大利亚官网:英国符合人体工学的鞋类品牌
2017/06/05 全球购物
信访工作者先进事迹
2014/01/17 职场文书
松材线虫病防治方案
2014/06/15 职场文书
运动会开幕词
2015/01/28 职场文书
行政后勤人员工作计划应该怎么写?
2019/08/16 职场文书
如何使用vue3打造一个物料库
2021/05/08 Vue.js