python实现复制大量文件功能


Posted in Python onAugust 31, 2019

本文实例为大家分享了python实现复制大量文件的具体代码,供大家参考,具体内容如下

本来是去项目公司拷数据,结果去了发现有500G,靠系统的复制功能怕是得好几个小时,于是回来学一手操作,话不多说上代码:

说明:CopyFiles1是可以将sourceDir连子目录一起原样复制到targetDir,而CopyFiles2是在sourceDir中筛选特定格式文件,然后将其直接放在targetDir中,会很乱,但是很快

import os
import time
import shutil
sourceDir = r"D:\copytest\datatest"
targetDir = r"D:\copytest\result"
copyFileCounts = 0
 
def CopyFiles1(sourceDir, targetDir):
#完全连子目录也会复制好,美观
  global copyFileCounts
  print(sourceDir )
  print("%s 当前处理文件夹%s已处理%s 个文件" %(time.strftime('%Y-%m-%d %H:%M:%S',time.localtime(time.time())), sourceDir,copyFileCounts) )
  for f in os.listdir(sourceDir):
    sourceF = os.path.join(sourceDir, f)
    targetF = os.path.join(targetDir, f)
 
    if os.path.isfile(sourceF):
 
      if not os.path.exists(targetDir):
        os.makedirs(targetDir)
      copyFileCounts += 1
 
 
      if not os.path.exists(targetF) or (os.path.exists(targetF) and (os.path.getsize(targetF) != os.path.getsize(sourceF))):
 
        open(targetF, "wb").write(open(sourceF, "rb").read())
        print ("%s %s 复制完毕" %(time.strftime('%Y-%m-%d %H:%M:%S',time.localtime(time.time())), targetF))
      else:
        print ("%s %s 已存在,不重复复制" %(time.strftime('%Y-%m-%d %H:%M:%S',time.localtime(time.time())), targetF))
 
    if os.path.isdir(sourceF):
      copyFiles(sourceF, targetF)
 
def CopyFiles2(dir):
  #会将目录下所有文件都复制在一起,速度快,可以筛选文件
  i=0
  for root,dir1,filename in os.walk(dir):
   #print(filename)
   for index in range(len(filename)):
    #print(os.path.splitext(filename[index])[1])
    #if os.path.splitext(filename[index])[1]=='.':#这里注意filename是个元组,splitext方法的时候只能是字符串
    if 1==1:
      #i+=1
      print('here')
      root1="D:\\copytest\\result3"
      old_path = os.path.join(root, filename[index])
      print(old_path)
      new_path = os.path.join(root1,filename[index])
      shutil.copyfile(old_path,new_path)
 
#print("总共有",i,"图层文件被复制!")
 
if __name__ == "__main__":
 time_start = time.time()
 try:
  import psyco
  psyco.profile()
 except ImportError:
   pass
 #CopyFiles1(sourceDir,targetDir)
 CopyFiles2("D:/copytest/datatest")
 time_end = time.time()
 print('totally cost', time_end - time_start)

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
简单的Apache+FastCGI+Django配置指南
Jul 22 Python
Python的Flask框架中SQLAlchemy使用时的乱码问题解决
Nov 07 Python
Python实现将xml导入至excel
Nov 20 Python
开源Web应用框架Django图文教程
Mar 09 Python
Python内置模块turtle绘图详解
Dec 09 Python
用Django写天气预报查询网站
Oct 21 Python
​如何愉快地迁移到 Python 3
Apr 28 Python
Flask框架路由和视图用法实例分析
Nov 07 Python
python 在右键菜单中加入复制目标文件的有效存放路径(单斜杠或者双反斜杠)
Apr 08 Python
Python系统公网私网流量监控实现流程
Nov 23 Python
python字典与json转换的方法总结
Dec 28 Python
Python django中如何使用restful框架
Jun 23 Python
django 做 migrate 时 表已存在的处理方法
Aug 31 #Python
解决Django中修改js css文件但浏览器无法及时与之改变的问题
Aug 31 #Python
解决Django migrate不能发现app.models的表问题
Aug 31 #Python
python django生成迁移文件的实例
Aug 31 #Python
python实现递归查找某个路径下所有文件中的中文字符
Aug 31 #Python
python+django+rest框架配置创建方法
Aug 31 #Python
Python实现Restful API的例子
Aug 31 #Python
You might like
咖啡与水的关系
2021/03/03 冲泡冲煮
SESSION信息保存在哪个文件目录下以及能够用来保存什么类型的数据
2012/06/17 PHP
php生成html文件方法总结
2014/12/01 PHP
一个简单的JavaScript 日期计算算法
2009/09/11 Javascript
浅谈JavaScript编程语言的编码规范
2011/10/21 Javascript
javascript里模拟sleep(两种实现方式)
2013/01/25 Javascript
Extjs中的GridPanel隐藏列会显示在menuDisabled中解决方法
2013/01/27 Javascript
JS实现的几个常用算法
2016/11/12 Javascript
webstorm中配置nodejs环境及npm的实例
2018/05/15 NodeJs
BootStrap中的模态框(modal,弹出层)功能示例代码
2018/11/02 Javascript
详解滑动穿透(锁body)终极探索
2019/04/16 Javascript
Openlayers显示地理位置坐标的方法
2020/09/28 Javascript
JS使用setInterval计时器实现挑战10秒
2020/11/08 Javascript
JS实现京东商品分类侧边栏
2020/12/11 Javascript
npm全局环境变量配置详解
2020/12/15 Javascript
Python Socket编程入门教程
2014/07/11 Python
详解Python的Django框架中的templates设置
2015/05/11 Python
Python多线程和队列操作实例
2015/06/21 Python
Python Datetime模块和Calendar模块用法实例分析
2019/04/15 Python
Python实现图像去噪方式(中值去噪和均值去噪)
2019/12/18 Python
PyTorch使用cpu加载模型运算方式
2020/01/13 Python
tensorflow模型保存、加载之变量重命名实例
2020/01/21 Python
Python 面向对象静态方法、类方法、属性方法知识点小结
2020/03/09 Python
python中如何使用虚拟环境
2020/10/14 Python
如何开发一款堪比APP的微信小程序(腾讯内部团队分享)
2016/12/22 HTML / CSS
德国家具在线:Fashion For Home
2017/03/11 全球购物
澳大利亚领先的在线机械五金、园艺和存储专家:Edisons
2018/03/24 全球购物
中医药大学毕业生自荐信
2013/11/08 职场文书
毕业生简历自我评价范文
2014/04/09 职场文书
企业员工集体活动方案
2014/08/17 职场文书
素质教育培训心得体会
2016/01/19 职场文书
Redis字典实现、Hash键冲突及渐进式rehash详解
2021/09/04 Redis
使用CSS实现小三角边框原理解析
2021/11/07 HTML / CSS
python使用torch随机初始化参数
2022/03/22 Python
Java8 CompletableFuture 异步回调
2022/04/28 Java/Android
Python使用BeautifulSoup4修改网页内容
2022/05/20 Python