用python删除文件夹中的重复图片(图片去重)


Posted in Python onMay 12, 2021

第一部分:判断两张图片是否相同

要查找重复的图片,必然绕不开判断两张图片是否相同。判断两张图片简单呀!图片可以看成数组,比较两个数组是否相等不就行了。但是这样做太过简单粗暴,因为两个数组的每个元素都要一一比较,效率很低。为了尽量避免两个庞大的数组比较:

  • 先进行两张图片的大小(byte)比较,若大小不相同,则两张图片不相同;
  • 在两张图片的大小相同的前提下,进行两张图片的尺寸(长和宽)比较,若尺寸不相同,则两张不相同;
  • 在两张图片的尺寸相同的前提下,进行两张图片的内容(即数组元素)比较,若内容不相同,则图片不相同;

这样,当图片大小或图片尺寸不相同的时候,便认为两张图片不同,可以省去比较数组元素的部分,效率up~

import shutil
import numpy as np
from PIL import Image
import os


def 比较图片大小(dir_image1, dir_image2):
    with open(dir_image1, "rb") as f1:
        size1 = len(f1.read())
    with open(dir_image2, "rb") as f2:
        size2 = len(f2.read())
    if(size1 == size2):
        result = "大小相同"
    else:
        result = "大小不同"
    return result


def 比较图片尺寸(dir_image1, dir_image2):
    image1 = Image.open(dir_image1)
    image2 = Image.open(dir_image2)
    if(image1.size == image2.size):
        result = "尺寸相同"
    else:
        result = "尺寸不同"
    return result


def 比较图片内容(dir_image1, dir_image2):
    image1 = np.array(Image.open(dir_image1))
    image2 = np.array(Image.open(dir_image2))
    if(np.array_equal(image1, image2)):
        result = "内容相同"
    else:
        result = "内容不同"
    return result


def 比较两张图片是否相同(dir_image1, dir_image2):
    # 比较两张图片是否相同
    # 第一步:比较大小是否相同
    # 第二步:比较长和宽是否相同
    # 第三步:比较每个像素是否相同
    # 如果前一步不相同,则两张图片必不相同
    result = "两张图不同"
    大小 = 比较图片大小(dir_image1, dir_image2)
    if(大小 == "大小相同"):
        尺寸 = 比较图片尺寸(dir_image1, dir_image2)
        if(尺寸 == "尺寸相同"):
            内容 = 比较图片内容(dir_image1, dir_image2)
            if(内容 == "内容相同"):
                result = "两张图相同"
    return result

第二部分:判断文件夹内是否有重复图片

若要判断文件夹内是否有和图片A相同的图片,则需要遍历文件夹内所有图片,挨个判断两个图片是否相同。若文件夹有1000张图片,那么第1张图片需要与剩下的999张图片作比较,第2张图片需要与剩下的998张图片作比较,第3张需要与剩下的997张图片作比较,以此类推。在此程序中的做法是,先对所有图片按图片大小(byte)排序,然后再执行遍历比较。这样做的结果是:重复图片很大概率会连着出现(因为重复图片大小相同)

if __name__ == '__main__':

    load_path = 'E:\\测试图片集(未去重)'  # 要去重的文件夹
    save_path = 'E:\\测试图片集(重复照片)'  # 空文件夹,用于存储检测到的重复的照片
    os.makedirs(save_path, exist_ok=True)

    # 获取图片列表 file_map,字典{文件路径filename : 文件大小image_size}
    file_map = {}
    image_size = 0
    # 遍历filePath下的文件、文件夹(包括子目录)
    for parent, dirnames, filenames in os.walk(load_path):
        # for dirname in dirnames:
        # print('parent is %s, dirname is %s' % (parent, dirname))
        for filename in filenames:
            # print('parent is %s, filename is %s' % (parent, filename))
            # print('the full name of the file is %s' % os.path.join(parent, filename))
            image_size = os.path.getsize(os.path.join(parent, filename))
            file_map.setdefault(os.path.join(parent, filename), image_size)

    # 获取的图片列表按 文件大小image_size 排序
    file_map = sorted(file_map.items(), key=lambda d: d[1], reverse=False)
    file_list = []
    for filename, image_size in file_map:
        file_list.append(filename)

    # 取出重复的图片
    file_repeat = []
    for currIndex, filename in enumerate(file_list):
        dir_image1 = file_list[currIndex]
        dir_image2 = file_list[currIndex + 1]
        result = 比较两张图片是否相同(dir_image1, dir_image2)
        if(result == "两张图相同"):
            file_repeat.append(file_list[currIndex + 1])
            print("\n相同的图片:", file_list[currIndex], file_list[currIndex + 1])
        else:
            print('\n不同的图片:', file_list[currIndex], file_list[currIndex + 1])
        currIndex += 1
        if currIndex >= len(file_list)-1:
            break

    # 将重复的图片移动到新的文件夹,实现对原文件夹降重
    for image in file_repeat:
        shutil.move(image, save_path)
        print("正在移除重复照片:", image)

第三部分:程序运行结果

若文件夹下有10张图片A、5张图片B、1张图片C,程序运行结束后,该文件夹下剩余1张图片A、1张图片B、1张图片C;其他的图片移动到 save_path 指定的文件夹下。

第四部分:注意

程序代码可以直接复制使用,需要修改 load_path 和 save_path 参数;

保证 load_path 文件夹都为图片格式(.jpg .png .jpeg)的文件类型,不可以有其他格式的文件(例如.mp4);请先用资源管理器处理文件夹,大佬直接修改代码读取文件夹下指定类型的文件;

以上就是用python删除文件夹中的重复图片的详细内容,更多关于python 删除重复图片的资料请关注三水点靠木其它相关文章!

Python 相关文章推荐
python实现猜数字游戏(无重复数字)示例分享
Mar 29 Python
采用python实现简单QQ单用户机器人的方法
Jul 03 Python
Python3中使用urllib的方法详解(header,代理,超时,认证,异常处理)
Sep 21 Python
Zabbix实现微信报警功能
Oct 09 Python
定制FileField中的上传文件名称实例
Aug 23 Python
python字符串的方法与操作大全
Jan 30 Python
简单了解Python生成器是什么
Jul 02 Python
python爬虫 猫眼电影和电影天堂数据csv和mysql存储过程解析
Sep 05 Python
用Python写一个自动木马程序
Sep 17 Python
python代码实现将列表中重复元素之间的内容全部滤除
May 22 Python
python os模块常用的29种方法使用详解
Jun 02 Python
python数据处理之Pandas类型转换
Apr 28 Python
Pyhton模块和包相关知识总结
python 下划线的多种应用场景总结
May 12 #Python
超级详细实用的pycharm常用快捷键
pycharm 如何查看某一函数源码的快捷键
教你使用Pandas直接核算Excel中快递费用
用python开发一款操作MySQL的小工具
May 12 #Python
浅谈Python类的单继承相关知识
May 12 #Python
You might like
php基础知识:控制结构
2006/12/13 PHP
php去除换行(回车换行)的三种方法
2014/03/26 PHP
php从完整文件路径中分离文件目录和文件名的方法
2015/03/13 PHP
讲解WordPress开发中一些常用的debug技巧
2015/12/18 PHP
joomla数据库操作示例代码
2016/01/06 PHP
windows server 2008/2012安装php iis7 mysql环境搭建教程
2016/06/30 PHP
javascript Demo模态窗口
2009/12/06 Javascript
jQuery的:parent选择器定义和用法
2014/07/01 Javascript
JS中自定义定时器让它在某一时刻执行
2014/09/02 Javascript
浅谈JavaScript Math和Number对象
2015/01/26 Javascript
关注jquery技巧提高jquery技能(前端开发必学)
2015/11/02 Javascript
通用javascript代码判断版本号是否在版本范围之间
2015/11/29 Javascript
JS 事件绑定、事件监听、事件委托详细介绍
2016/09/28 Javascript
Node.js创建Web、TCP服务器
2017/12/05 Javascript
jQuery实现表格隔行换色
2018/09/01 jQuery
webpack+express实现文件精确缓存的示例代码
2020/06/11 Javascript
js简单粗暴的发布订阅示例代码
2021/01/23 Javascript
[26:50]2018完美盛典DOTA2表演赛
2018/12/17 DOTA
编写Python脚本来实现最简单的FTP下载的教程
2015/05/04 Python
python事件驱动event实现详解
2018/11/21 Python
Python3 pip3 list 出现 DEPRECATION 警告的解决方法
2019/02/16 Python
python如何导入依赖包
2020/07/13 Python
python 爬虫之selenium可视化爬虫的实现
2020/12/04 Python
不同浏览器对CSS3和HTML5的支持状况
2009/10/31 HTML / CSS
以工厂直接定价的传奇性能:Ben Hogan Golf
2019/01/04 全球购物
中国包裹转运寄送国际服务:Famiboat
2019/07/24 全球购物
周生生珠宝香港官网:Chow Sang Sang(香港及海外配送)
2019/09/05 全球购物
什么是Linux虚拟文件系统VFS
2012/01/31 面试题
应聘教师推荐信
2013/10/31 职场文书
小加工厂管理制度
2014/01/21 职场文书
感恩的演讲稿
2014/05/06 职场文书
群众路线查摆问题整改措施
2014/10/10 职场文书
2014年物资管理工作总结
2014/12/02 职场文书
《打电话》教学反思
2016/02/22 职场文书
致创业您:正能量激励人心句子(48条)
2019/08/15 职场文书
2019年农民幸福观调查的实践感悟
2019/12/19 职场文书