Python自动查重之原理、方法与实践详解

news2024/11/15 7:30:40


什么是自动查重?

自动查重是指使用计算机程序来比较两个或多个文件的内容,判断它们之间是否存在相似或相同的部分,从而检测出抄袭或重复的情况。自动查重可以用于学术论文、代码、文本等各种类型的文件,帮助提高原创性和质量。

为什么要使用Python进行自动查重?

Python是一种广泛使用的编程语言,具有简洁、易读、灵活和强大的特点。Python中有许多现成的库和工具,可以方便地实现自动查重的功能。其中,difflib库就是一个专门用于比较文件和字符串差异的库,它提供了多种方法和API,可以根据不同的需求和场景进行自动查重。

如何使用Python中的difflib库进行自动查重?

pip install cdifflib

difflib库中最常用的两个类是SequenceMatcherDiffer,它们都可以用来比较两个序列(如字符串、列表、元组等)之间的差异,并生成相应的结果。

SequenceMatcher

SequenceMatcher类可以用来计算两个序列之间的相似度,以及找出它们最长的匹配子序列。它有以下几个主要的方法:

  • __init__(a, b, isjunk=None):创建一个SequenceMatcher对象,参数ab是要比较的两个序列,参数isjunk是一个可选的函数,用于指定哪些元素应该被忽略。

  • ratio():返回两个序列之间的相似度,范围在0到1之间,越接近1表示越相似。

  • quick_ratio():返回两个序列之间的快速估计相似度,比ratio()方法更快但可能不太准确。

  • real_quick_ratio():返回两个序列之间的非常快速估计相似度,比quick_ratio()方法更快但可能更不准确。

  • get_matching_blocks():返回一个列表,包含了两个序列中最长匹配子序列的信息,每个元素是一个元组(i, j, n),表示第一个序列中从索引i开始长度为n的子序列与第二个序列中从索引j开始长度为n的子序列完全匹配。

  • get_opcodes():返回一个列表,包含了将第一个序列转换为第二个序列所需的操作,每个元素是一个元组(tag, i1, i2, j1, j2),表示对第一个序列中从索引i1到索引i2(不包括)的子序列执行操作tag后,它将与第二个序列中从索引j1到索引j2(不包括)的子序列相等。操作有以下几种:

    • 'equal': 表示两个子序列相等,无需修改。

    • 'replace': 表示需要将第一个子序列替换为第二个子序列。

    • 'delete': 表示需要删除第一个子序列。

    • 'insert': 表示需要在第一个子序列后插入第二个子序列。

    • 'noop': 表示无操作。

Differ

Differ类可以用来生成两个序列之间的差异报告,以便于人类阅读和理解。它有以下几个主要的方法:

  • __init__(linejunk=None, charjunk=None):创建一个Differ对象,参数linejunkcharjunk是两个可选的函数,用于指定哪些行或字符应该被忽略。

  • compare(a, b):返回一个生成器,逐行比较两个序列ab,并生成差异报告。每一行的开头有一个标记,表示该行的状态,有以下几种:

    • ' ': 表示该行在两个序列中都存在,无差异。

    • '-': 表示该行只在第一个序列中存在,被删除。

    • '+': 表示该行只在第二个序列中存在,被添加。

    • '?': 表示该行在两个序列中有不同的字符,需要进一步比较。

一个简单的例子

为了演示如何使用difflib库进行自动查重,我们可以用它来比较两篇文章的内容,并输出相似度和差异报告。假设我们有以下两篇文章:

文章A:

Python是一种高级编程语言,它的设计哲学是“优雅”、“明确”、“简单”。Python拥有动态类型系统和垃圾回收功能,能够自动管理内存使用,并且支持多种编程范式,包括面向对象、命令式、函数式和过程式编程。Python的语法简洁而清晰,使用缩进来表示代码块,从而减少了代码的冗余。Python解释器本身几乎可以在所有的操作系统中运行。Python的标准库提供了丰富的功能,包括图形界面、数据库、网络、多线程、正则表达式等。Python还有许多第三方库和框架,可以用于科学计算、数据分析、机器学习、Web开发等领域。Python是一种通用的编程语言,适用于各种应用场景。

文章B:

Python是一门通用的高级编程语言。它具有简单明确的语法,使用缩进来组织代码结构。Python支持多种编程范式,如面向对象、函数式和过程式编程。Python具有动态类型系统和自动内存管理功能,可以适应不同的需求和环境。Python可以在多种操作系统中运行,并且拥有庞大的标准库和第三方库,涵盖了图形界面、数据库、网络、多线程、正则表达式等各种功能。Python还可以用于科学计算、数据分析、机器学习、Web开发等领域。Python是一门优雅而强大的编程语言,适合各种应用场景。

我们可以将这两篇文章保存为两个文本文件,分别命名为article_a.txtarticle_b.txt,然后使用以下代码来进行自动查重:

# 导入difflib库
import difflib

# 打开并读取两个文本文件
with open('article_a.txt', 'r', encoding='utf-8') as f:
    a = f.read()
with open('article_b.txt', 'r', encoding='utf-8') as f:
    b = f.read()

# 创建一个SequenceMatcher对象
sm = difflib.SequenceMatcher(None, a, b)

# 计算并打印两篇文章的相似度
similarity = sm.ratio()
print(f'相似度:{similarity:.2f}')

# 创建一个Differ对象
d = difflib.Differ()

# 比较并生成差异报告
diff = d.compare(a.splitlines(), b.splitlines())

# 打印差异报告
print('差异报告:') 
for line in diff: 
  print(line)

运行结果如下图:

640?wx_fmt=png&tp=wxpic&wxfrom=5&wx_lazy=1&wx_co=1

总结

本教程介绍了如何使用Python中的difflib库进行自动查重,主要介绍了SequenceMatcher和Differ两个类的用法和API,以及一个简单的例子。通过使用difflib库,我们可以方便地比较两个文件或字符串之间的相似度和差异,并生成可读的结果。这对于检测抄袭或重复的情况,提高原创性和质量,有很大的帮助。希望本教程能够对你有所启发和帮助。😊

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1080437.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

kepler.gl 笔记:Layer

Point S2Layer Icon Line Cluster Polygon 一个路径型的GeoJSON图层可以显示诸如行程路线或等值线的数据。轮廓的颜色可以使用数值字段进行设置。 一个多边形型的GeoJSON图层本质上是一种区域填充图层,最适合用于呈现地理围栏。填充颜色或高度可以使用数值字…

HarmonyOS/OpenHarmony原生应用-ArkTS万能卡片组件Toggle

组件提供勾选框样式、状态按钮样式及开关样式。该组件从API Version 8开始支持。 仅当ToggleType为Button时可包含子组件。 一、接口 Toggle(options: { type: ToggleType, isOn?: boolean }) 从API version 9开始,该接口支持在ArkTS卡片中使用。 参数: Toggle…

Mac M1安装MongoDB6、后台运行

MongoDB,版本6.02 记录两种使用MongoDB的方法,安装包和docker docker mongo:Mac M1运行、连接 Docker MongoDB7。导出、恢复数据库 一、安装包,以mac M1为例 1、下载对应平台的安装包 M1选择ARM版本 https://www.mongodb.com/t…

SecureCRT 特点介绍 SecureCRT的安装和使用

SecureCRT 是一款支持SSH(SSH1和SSH2)的终端仿真程序,简单地说是Windows下登录UNIX或Linux服务器主机的软件,优点是可以一次创建多个 Tab Page,连接多台远程主机。 这里使用的是Mac版本的不过不影响,在Win…

RK3568平台开发系列讲解(驱动篇)RK3568 PWM详解

🚀返回专栏总目录 文章目录 一、什么是PWM二、RK3568 PWM2.1、PWM 通道与引脚2.2、PWM 简介2.3、PWM 设备节点沉淀、分享、成长,让自己和他人都能有所收获!😄 📢 PWM 是很常用到功能,我们可以通过 PWM 来控制电机速度,也可以使用 PWM 来控制 LCD 的背光亮度。 一、什…

每日一题 2512. 奖励最顶尖的 K 名学生(中等,模拟,排序)

思路: 对于每一个学生的评价,使用 split 方法提取评价中的每一个字符,然后逐个判断是否是正面或者负面词汇来计算分数对id按照要求进行排序。为了加快字符的正负判断速度,先将 positive 和 negative 两个列表转化为 set 这样就可…

智能文件管理助手,轻松实现按数量平均分类文件,高效整理新文件夹!

在我们的电脑或移动设备中,文件管理是我们日常工作和生活中不可或缺的一部分。有时候,我们可能需要将一个文件夹中的大量文件按照数量平均分配到多个新的文件夹中,以便更好地进行整理和管理。现在,我们为您提供了一款智能文件管理…

JSAPI实现H5页面微信支付

进入官网文档:> 微信支付官网文档 根据官网文档能够很详细的需要做的事 接下来,采用的是JSAPI的方式在小程序嵌入H5页面中实现微信支付,直接拉起支付页面 一:需要在微信公众号平台和微信支付商家平台获取的配置的关键参数如下…

MidJourney | AI绘画也有艺术

免费绘画,体验更多AI可关&注公&众&号:AI研究工厂

ICPC 2019-2020 North-Western Russia Regional Contest

A (codeforces.com) 这题在移动不被挡板挡住以及不超过边界的情况下,每次走的越多那么次数就越少 只要两个每次都走b-a步(已经是不被挡板挡住走的最多了),就不用考虑被挡板挡住的情况,只用单独考虑了,如果…

算法通过村第十三关-术数|黄金笔记|数论问题

文章目录 前言辗转相除法素数和合数埃氏筛选法丑数问题总结 前言 提示:难过的人伤心的人、在生活里面对困境的人、即将抑郁的人、从外面很难看出异样,人的心里却可能有一些裂痕。只是人不会再表面裂开。 --栾颖新《那个苹果也很好》 数论是一个很重要的学…

Stable diffusion 用DeOldify给黑白照片、视频上色

老照片常常因为当时的技术限制而只有黑白版本。然而现代的 AI 技术,如 DeOldify,可以让这些照片重现色彩。 本教程将详细介绍如何使用 DeOldify 来给老照片上色。. 之前介绍过基于虚拟环境的 基于DeOldify的给黑白照片、视频上色,本次介绍对于新手比较友好的在Stable diff…

2023年中国非血管介入手术无源耗材发展现状、竞争格局及行业市场规模[图]

非血管介入手术是指通过人体自然腔道或通过人体的小切口接近病灶而无需进入血管系统的微创手术,内窥镜、有源医疗器械及无源耗材则是该手术中最常用的医疗器械。非血管介入手术无源耗材主要包括导丝、球囊导管、取石网篮、封堵导管及鞘管。 非血管介入手术无源耗材…

LeetCode【739】每日温度

题目: 思路: https://www.bilibili.com/video/BV1PJ411H7P7/?spm_id_from333.337.search-card.all.click&vd_source2f682a60feabf0f730ad09e0f980ce83 单调栈 思考: 解决栈类问题,思考入栈,出栈条件;…

vue设置页面超时15分钟自动退出登录

需求:用户登录后,如果长时间未操作页面这个时候需要自动退出登录回到登录页面。 注意点:这里我们如果把超时的时间放到浏览器里面存储,我们要放到本地存储里面localStorage里面 Vue设置长时间未操作登录以后自动到期返回登录页 …

重生奇迹MU玛雅宝石的获取方法

在打斗游戏中重生奇迹MU游戏最好玩,并且游戏里面有很多的宝石,比如玛雅宝石、灵魂宝石以及创造宝石等等,这些宝石的作用非常强大,玩家必须要懂得如何利用这些宝石。 那么是否了解玛雅宝石呢,玛雅宝石应该算是最经典的…

为什么选择虚拟展会展览?了解虚拟展会展览的应用领域

引言: 相较于传统的实体展览,虚拟展会展览具有吸引力和便捷性,能够在全球范围内进行宣传活动。这种创新形式不仅能够降低成本、扩大受众范围,还能够提供没有过的互动性和数据分析。 一.虚拟展会展览简介 虚拟展会展览…

TikTok变现的5个高效策略:打造成功创作者之路

短视频平台TikTok已经成为全球范围内最受欢迎的社交媒体之一,吸引了数亿用户。对于创作者而言,TikTok不仅是一个分享创意和娱乐的平台,还是一个潜在的收入来源。本文Nox聚星将和大家探讨TikTok的变现策略,揭示其中的关键秘诀和策略…

京东数据平台:2023年京东营养保健品市场销售数据分析

随着十一长假结束,市场端也开始了一系列的消费数据回顾和复盘。从现有数据表现来看,营养保健品市场的增长备受关注。 近日,京东消费及产业发展研究院与《经济日报》联合整合了相关数据。数据显示,2023年中秋福利采购季期间&#…

class类实现Serializable接口生成serialVersionUID

前言 我在class类实现了Serializable接口,发现把鼠标放在这个类名上,然后键盘输入altenter键没有生成serialVersionUID的提示 解决 找到Editor下边的Inspections,然后搜索UID,把如下截图中的勾选即可 效果 鼠标光标放在类名上&am…