一种基于相似度的文本查重方法及系统

发明专利有效专利

申请号：
CN201711088752.8
IPC分类号：G06F17/27;G06F17/30
申请日期：
2017-11-08
申请人：
中国科学院计算机网络信息中心

基础信息

权利要求

说明书

PDF全文

法律信息

引证文献

著录项信息

专利名称	一种基于相似度的文本查重方法及系统
申请号	CN201711088752.8	申请日期	2017-11-08
法律状态	实质审查	申报国家	中国
公开/公告日	2018-05-04	公开/公告号	CN107992470A
优先权	暂无	优先权号	暂无
主分类号	G06F17/27 ? IPC结构图谱： G 物理 G0 仪器 G06 计算；推算；计数 G06F 电数字数据处理（基于特定计算模型的计算机系统入G06N） G06F17/00 特别适用于特定功能的数字计算设备或数据处理设备或数据处理方法〔6〕 G06F17/20 处理自然语言数据的（语言分析或综合入G10L）〔6〕 G06F17/27 自动分析的，例如语法分析、正射校正的〔6〕	IPC分类号	G;0;6;F;1;7;/;2;7;;;G;0;6;F;1;7;/;3;0查看分类表>
申请人	中国科学院计算机网络信息中心	申请人地址	北京市海淀区中关村南四街4号变更专利地址、主体等相关变化，请及时变更，防止失效
权利人	中国科学院计算机网络信息中心	当前权利人	中国科学院计算机网络信息中心
发明人	肖云;王闰强;胡松波;何洪波
代理机构	北京君尚知识产权代理事务所（普通合伙）	代理人	余长江

摘要

本发明提供一种基于相似度的文本查重方法，其步骤包括：对待对比文本进行预处理；从文本数据库中筛选出与所述待对比文本的粗粒度相似度大于一相似候选集阈值的所有候选文本并组成相似候选集；以句子为分段单位，对所述待对比文本和所述候选文本进行分段；通过计算所述候选文本与所述待对比文本的TFIDF相似度、LDA相似度、doc2vec相似度和word2vec相似度来确定细粒度相似度；筛选出细粒度相似度超过一相似判定阈值的候选文本，确定其为所述待对比文本的相似文本，实现查重。本发明还提供一种基于相似度的文本查重系统，以实现上述方法。

序号	公开(公告)号	公开(公告)日	申请日	专利名称	申请人
该专利没有引用任何外部专利数据！

序号	公开(公告)号	公开(公告)日	申请日	专利名称	申请人
该专利没有被任何外部专利所引用！

我浏览过的专利

专利服务由北京酷爱智慧知识产权代理公司提供