基于热力图、逆向工程和模型剪枝的后门攻击防御方法

发明专利有效专利

申请号：
CN202110449810.5
IPC分类号：G06F21/56;G06K9/62;G06N3/08
申请日期：
2021-04-25
申请人：
浙江大学

基础信息

权利要求

说明书

PDF全文

法律信息

引证文献

著录项信息

专利名称	基于热力图、逆向工程和模型剪枝的后门攻击防御方法
申请号	CN202110449810.5	申请日期	2021-04-25
法律状态	实质审查	申报国家	中国
公开/公告日	2021-07-13	公开/公告号	CN113111349A
优先权	暂无	优先权号	暂无
主分类号	G06F21/56 ? IPC结构图谱： G 物理 G0 仪器 G06 计算；推算；计数 G06F 电数字数据处理（基于特定计算模型的计算机系统入G06N） G06F21/24 （转入G06F 21/60） G06F21/50 监控用户、程序或设备，以维护平台完整。例如处理器、固件或操作系统〔2013.01〕 G06F21/55 检测本地入侵或实施对策〔2013.01〕 G06F21/56 计算机恶意软件检测或处理，例如反病毒装置〔2013.01〕	IPC分类号	G;0;6;F;2;1;/;5;6;;;G;0;6;K;9;/;6;2;;;G;0;6;N;3;/;0;8查看分类表>
申请人	浙江大学	申请人地址	浙江省杭州市西湖区余杭塘路866号变更专利地址、主体等相关变化，请及时变更，防止失效
权利人	浙江大学	当前权利人	浙江大学
发明人	陈艳姣;龚雪鸾;徐文渊;李晓媛;彭艺欣
代理机构	北京睿智保诚专利代理事务所（普通合伙）	代理人	韩迎之

摘要

本发明公开了一种基于热力图、逆向工程和模型剪枝的后门攻击防御方法，涉及神经网络模型剪枝领域。本发明确定目标神经网络中每一类别的后门触发器，通过离群检测点算法比较所述后门触发器的L1范式，并确定目标标签，作为目标标签数据；对所述目标神经网络的类别进行模型反演计算出相应数据集，根据所述数据集绘制热力图，根据所述热力图确定所述后门触发器的最佳位置；向所述目标神经网络依次输入目标标签数据，根据输入目标标签数据的权值、激活值，筛选出所述目标神经网络中目标神经元；根据目标神经元，对目标神经网络进行模型剪枝。本发明可以有效防御基于随机型触发器和基于模型依赖型触发器的后门攻击。

序号	公开(公告)号	公开(公告)日	申请日	专利名称	申请人
该专利没有引用任何外部专利数据！

序号	公开(公告)号	公开(公告)日	申请日	专利名称	申请人
该专利没有被任何外部专利所引用！

我浏览过的专利

专利服务由北京酷爱智慧知识产权代理公司提供