基于高斯分布特征的深层卷积神经网络压缩加速方法

发明专利有效专利

申请号：
CN202011205437.0
IPC分类号：G06N3/04;G06N3/08
申请日期：
2020-11-02
申请人：
北京工业大学

基础信息

权利要求

说明书

PDF全文

法律信息

引证文献

著录项信息

专利名称	基于高斯分布特征的深层卷积神经网络压缩加速方法
申请号	CN202011205437.0	申请日期	2020-11-02
法律状态	实质审查	申报国家	中国
公开/公告日	2021-06-04	公开/公告号	CN112906854A
优先权	暂无	优先权号	暂无
主分类号	G06N3/04 ? IPC结构图谱： G 物理 G0 仪器 G06 计算；推算；计数 G06N 基于特定计算模型的计算机系统〔7〕 G06N3/00 基于生物学模型的计算机系统（仿真生物的功能方面的模拟计算机入G06G 7/60）〔7〕 G06N3/02 采用神经网络模型（用于自适应控制的入G05B 13/00；用于图像模式匹配的入G06K 9/00；用于图像数据处理的入G06T 1/40；用于语音模式匹配的入G10L 15/16）〔7〕 G06N3/04 体系结构，例如，互连拓扑〔7〕	IPC分类号	G;0;6;N;3;/;0;4;;;G;0;6;N;3;/;0;8查看分类表>
申请人	北京工业大学	申请人地址	北京市朝阳区平乐园100号变更专利地址、主体等相关变化，请及时变更，防止失效
权利人	北京工业大学	当前权利人	北京工业大学
发明人	崔碧峰;许建荣;李超;徐勇军
代理机构	北京思海天达知识产权代理有限公司	代理人	沈波

摘要

本发明公开了基于高斯分布特征的深层卷积神经网络压缩加速方法，适用于深度神经网络模型的压缩。首先训练好一个原始的卷积神经网络，然后逐层对该网络进行高斯分析，根据分析的结果选择保留还是删除的卷积核，之后进训练，直到模型剪枝完成。本发明在进行压缩剪枝过程中，采用的技术方案是根据分布收敛特征进行剪枝，在压缩的过程中没有引入其他的剪枝约束超参数，因此压缩的过程是自动化搜索的。本发明的压缩结果是直接压缩出更小的模型，没有引入mask对权重进行操作，压缩的结果可以不依赖于相关的加速库而直接产生加速效果，始终让模型的性能保证在原来的基础上，即没有出现任何的精度损失下进行的。

序号	公开(公告)号	公开(公告)日	申请日	专利名称	申请人
该专利没有引用任何外部专利数据！

序号	公开(公告)号	公开(公告)日	申请日	专利名称	申请人
该专利没有被任何外部专利所引用！

我浏览过的专利

专利服务由北京酷爱智慧知识产权代理公司提供