模型蒸馏及相关方法、装置和电子设备、存储介质

发明专利有效专利

申请号：
CN202110897302.3
IPC分类号：G06N3/04;G06N3/08
申请日期：
2021-08-05
申请人：
科大讯飞（苏州）科技有限公司

基础信息

权利要求

说明书

PDF全文

法律信息

引证文献

著录项信息

专利名称	模型蒸馏及相关方法、装置和电子设备、存储介质
申请号	CN202110897302.3	申请日期	2021-08-05
法律状态	实质审查	申报国家	中国
公开/公告日	2021-09-03	公开/公告号	CN113344190A
优先权	暂无	优先权号	暂无
主分类号	G06N3/04 ? IPC结构图谱： G 物理 G0 仪器 G06 计算；推算；计数 G06N 基于特定计算模型的计算机系统〔7〕 G06N3/00 基于生物学模型的计算机系统（仿真生物的功能方面的模拟计算机入G06G 7/60）〔7〕 G06N3/02 采用神经网络模型（用于自适应控制的入G05B 13/00；用于图像模式匹配的入G06K 9/00；用于图像数据处理的入G06T 1/40；用于语音模式匹配的入G10L 15/16）〔7〕 G06N3/04 体系结构，例如，互连拓扑〔7〕	IPC分类号	G;0;6;N;3;/;0;4;;;G;0;6;N;3;/;0;8查看分类表>
申请人	科大讯飞（苏州）科技有限公司	申请人地址	江苏省苏州市工业园区金鸡湖大道88号E4单元变更专利地址、主体等相关变化，请及时变更，防止失效
权利人	科大讯飞（苏州）科技有限公司	当前权利人	科大讯飞（苏州）科技有限公司
发明人	金博伟;许琢;支洪平;孙萍;王旭;鲁盈悦;金玥;高逸晨
代理机构	深圳市威世博知识产权代理事务所（普通合伙）	代理人	何倚雯

摘要

本申请公开了一种模型蒸馏及相关方法、装置和电子设备、存储介质，其中，模型蒸馏方法包括：获取第一模型和第二模型；其中，第一模型的第一参数数量多于第二模型的第二参数数量；基于第一模型和第二模型，得到多个网络模型；其中，多个网络模型包括第一模型、第二模型和预设数值个第三模型，第三模型的第三参数数量少于第一参数数量且多于第二参数数量；利用样本数据对多个网络模型进行模型蒸馏，得到目标模型。上述方案，能够提升模型蒸馏效果。

序号	公开(公告)号	公开(公告)日	申请日	专利名称	申请人
该专利没有引用任何外部专利数据！

序号	公开(公告)号	公开(公告)日	申请日	专利名称	申请人
该专利没有被任何外部专利所引用！

我浏览过的专利

专利服务由北京酷爱智慧知识产权代理公司提供