一种基于Fisher信息矩阵的增量学习方法

发明专利有效专利

申请号：
CN202110788383.3
IPC分类号：G06K9/62;G06N3/04;G06N3/08
申请日期：
2021-07-13
申请人：
之江实验室

基础信息

权利要求

说明书

PDF全文

法律信息

引证文献

著录项信息

专利名称	一种基于Fisher信息矩阵的增量学习方法
申请号	CN202110788383.3	申请日期	2021-07-13
法律状态	实质审查	申报国家	中国
公开/公告日	2021-10-01	公开/公告号	CN113469262A
优先权	暂无	优先权号	暂无
主分类号	G06K9/62 ? IPC结构图谱： G 物理 G0 仪器 G06 计算；推算；计数 G06K 数据识别；数据表示；记录载体；记录载体的处理（印刷本身入B41J） G06K9/00 用于阅读或识别印刷或书写字符或者用于识别图形，例如，指纹的方法或装置（用于图表阅读或者将诸如力或现状态的机械参量的图形转换为电信号的方法或装置入G06K 11/00；语音识别入G10L 15/00）〔1，7〕 G06K9/62 应用电子设备进行识别的方法或装置〔3〕	IPC分类号	G;0;6;K;9;/;6;2;;;G;0;6;N;3;/;0;4;;;G;0;6;N;3;/;0;8查看分类表>
申请人	之江实验室	申请人地址	浙江省杭州市余杭区文一西路1818号人工智能小镇10号楼变更专利地址、主体等相关变化，请及时变更，防止失效
权利人	之江实验室	当前权利人	之江实验室
发明人	张少杰;朱世强;蔡思佳;任杰;徐泽民;顾建军
代理机构	杭州求是专利事务所有限公司	代理人	邱启旺

摘要

本发明公开了一种基于Fisher信息矩阵的增量学习方法。该方法通过计算Fisher信息矩阵判定神经网络各层参数的重要性；通过分离层间参数和层内参数，大大提升Fisher信息矩阵的计算效率；通过引入新的车辆增量数据，迭代训练模型，避免了全量数据训练的庞大计算量；对不同重要性的参数设置相应的权重系数，使得先验模型和后验模型具有最大的相似度；将Fisher信息矩阵和经典的KL散度相关联，给予神经网络的流形假设更有力的支撑。本发明的测试结果表明神经网络各层参数之间确实存在不同的重要性，且引入正则项可以有效控制神经网络的先验模型和后验模型之间的距离，使其尽可能小。

序号	公开(公告)号	公开(公告)日	申请日	专利名称	申请人
该专利没有引用任何外部专利数据！

序号	公开(公告)号	公开(公告)日	申请日	专利名称	申请人
该专利没有被任何外部专利所引用！

我浏览过的专利

专利服务由北京酷爱智慧知识产权代理公司提供