基于训练数据相似度聚合的模型加速训练方法及装置

发明专利有效专利

申请号：
CN202110021199.6
IPC分类号：G06K9/62;G06N3/08
申请日期：
2021-01-08
申请人：
北京匠数科技有限公司

基础信息

权利要求

说明书

PDF全文

法律信息

引证文献

著录项信息

专利名称	基于训练数据相似度聚合的模型加速训练方法及装置
申请号	CN202110021199.6	申请日期	2021-01-08
法律状态	实质审查	申报国家	中国
公开/公告日	2021-04-30	公开/公告号	CN112733932A
优先权	暂无	优先权号	暂无
主分类号	G06K9/62 ? IPC结构图谱： G 物理 G0 仪器 G06 计算；推算；计数 G06K 数据识别；数据表示；记录载体；记录载体的处理（印刷本身入B41J） G06K9/00 用于阅读或识别印刷或书写字符或者用于识别图形，例如，指纹的方法或装置（用于图表阅读或者将诸如力或现状态的机械参量的图形转换为电信号的方法或装置入G06K 11/00；语音识别入G10L 15/00）〔1，7〕 G06K9/62 应用电子设备进行识别的方法或装置〔3〕	IPC分类号	G;0;6;K;9;/;6;2;;;G;0;6;N;3;/;0;8查看分类表>
申请人	北京匠数科技有限公司	申请人地址	北京市海淀区吴家场路1号院4号楼2层3单元201 变更专利地址、主体等相关变化，请及时变更，防止失效
权利人	北京匠数科技有限公司	当前权利人	北京匠数科技有限公司
发明人	张乐平;侯磊;张博;李海峰;王光曦
代理机构	北京盛凡佳华专利代理事务所（普通合伙）	代理人	王翠

摘要

基于训练数据相似度聚合的模型加速训练方法及装置，以一份最小化的训练数据作为起始，在每个轮次中应用随机采样和随机增量的方式从当前模型的预测结果中提取预测不佳的数据，并且用聚类提取方式采样额外的训练数据，从而获取最具有代表性的训练信息，提高每个轮次的训练效率。本发明减少每个轮次模型训练的数据集规模，训练时间大幅减少，聚类不需要精确结果，可减少迭代次数或使用更快速简单的聚类方法，总体上每个轮次总训练时间仍比原有全训练集训练减少很多；每个轮次选择的训练数据均有针对性，选用推理错误的图像训练，能够最大程度的获取反向传播梯度，降低训练时陷入局部最优解的概率，便于在训练过程中动态调整，以达到最佳训练结果。

序号	公开(公告)号	公开(公告)日	申请日	专利名称	申请人
该专利没有引用任何外部专利数据！

序号	公开(公告)号	公开(公告)日	申请日	专利名称	申请人
该专利没有被任何外部专利所引用！

我浏览过的专利

专利服务由北京酷爱智慧知识产权代理公司提供