基于梯度传输优化的数据分布式训练方法、系统及介质

发明专利有效专利

申请号：
CN202211264023.4
IPC分类号：H04L69/04;H04L9/40;G06N3/08;G06K9/62
申请日期：
2022-10-17
申请人：
南京凯奥思数据技术有限公司

基础信息

权利要求

说明书

PDF全文

法律信息

引证文献

著录项信息

专利名称	基于梯度传输优化的数据分布式训练方法、系统及介质
申请号	CN202211264023.4	申请日期	2022-10-17
法律状态	公开	申报国家	中国
公开/公告日	2022-11-15	公开/公告号	CN115348329A
优先权	暂无	优先权号	暂无
主分类号	H04L69/04	IPC分类号	H;0;4;L;6;9;/;0;4;;;H;0;4;L;9;/;4;0;;;G;0;6;N;3;/;0;8;;;G;0;6;K;9;/;6;2查看分类表>
申请人	南京凯奥思数据技术有限公司	申请人地址	江苏省南京市雨花台区宁双路19号云密城5号楼J栋7层708室变更专利地址、主体等相关变化，请及时变更，防止失效
权利人	南京凯奥思数据技术有限公司	当前权利人	南京凯奥思数据技术有限公司
发明人	徐徐;徐鹏飞;杨世飞;孙磊;邹小勇;刘宗斌
代理机构	湖北武汉永嘉专利代理有限公司	代理人	张宇;胡琳萍

摘要

本发明公开了一种基于梯度传输优化的数据分布式训练方法、系统及介质，属于数据分布式计算领域，方法包括各分机按照权重获取目标数据集后，分为训练集和测试集，通过标准算法模型对各分机进行训练；根据当前训练次数计算各分机的本地梯度，对每个分机的本地梯度进行压缩得到新梯度；主机根据各分机压缩后的新梯度计算所有分机的有效梯度的加权平均值得到主机的聚合梯度；各分机用聚合梯度更新权重项和偏置项参数并得到各分机的算法准确率，主机按权重对各分机对应的算法准确率进行加权平均，获得综合准确率；若不满足训练终止条件，则按照上述操作继续训练，若满足，则得到最优模型。通过本发明能有效的解决数据传输成本的问题，提高通讯效率。

序号	公开(公告)号	公开(公告)日	申请日	专利名称	申请人
该专利没有引用任何外部专利数据！

序号	公开(公告)号	公开(公告)日	申请日	专利名称	申请人
该专利没有被任何外部专利所引用！

我浏览过的专利

专利服务由北京酷爱智慧知识产权代理公司提供