自然语言处理方法、装置、电子设备及存储介质

发明专利有效专利

申请号：
CN202010746066.0
IPC分类号：G06F40/289;G06F40/205;G06F40/30;G06F16/35
申请日期：
2020-07-29
申请人：
北京字节跳动网络技术有限公司

基础信息

权利要求

说明书

PDF全文

法律信息

引证文献

著录项信息

专利名称	自然语言处理方法、装置、电子设备及存储介质
申请号	CN202010746066.0	申请日期	2020-07-29
法律状态	授权	申报国家	中国
公开/公告日	2020-11-10	公开/公告号	CN111914551A
优先权	暂无	优先权号	暂无
主分类号	G06F40/289	IPC分类号	G;0;6;F;4;0;/;2;8;9;;;G;0;6;F;4;0;/;2;0;5;;;G;0;6;F;4;0;/;3;0;;;G;0;6;F;1;6;/;3;5查看分类表>
申请人	北京字节跳动网络技术有限公司	申请人地址	北京市石景山区实兴大街30号院3号楼2层B-0035房间变更专利地址、主体等相关变化，请及时变更，防止失效
权利人	北京字节跳动网络技术有限公司	当前权利人	北京字节跳动网络技术有限公司
发明人	张新松;李鹏帅;李航
代理机构	北京远智汇知识产权代理有限公司	代理人	暂无

摘要

本公开实施例公开了一种语言表示模型系统、语言表示模型的预训练方法、自然语言处理方法、装置、设备及介质，所述语言表示模型系统包括以字为分词单位的字粒度语言表示子模型和以词为分词单位的词粒度语言表示子模型；其中，字粒度语言表示子模型用于基于以字为分词单位的语句输出每个分字在所述语句中所表达的语义对应的第一语义向量；词粒度语言表示子模型用于基于以词为分词单位的所述语句输出每个分词在所述语句中所表达的语义对应的第二语义向量。本公开实施例的技术方案，提供了一种混合粒度语言表示模型，为下游自然语言处理任务提供了模型基础，有助于提升下游自然语言处理任务的处理精度，提升了语言表示模型的迁移效果。

序号	公开(公告)号	公开(公告)日	申请日	专利名称	申请人
该专利没有引用任何外部专利数据！

序号	公开(公告)号	公开(公告)日	申请日	专利名称	申请人
该专利没有被任何外部专利所引用！

我浏览过的专利

专利服务由北京酷爱智慧知识产权代理公司提供