一种融合多头注意力机制和相对位置编码的知识库问答方法

发明专利有效专利

申请号：
CN202111035912.9
IPC分类号：G06F16/332;G06F40/211;G06F40/35;G06N3/04;G06N3/08;G06N5/04
申请日期：
2021-09-03
申请人：
重庆邮电大学

基础信息

权利要求

说明书

PDF全文

法律信息

引证文献

著录项信息

专利名称	一种融合多头注意力机制和相对位置编码的知识库问答方法
申请号	CN202111035912.9	申请日期	2021-09-03
法律状态	公开	申报国家	中国
公开/公告日	2021-11-26	公开/公告号	CN113704437A
优先权	暂无	优先权号	暂无
主分类号	G06F16/332	IPC分类号	G;0;6;F;1;6;/;3;3;2;;;G;0;6;F;4;0;/;2;1;1;;;G;0;6;F;4;0;/;3;5;;;G;0;6;N;3;/;0;4;;;G;0;6;N;3;/;0;8;;;G;0;6;N;5;/;0;4查看分类表>
申请人	重庆邮电大学	申请人地址	重庆市南岸区黄桷垭崇文路2号变更专利地址、主体等相关变化，请及时变更，防止失效
权利人	重庆邮电大学	当前权利人	重庆邮电大学
发明人	甘玲;肖阳
代理机构	北京同恒源知识产权代理有限公司	代理人	赵荣之

摘要

本发明涉及一种融合多头注意力机制和相对位置编码的知识库问答方法，属于自然语言处理领域，引入Transformer编码器代替BiLSTM对问题进行编码，同时，由于Transformer的结构问题，它对获取句子中相对位置词语信息的能力不足，本发明采用Transformer－XL中的相对位置编码思想，对Transformer中使用的绝对位置编码公式进行了改写，使用了相对位置编码代替其中的绝对位置编码，弥补了获取相对位置词语信息能力不足的情况。

序号	公开(公告)号	公开(公告)日	申请日	专利名称	申请人
该专利没有引用任何外部专利数据！

序号	公开(公告)号	公开(公告)日	申请日	专利名称	申请人
该专利没有被任何外部专利所引用！

我浏览过的专利

专利服务由北京酷爱智慧知识产权代理公司提供