一种强化特征表示的专有名词命名实体识别方法

一种强化特征表示的专有名词命名实体识别方法

技术类型 : 专利

专利所属地 :中国

公开号 :CN202410418617.9

技术成熟度 :正在研发

转让方式 :技术转让

交易价格:面议

应用领域 : 其他信息技术服务业

技术领域 :电子信息

联系咨询
成果概况
简介
本发明公开了一种强化特征表示的专有名词命名实体识别方法,包括:分别生成命名实体的上下文词嵌入表示和图嵌入表示;利用BERT模型中预训练好的transformer自注意力权重对图卷积网络的图注意力机制进行动态初始化;将词嵌入表示和图嵌入表示一一对应输入至BERT模型和初始化后的图卷积网络;基于BERT模型对词嵌入表示进行特征提取,获得命名实体的局部上下文特征表示;基于图卷积网络对图嵌入表示进行特征提取,获得命名实体全局动态的辅助特征表示;对上下文特征表示和辅助特征表示进行特征融合,得到强化特征;基于条件随机场模型对强化特征进行序列标注。本发明能够同时提取文本的局部信息和全局信息进行命名实体识别,提升了命名实体识别模型的性能。
专利基本信息
专利名称 一种强化特征表示的专有名词命名实体识别方法
专利状态 其他 公开号 CN202410418617.9
申请号 CN118313381A 专利申请日期 2024-04-09
专利授权日期 0001-01-01 专利权届满日 -
专利所属地 中国 专利类型 发明
发明人 天津科技大学;
权利人 张贤坤,彭思远,梁琨,张翼英
专利摘要 本发明公开了一种强化特征表示的专有名词命名实体识别方法,包括:分别生成命名实体的上下文词嵌入表示和图嵌入表示;利用BERT模型中预训练好的transformer自注意力权重对图卷积网络的图注意力机制进行动态初始化;将词嵌入表示和图嵌入表示一一对应输入至BERT模型和初始化后的图卷积网络;基于BERT模型对词嵌入表示进行特征提取,获得命名实体的局部上下文特征表示;基于图卷积网络对图嵌入表示进行特征提取,获得命名实体全局动态的辅助特征表示;对上下文特征表示和辅助特征表示进行特征融合,得到强化特征;基于条件随机场模型对强化特征进行序列标注。本发明能够同时提取文本的局部信息和全局信息进行命名实体识别,提升了命名实体识别模型的性能。