Please wait a minute...

大连海洋大学学报  2020, Vol. 35 Issue (2): 296-301    DOI: 10.16535/j.cnki.dlhyxb.2019-289
  |
融合注意力机制和BiLSTM+CRF的渔业标准命名实体识别
程名1、2、3,于红1、2、3*,冯艳红1、3,任媛1、2、3,付博1、2、3,刘巨升1、2、3,杨鹤1、2、3
1.大连海洋大学 信息工程学院,辽宁 大连;2.设施渔业教育部重点实验室,辽宁 大连;3.辽宁省海洋信息技术重点实验室,辽宁 大连
Fishery standard named entity recognition with integrated attention mechanism and BiLSTM+CRF
CHENG Ming1,2,3, YU Hong1,2,3*, FENG Yanhong1,3, REN Yuan1,2,3, FU Bo1,2,3, LIU Jusheng1,2,3, YANG He1,2,3
1.College of Information Engineering, Dalian Ocean University, Dalian; 2.Key Laboratory of Environment Controlled Aquaculture, Ministry of Education, Dalian; 3.Key Laboratory of Marine Information Technology of Liaoning Province, Dalian
下载:  HTML  PDF (497KB) 
输出:  BibTeX | EndNote (RIS)      
摘要 为了解决渔业标准文本中专有命名实体具有上下文敏感性、长序列存在语义稀释等问题,提出了基于E-BIO标注法和融合注意力机制的BiLSTM+CRF(BiLSTM+Attention+CRF)命名实体识别模型,E-BIO标注法引入渔业标准文本中的结构化信息,可以使模型有效学习上下文结构特征,而注意力机制输出不断变化的语义向量,可有效解决长序列语义稀释问题。为验证所提出方法的有效性,在采用E-BIO方法标注的语料上进行对比试验,结果显示,BiLSTM+Attention+CRF模型对不同类别的渔业标准命名实体识别的准确率均能达到90%以上,召回率均能达到85%以上。研究表明,本研究中提出的BiLSTM+Attention+CRF命名实体识别模型可以有效利用上下文结构特征,避免了语义稀释问题,对于渔业标准命名实体识别具有较好的识别性能。
服务
把本文推荐给朋友
加入引用管理器
E-mail Alert
RSS
作者相关文章
程名
于红
冯艳红
任媛
付博
刘巨升
杨鹤
关键词:  渔业标准命名实体识别  标注方法  双向长短时记忆网络(BiLSTM)  注意力机制  条件随机场    
Abstract: A named entity recognition model of BiLSTM+CRF(BiLSTM+Attention+CRF)is proposed based on E-BIO annotation and attention mechanism to deal with the problems of context sensitivity and semantic dilution of long sequences in fishery standard texts.The E-BIO tagging method can effectively learn the context structure features by introducing the structured information in the fishery standard text, and the attention mechanism can output the changing semantic vector to effectively solve the problem of long sequence semantic dilution.A comparative experiment was carried out on the corpus annotated with E-BIO method in order to verify the effectiveness of the proposed method, with accuracy of more than 90% for BiLSTM+Attention+CRF in the recognition of different types of fishery standard named entities, and the recall rate of over 85%.The findings indicate that the proposed method can effectively utilize the features of context structure, avoiding the problem of semantic dilution, and that has better recognition performance for fishery standard named entity recognition.
Key words:  named entity recognition of fishery standards    annotation method    BiLSTM    attention    CRF
               出版日期:  2020-04-07      发布日期:  2020-04-07      期的出版日期:  2020-04-07
中图分类号:  TP391  
基金资助: 辽宁省高等学校海洋产业技术研究院项目(2018-CY-04);国家自然科学基金资助项目(31972846)
引用本文:    
程名, 于红, 冯艳红, 任媛, 付博, 刘巨升, 杨鹤. 融合注意力机制和BiLSTM+CRF的渔业标准命名实体识别[J]. 大连海洋大学学报, 2020, 35(2): 296-301.
CHENG Ming, YU Hong, FENG Yanhong, REN Yuan, FU Bo, LIU Jusheng, YANG He, . Fishery standard named entity recognition with integrated attention mechanism and BiLSTM+CRF. Journal of Dalian Ocean University, 2020, 35(2): 296-301.
链接本文:  
https://xuebao.dlou.edu.cn/CN/10.16535/j.cnki.dlhyxb.2019-289  或          https://xuebao.dlou.edu.cn/CN/Y2020/V35/I2/296
[1] 何津民, 张丽珍. 基于自注意力机制和CNN-LSTM深度学习的对虾投饵量预测模型[J]. 大连海洋大学学报, 2022, 37(2): 304-311.
[2] 赵梦, 于红, 李海清, 胥婧雯, 程思奇, 谷立帅, 张鹏, 韦思学, 郑国伟. 融合SKNet与YOLOv5深度学习的养殖鱼群检测[J]. 大连海洋大学学报, 2022, 37(2): 312-319.
[3] 文莉莉, 孙苗, 邬满. 基于注意力机制和Faster R-CNN深度学习的海洋目标识别模型[J]. 大连海洋大学学报, 2021, 36(5): 859-865.
No Suggested Reading articles found!
Viewed
Full text


Abstract

Cited

  Shared   
  Discussed