全网唯一标准王
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210316887.X (22)申请日 2022.03.28 (71)申请人 北京快确信息科技有限公司 地址 100000 北京市西城区阜成门外大街 31号4层411D (72)发明人 林远平 甘伟超 邹鸿岳 周靖宇  (74)专利代理 机构 广东良马律师事务所 4 4395 专利代理师 李良 (51)Int.Cl. G06F 40/30(2020.01) G06F 40/247(2020.01) G06N 3/04(2006.01) G06N 3/08(2006.01) G06Q 40/04(2012.01) (54)发明名称 一种基于LSTM模型的信息抽取方法、 装置及 电子设备 (57)摘要 本发明公开了一种基于LSTM模型的信息抽 取方法、 装置及电子设备, 方法包括: 获取训练样 本, 对所述训练样本进行文本预处理, 生成预处 理好的训练文本和对应的标注序列; 构建基于注 意力机制的LSTM模型, 基于 所述预处理好的训练 文本和对应的标注序列, 对基于注意力机制的 LSTM模型进行训练, 生成目标LSTM模型; 获取待 提取事件文本, 对所述待提取事件文本进行预处 理, 生成预处理后的目标文本; 将所述目标文本 输入所述目标LS TM模型, 根据所述目标LS TM模型 的输出, 得到抽取后的结构化文本。 本发明实施 例基于LSTM模型, 提高了模型的语义信息理解能 力, 从而提高了现券成交的信息抽取准确率。 权利要求书2页 说明书8页 附图3页 CN 114970539 A 2022.08.30 CN 114970539 A 1.一种基于LSTM模型的信息抽取 方法,其特 征在于,所述方法包括: 获取训练样本, 对所述训练样本进行文本预处理, 生成预处理好的训练文本和对应的 标注序列; 构建基于注意力机制的LSTM模型, 基于所述预处理好的训练文本和对应的标注序列, 对基于注意力机制的LSTM模型进行训练, 生成目标LSTM模型; 获取待提取事 件文本, 对所述待提取事 件文本进行 预处理, 生成预处 理后的目标文本; 将所述目标文本输入所述目标LSTM模型, 根据所述目标LSTM模型的输出, 得到抽取后 的结构化文本 。 2.根据权利要求1所述的方法, 其特征在于, 所述获取训练样本, 对所述训练样本进行 文本预处 理, 生成预处 理好的训练文本和对应的标注序列, 包括: 获取训练样本, 将训练样本中的标注信息和文本进行分离; 将文本内容 转换成字符级别的词向量; 将标注信息转换为对应的标注序列。 3.根据权利要求2所述的方法, 其特征在于, 所述将文本内容转换成字符级别的词向 量, 包括: 获取文本内容中的词语, 将词语转换成字符级别的词向量; 获取词语的起始字位置和结束字位置; 将所述词向量、 词语的起始字位置和结束字位置进行存 储。 4.根据权利要求3所述的方法, 其特征在于, 所述获取文本内容中的词语, 将词语转换 成字符级别的词向量, 还 包括: 获取文本内容中的词语, 对词语的语义种类进行识别; 若词语的语义种类为 一种, 则将词语进行编码, 转换成字符级别的词向量; 若词语的语义种类为大于一种, 则将词语的每种语义对应的词向量信息进行融合后, 生成字符级别的词向量。 5.根据权利要求3所述的方法, 其特征在于, 所述将词语的各种语义对应的词向量信 息 进行融合后, 生成字符级别的词向量, 包括: 获取词语的每种语义对应的词向量的权 重系数; 根据所述权 重系数对词向量信息进行融合后, 生成字符级别的词向量。 6.根据权利要求5所述的方法, 其特征在于, 所述构建基于注意力机制的LSTM模型, 基 于所述预处理好的训练文本和对应的标注序列, 对基于注意力机制的LSTM模型进行训练, 生成目标LSTM模型, 包括: 构建基于注意力机制的LSTM模型, 所述LSTM模型包括LSTM细 胞、 输入门、 遗忘门和输出 门组成; 将词向量输入LSTM模型, 并通过LSTM细胞对词语的起始字位置和结束字位置之间进行 拼接; 根据拼接结果对基于注意力机制的LSTM模型进行训练, 生成目标LSTM模型。 7.根据权利要求5所述的方法, 其特征在于, 所述构建基于注意力机制的LSTM模型, 基 于所述预处理好的训练文本和对应的标注序列, 对基于注意力机制的LSTM模型进行训练, 生成目标LSTM模型, 包括:权 利 要 求 书 1/2 页 2 CN 114970539 A 2构建基于注意力机制的LSTM模型, 所述LSTM模型包括LSTM细 胞、 输入门、 遗忘门和输出 门组成; 将词向量输入LSTM模型, 并通过LSTM细胞对词语的起始字位置和结束字位置之间进行 拼接; 通过拼接结果获取对应的词语, 获取词语的语义种类, 获取 各种语义所占的权 重系数; 根据所述权 重系数对的LSTM模型进行训练, 生成目标LSTM模型。 8.一种基于LSTM模型的信息抽取装置, 其特 征在于, 所述装置包括: 样本预处理模块, 用于获取训练样本, 对所述训练样本进行文本预处理, 生成预处理好 的训练文本和对应的标注序列; 模型训练模块, 用于构建基于注意力机制的LSTM模型, 基于所述预处理好的训练文本 和对应的标注序列, 对基于注意力机制的LSTM模型进行训练, 生成目标LSTM模型; 待提取文本预处理模块, 用于获取待提取事件文本, 对所述待提取事件文本进行预处 理, 生成预处 理后的目标文本; 信息抽取模块, 用于将所述目标文本输入所述目标LSTM模型, 根据所述目标LSTM模型 的输出, 得到抽取后的结构化文本 。 9.一种电子设备, 其特 征在于, 所述电子设备包括至少一个处 理器; 以及, 与所述至少一个处 理器通信连接的存 储器; 其中, 所述存储器存储有可被所述至少一个处理器执行的指令, 所述指令被所述至少一个处 理器执行, 以使所述至少一个处理器能够执行权利要求1 ‑7任一项所述的基于LSTM模型的 信息抽取 方法。 10.一种非易失性计算机可读存储介质, 其特征在于, 所述非易失性计算机可读存储介 质存储有计算机可执行指令, 该计算机可执行指令被一个或多个处理器执行时, 可使得所 述一个或多个处 理器执行权利要求1 ‑7任一项所述的基于LSTM模型的信息抽取 方法。权 利 要 求 书 2/2 页 3 CN 114970539 A 3

.PDF文档 专利 一种基于LSTM模型的信息抽取方法、装置及电子设备

文档预览
中文文档 14 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共14页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种基于LSTM模型的信息抽取方法、装置及电子设备 第 1 页 专利 一种基于LSTM模型的信息抽取方法、装置及电子设备 第 2 页 专利 一种基于LSTM模型的信息抽取方法、装置及电子设备 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 17:44:46上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。