一种文本摘要抽取方法和装置.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN113901174A(43)申请公布日2022.01.07(21)申请号202111186594.6G06N3/04(2006.01)(22)申请日2021.10.12G06N3/08(2006.01)(71)申请人北京沃东天骏信息技术有限公司地址100176北京市北京经济技术开发区科创十一街18号院2号楼4层A402室申请人北京京东世纪贸易有限公司(72)发明人李清(74)专利代理机构中原信达知识产权代理有限责任公司11219代理人张一军王安娜(51)Int.Cl.G06F16/33(2019.01)G06F16/34(2019.01)G06F40/211(2020.01)G06F40/30(2020.01)权利要求书2页说明书13页附图6页(54)发明名称一种文本摘要抽取方法和装置(57)摘要本发明公开了一种文本摘要抽取方法和装置，涉及自然语言处理技术领域。该方法的一具体实施方式包括：将文本中的各个句子转换成语义向量，将所述各个句子的语义向量输入到第一循环神经网络中，以输出所述各个句子的语义表征向量；将所述文本中的各个句子转换成语法结构向量，将所述各个句子的语法结构向量输入到第二循环神经网络中，以输出所述各个句子的结构表征向量；将所述各个句子的语义表征向量和结构表征向量输入到语义结构卷积层中，以输出文本内容向量；将所述文本内容向量输入到第三循环神经网络中，以输出目标句子作为文本摘要。该实施方式能够解决抽取式文本摘要不符合文本中心意思的技术问题。CN113901174ACN113901174A权利要求书1/2页1.一种文本摘要抽取方法，其特征在于，包括：将文本中的各个句子转换成语义向量，将所述各个句子的语义向量输入到第一循环神经网络中，以输出所述各个句子的语义表征向量；将所述文本中的各个句子转换成语法结构向量，将所述各个句子的语法结构向量输入到第二循环神经网络中，以输出所述各个句子的结构表征向量；将所述各个句子的语义表征向量和结构表征向量输入到语义结构卷积层中，以输出文本内容向量；将所述文本内容向量输入到第三循环神经网络中，以输出目标句子作为文本摘要。2.根据权利要求1所述的方法，其特征在于，将所述文本中的各个句子转换成语法结构向量，包括：对于所述文本中的每个句子，计算所述句子中的实体数量，从而根据所述句子中的实体数量生成所述句子的语法向量；对于所述文本中的每个句子，计算所述句子与基线句子的差距，从而根据所述句子与基线句子的差距生成所述句子的结构向量；将所述句子的语法向量和结构向量输入到语法结构卷积层中，以输出所述句子的语法结构向量。3.根据权利要求2所述的方法，其特征在于，计算所述句子与基线句子的差距，包括：按照正序对所述文本中的每个句子依次编号，统计所述文本的句子数量为N；将编号为N/2对应的句子作为基线句子，计算所述句子的编号与所述基线句子的编号的差值。4.根据权利要求1所述的方法，其特征在于，将文本中的各个句子转换成语义向量，包括：采用BERT模型将文本中的各个句子转换成语义向量。5.根据权利要求1所述的方法，其特征在于，将所述各个句子的语法结构向量输入到第二循环神经网络中，以输出所述各个句子的结构表征向量，包括：将所述各个句子的语法结构向量输入到第一校对层中，以输出所述各个句子的校对语法结构向量；其中，所述第一校对层采用差异度向量对所述各个句子的语法结构向量进行校对；将所述各个句子的校对语法结构向量输入到第二循环神经网络中，以输出所述各个句子的结构表征向量。6.根据权利要求5所述的方法，其特征在于，采用差异度向量对所述各个句子的语法结构向量进行校对，包括：将所述各个句子的语法结构向量与差异度向量进行按位相乘。7.根据权利要求1所述的方法，其特征在于，将所述文本内容向量输入到第三循环神经网络中，以输出目标句子作为文本摘要，包括：将所述文本内容向量输入到第二校对层中，以输出校对文本内容向量；其中，所述第二校对层采用差异度向量对所述文本内容向量进行校对；将所述校对文本内容向量输入到第三循环神经网络中，以输出目标句子作为文本摘要。2CN113901174A权利要求书2/2页8.根据权利要求7所述的方法，其特征在于，采用差异度向量对所述文本内容向量进行校对，包括：将所述文本内容向量与差异度向量进行按位相乘。9.根据权利要求5‑8中任一项所述的方法，其特征在于，将文本中的各个句子转换成语义向量之前，还包括：采用BERT模型将所述文本的摘要句子转换成语义向量；计算所述摘要句子的语义向量与所述第三循环神经网络输出的目标句子的语义向量之间的差异度向量。10.根据权利要求1所述的方法，其特征在于，所述第一循环神经网络为双向长短期记忆循环神经网络；和/或，所述