基于特征融合与注意力机制的医疗问答文本情感分析方法.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN115994542A(43)申请公布日2023.04.21(21)申请号202310288242.4(22)申请日2023.03.23(71)申请人南京邮电大学地址210003江苏省南京市栖霞区文苑路9号(72)发明人胥备杨晓峰付晓堃任雅靖(74)专利代理机构南京禹为知识产权代理事务所(特殊普通合伙)32272专利代理师曹洪(51)Int.Cl.G06F40/35(2020.01)G06F40/166(2020.01)G06N3/08(2023.01)G06F18/22(2023.01)G06F18/24(2023.01)权利要求书3页说明书8页附图2页(54)发明名称基于特征融合与注意力机制的医疗问答文本情感分析方法(57)摘要本发明公开了基于特征融合与注意力机制的医疗问答文本情感分析方法，包括：将医疗问答文本通过数据分割划分为患者问题文本和医生答案文本，进行预处理并分别经过ALBERT预训练模型得到各自对应的文本表示向量，分别输入到TextCNN和BiGRU中得到各自文本的局部特征向量和全局特征向量，拼接两者得到各自的综合语义表示向量并构建匹配矩阵并结合双向注意力机制将各自的情感表示向量拼接得到最终医疗问答文本的情感表示向量，输入到softmax分类器中进行情感分类。本发明很好的捕抓医疗问答文本的全局特征和局部特征，极大的丰富了医疗问答文本的语义表示完整性，提高了医疗问答文本情感分类准确率。CN115994542ACN115994542A权利要求书1/3页1.基于特征融合与注意力机制的医疗问答文本情感分析方法，其特征在于，包括：将医疗问答文本通过数据分割划分为患者问题文本和医生答案文本，并进行预处理；将预处理后的患者问题文本和医生答案文本分别经过ALBERT预训练模型得到各自对应的文本表示向量；将患者问题文本以及医生答案文本的文本表示向量分别输入到TextCNN和BiGRU中得到各自文本的局部特征向量和全局特征向量；将局部特征向量和全局特征向量拼接得到患者问题文本和医生答案文本的综合语义表示向量，同时通过患者问题文本和医生答案文本的综合语义表示向量来进行构建语义交互信息的匹配矩阵；通过双向注意力机制结合所述匹配矩阵得到问题文本和答案文本的情感表示向量，将问题文本和答案文本的情感表示向量拼接得到最终医疗问答文本的情感表示向量；将最终医疗问答文本情感表示向量输入到softmax分类器中进行情感分类，得到医疗问答文本的情感分类的概率。2.如权利要求1所述的基于特征融合与注意力机制的医疗问答文本情感分析方法，其特征在于：将患者问题文本以及医生答案文本的文本表示向量输入到TextCNN中得到各自文本的局部特征向量包括，嵌入层EmbeddingLayer：将输入的单词序列转换为单词向量表示；卷积层ConvolutionLayer：使用多个不同大小的卷积核对单词向量序列进行卷积操作，提取局部的特征，对于每个卷积核，会生成一组卷积特征图，表示不同的局部特征，具体公式如下：；其中，xi+j为从输入序列中取出的一个长度为k的子序列，Wj为卷积核的权重，b为偏置，f为激活函数；池化层PoolingLayer：对于每个卷积特征图，使用Max‑Pooling操作对特征值进行汇总，得到一个固定长度的向量表示，具体公式如下：Vj=max({hi，j|i∈[1，n‑k+1]})其中，hi，j为卷积特征图j中第i个位置的特征值，n为输入序列的长度，k为卷积核的大小。3.如权利要求1所述的基于特征融合与注意力机制的医疗问答文本情感分析方法，其特征在于：将患者问题文本以及医生答案文本的文本表示向量输入到BiGRU中得到各自文本的全局特征向量包括，输入序列中的每个单词向量经过BiGRU的正向传播和反向传播，得到正向和反向的隐藏状态向量；将正向和反向的隐藏状态向量拼接，得到当前时间步的全局特征向量；重复拼接正向和反向的隐藏状态向量直到处理完整个输入序列，得到所有时间步的全局特征向量。4.如权利要求1所述的基于特征融合与注意力机制的医疗问答文本情感分析方法，其2CN115994542A权利要求书2/3页特征在于：所述匹配矩阵包括，患者问题文本和医生答案文本之间的语义交互信息；通过以下公式计算得到问题文本和答案文本的语义交互信息的匹配矩阵：TM=(Hq)×(Ha)其中，M为包含了语义交互信息的匹配矩阵，Hq为问题文本的综合语义表示，Ha为答案文本的综合语义表示。5.如权利要求1所述的基于特征融合与注意力机制的医疗问答文本情感分析方法，其特征在于：所述双向注意力机制包括答案‑问题注意力机制以及问题‑答案注意力机制。6.如权利要求5所述的基于特征融合与注意力机制的医疗问答文本情感分析方法，其特征在于：所述答案