基于二维自注意力增强GRU模型高炉铁水硅含量预测方法.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN113223634A(43)申请公布日2021.08.06(21)申请号202110303503.6(22)申请日2021.03.22(71)申请人浙江大学地址310058浙江省杭州市西湖区余杭塘路866号(72)发明人李俊方杨春节王文海(74)专利代理机构杭州求是专利事务所有限公司33200代理人林松海(51)Int.Cl.G16C20/30(2019.01)G16C20/70(2019.01)G06N3/04(2006.01)G06N3/08(2006.01)权利要求书1页说明书4页附图2页(54)发明名称基于二维自注意力增强GRU模型高炉铁水硅含量预测方法(57)摘要本发明公开了一种基于二维自注意力增强GRU模型高炉铁水硅含量预测方法，属于工业过程监控、建模和仿真领域。通过从真实的高炉生产数据中获取有效信息建立模型，实现铁水硅含量提前预测，指导后续生产操作。考虑高炉生产过程中各参数变量对产品铁水硅含量的影响大小不同且随时间动态变化，提出在GRU模型特征维度增加自注意力，获取各参数变量的动态权重；同时，考虑系统动态性以及大时滞问题，提出基于因果卷积的时间维度自注意力机制，实现高炉运行参数局部动态特征增强感知，以及运行参数同工艺指标的软对标；本发明方法对于具有大时滞、强动态性的高炉系统具有很好的拟合效果，能够实现对高炉铁水硅含量的准确预测。CN113223634ACN113223634A权利要求书1/1页1.一种基于二维自注意力增强GRU模型高炉铁水硅含量预测方法，其特征在于，步骤如下：步骤(1)选取与铁水硅含量相关的高炉过程参数和状态参数，通过相关性分析确定用于硅含量预测的变量，取相关性高的变量；步骤(2)在GRU模型基础上增加特征维度自注意力机制，各时刻特征变量同其上一时刻的隐藏层状态向量，进行相似性计算，获取各相关变量动态权重；步骤(3)在增加特征维度注意力机制的GRU模型基础上增加基于因果卷积的时间维度自注意力机制，通过因果卷积计算输入序列各时刻，t＝1～T，对应局部的包含动态特征信息的键向量Kt＝1～T，再利用因果卷积计算时间序列最后时刻，t＝T，对应局部的包含历史动态特征信息的查询向量Q，通过查询向量Q同各时刻键向量K进行相似性计算，获得各时刻采样点的初始权重，归一化后获得各时刻隐含状态向量的注意力权重；最终各时刻隐含层状态向量加权求和获得编码向量c，c向量导入线性层激活后获得最终的预测值—硅含量；步骤(4)设定损失函数MAE或MSE，利用处理好的数据集对模型进行训练调参，利用验证集检验模型预测精度，调整模型超参数直至模型预测精度达标；步骤(5)采集高炉生产过程中的时间序列数据，输入模型，获得硅含量预测值。2.根据权利要求1所述的方法，其特征在于，步骤(1)所述的相关性高的变量为炉顶压力、透气性指数、喷煤率、富氧率、顶温、压差、热风温度、热风压力、热风流量、冷风湿度、上一时刻硅含量。3.根据权利要求1所述的方法，其特征在于，步骤(2)在原有的GRU模型基础上增加特征维度自注意力机制：模型的输入为时间序列{X1,X2,...,Xt,...,XT}，其中为t时刻原始n维输入特征，首先输入时间序列的第一个时刻的各特征变量Xt＝1不加权重，经GRU单元计算得到隐含状态向量ht＝1，后续各时刻输入Xt便可同其上一时刻GRU单元隐含状态向量ht‑1拼接后输入特征权重计算层计算对应时刻各特征变量的权重，权重值经softmax层归一化后获得t时刻n维特征变量的权重同原始特征变量值加权，获得加权后的n维输入特征4.根据权利要求1所述的方法，其特征在于，步骤(3)首先利用加权后的各时刻的输入特征输入GRU单元，获得对应时刻的隐含状态向量序列{h1,h2,...,hT}，利用因果卷积获得各时刻隐含状态向量h对应的键向量K，这一步需要通过试验确定合理的卷积核的大小kernel_size，以及卷积核数量，滑动步长为1，卷积操作时，需要在序列前添补kernel_size‑1个值，获得各h向量对应的键向量{K1,K2,...,KT}，然后用大小及数量均相同的卷积核针对hT局部进行因果卷积，获得查询向量Q，查询向量Q依次同各键向量点乘求取相似性，经softmax层归一化后获得各h向量的时间维度的注意力权重{ω1,ω2,...,ωT}，各h向量加权求和后获得编码c向量，经线性层激活后得到预测值——硅含量。2CN113223634A说明书1/4页基于二维自注意力增强GRU模型高炉铁水硅含量预测方法技术领域[0001]本发明属于工业过程监控、建模和仿真领域，特别涉及一种基于二维自注意力增强GRU模型高炉铁水硅含量预测方法。背景技术[0002]高炉炼铁是工业生产的重要过程，提