一种基于迁移学习的小样本集下短期负荷预测方法.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN114169416A(43)申请公布日2022.03.11(21)申请号202111442332.1(22)申请日2021.11.30(71)申请人电子科技大学地址611731四川省成都市高新区（西区）西源大道2006号(72)发明人张真源赵鹏飞黄琦胡维昊易建波李坚井实唐啸天(74)专利代理机构四川鼎韬律师事务所51332代理人温利平(51)Int.Cl.G06K9/62(2022.01)G06N3/04(2006.01)G06N3/08(2006.01)G06Q10/04(2012.01)G06Q50/06(2012.01)权利要求书3页说明书9页附图3页(54)发明名称一种基于迁移学习的小样本集下短期负荷预测方法(57)摘要本发明公开了一种基于迁移学习的小样本集下短期负荷预测方法，先采集多个源域用户的历史负荷数据及对应温度，从而构建多个输入特征；然后用输入特征训练多个深度残差网络模型，并利用贝叶斯加权概率平均法对深度残差网络模型进行自适应性迁移组合，迁移组合完成后目标用户的实时负荷预测。CN114169416ACN114169416A权利要求书1/3页1.一种基于迁移学习的小样本集下短期负荷预测方法，其特征在于，包括以下步骤：(1)、数据采集与预处理；(1.1)、设置负荷采样周期T；(1.2)、按照负荷采样周期T对M个源域用户的历史负荷数据xload及对应温度xtemp进行采集，从而构建数据集和温度集，记第i个源域用户构建数据集为和温度集为其中，分别表示第i个源域用户在第t个采样时刻采集到的历史负荷数据及对应温度，i＝1,2,…,M；(1.3)、分别剔除和中的异常值，然后再进行线性插值，得到数据样本最后再对数据样本Xi进行归一化处理，得到归一化以后的数据样本(1.4)、为数据样本加入时间特征变量包含时序变量、天级变量、节假日变量，以独热编码的形式作为输入特征，最终构造出M个输入特征为(2)、搭建深度残差网络模型；深度残差网络由L个残差块跳跃连接而成，其中，每一个残差块由卷积层、归一化层、Relu激活函数层构成；(3)、基于源域用户数据训练深度残差网络模型；(3.1)、从从第i个输入特征中随机选取个时刻的数据作为一轮训练数据，然后将每个时刻的数据依次输入到深度残差网络模型，通过输入层将该帧数据转换为张量形式输入至串联的残差块；(3.2)、在深度残差网络模型中，设第l个残差块的输入张量为Z(l‑1)，在第l个残差块的左侧分支中，张量Z(l‑1)经过由多个扩张因果卷积构成的卷积核进行特征抽取，然后依次卷积层、归一化层、Relu激活函数层、卷积层、归一化层，得到左侧分支的输出张量在第l个残差块的右侧分支中，张量Z(l‑1)经1×1卷积，使其输出张量匹配左侧分支输出张量的维度，然后两个分支的输出张量相加，得到第l个残差块的输出第l个残差块的输出Z(l)和第(l‑2)个残差块的输出相加，得到第(l+1)个残差块的输入(Zl+Z(l‑2))；(3.3)、重复步骤(3.2)，直到最后一个残差块输出Z(L)，最后将Z(L)经并联的两个全连接层输出，其输出记为并作为t时刻的预测值；(3.4)、当本轮训练数据训练完成后，计算本轮训练的损失函数值MAPE：其中，表示t时刻的观测值；(3.5)、设置损失阈值Δ；计算本轮训练后的损失函数值与上一轮训练后的损失函数值的差值ΔMAPE，比较ΔMAPE与Δ的大小，如果ΔMAPE≤Δ，则训练结束，得到第i个深度残差2CN114169416A权利要求书2/3页网络模型；否则，利用批量梯度下降算法更新深度残差网络中的权重，然后再返回步骤(3.1)进行下一轮的训练；(3.6)、按照步骤(3.1)‑(3.5)所述方法完成M个输入特征对深度残差网络的训练，最终得到M个深度残差网络模型，记为{F1,F2,…,Fi,…,FM}；(4)、利用贝叶斯加权概率平均法对深度残差网络模型进行自适应性组合；(4.1)、设置目标用户的采集周期T1；(4.2)、按照采样周期T1对目标用户的小样本历史负荷数据进行采样，得到负荷数据集和温度数据集其中和分别表示目标用户在第t个采样时刻采集到的历史负荷数据及对应温度，然后按步骤(1.3)‑(1.4)所述方法构建输入特征，记为(4.3)、构造输入特征对其中，表示t时刻的输入特征表示t时刻的负荷观测值；(4.4)、将输入特征分别输入到M个深度残差网络模型中，从而得到预测输出其中，表示在t时刻第i个深度残差网络模型的预测值；(4.5)、计算的先验分布其中，N表示高斯分布，表示高斯噪声，ω＝{ω1，ω2,...,ωM}表示赋予给不同的权值；(4.6)、计算的概率分,：其中，I表示单位矩阵；3CN114169416A权利要求书3