(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211534275.4 (22)申请日 2022.12.02 (71)申请人 国网湖北省电力有限公司信息通信 公司 地址 430077 湖北省武汉市洪山区徐 东大 街341号 申请人 武汉大学 (72)发明人 李磊　周正　胡钰林　廖荣涛　 王逸兮　叶宇轩　王晟玮　胡欢君　 张剑　宁昊　董亮　刘芬　郭岳　 罗弦　张岱　李想　陈家璘　冯浩　 (74)专利代理 机构 武汉楚天专利事务所 421 13 专利代理师 胡盛登 (51)Int.Cl. G06Q 10/04(2012.01)G06Q 50/06(2012.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种电网传输线路气候环 境预测方法、 系统 及介质 (57)摘要 本申请涉及一种电网传输线路气候环境预 测方法、 系统及介质， 方法包括获取历史气候环 境数据构建输入样本； 构建稀疏注意力机制的 transformer预测模型， 对输入样本进行预测得 到原预测结果； 将原预测结果与真实数据进行比 对， 得到误差序列并输入ARIMA模型进行误差预 测得到误差修正序列； 将原预测结果与误差修正 序列相加得到最终预测结果。 本申请有效提高整 体预测的稳定性和精确性， 有效降低了传统 transformer模型中自注意力运算的运算量， 加 快了模型训练与预测的速度， 降低了部署模型所 需的硬件 要求。 权利要求书2页 说明书6页 附图4页 CN 115545361 A 2022.12.30 CN 115545361 A 1.一种电网传输线路气候环境预测方法， 其特 征在于， 包括以下 具体步骤： 获取历史气候环境数据构建输入样本； 构建稀疏注意力机制的t ransformer预测模型， 对输入样本进行 预测得到原预测结果； 将原预测结果与真实数据进行比对， 得到误差序列并输入ARIMA模型进行误差预测， 得 到误差修 正序列， 该误差修 正序列给 出了transformer 原预测结果与实际数据的可能偏差； 将原预测结果与误差修正序列相加， 通过ARIMA模型的误差修正序列改善transformer 模型线性特 征欠缺的不足， 得到精确性与稳定性更高的最终预测的未来环境数据 序列。 2.根据权利要求1所述的一种电网传输线路气候环境预测方法， 其特征在于， 所述获取 历史气候环境数据构建输入样本具体为， 历史气候环境数据包括传输线路周边的温度、 湿 度、 风速信息的历史数值组成的时间序列， 对历史数值进行归一化处理， 将其保存为向量 作为模型输入。 3.根据权利要求1所述的一种电网传输线路气候环境预测方法， 其特征在于， 所述稀疏 注意力机制的transformer预测模 型包括编码 器、 解码器两部分， 编码 器对输入 数据进行特 征提取； 解码器利用编码器提取到的特征进行multi ‑head稀疏自注意力运算， 最终实现传 输线路的气候环境预测， 编码层的输入为 ， 解码层的输入为 以及编码层的输出 ， 编 码器由若干相同的编码层组成， 解码器由若干相同的解码层组成， 除第一个编码层输入为 之外， 所有编码层都以上一个编码层的输出为其输入， 最后 一个编码层的输出为编码器 的输出 ， 除第一个解码层输入为 和 之外， 所有解码层都以上一个解码层的输出为 输入， 最后一个解码层输出为t ransformer预测模型对未来气候数据的预测序列。 4.根据权利要求3所述的一种电网传输线路气候环境预测方法， 其特征在于， 所述 transformer预测模 型的编码层包括一维卷积层、 稀疏自注 意力层和前馈网络层， 所述编码 层进行特征提取的操作具体为， 将输入向量 经过一维卷积层之后并加上位置编码得到 ， 分别用三个权重矩阵 ， 和 与 作矩阵乘法分别得到多通道的query矩阵 ， key矩阵 和value矩阵 ， 为了减少模型的计算量和防止过拟合， 通过稀疏自注意力对 三个矩阵进行运算得到自注意力， 将 计算得到的自注意力经过线性层将其映射为原输入维 度之后与 相加， 之后再将此相加得到的结果 通过前馈层得到编码器的输出 。 5.根据权利要求4所述的一种电网传输线路气候环境预测方法， 其特征在于， 所述稀疏 自注意力运算的操作为： 选取矩阵 中数值最大的 个元素将其他元素置为0得到稀疏化 之后的矩阵 ， 其中 为预先设置的适当大小的数， 随后矩阵 ， ， 作为的输入进行 自注 意力运算， 公式为 其中 为softmax激活函数， 为矩阵 的维度， 为计算出的自注意力。 6.根据权利要求4所述的一种电网传输线路气候环境预测方法， 其特征在于， 所述 transformer预测模型的解码层包括解码一维卷积层、 解码稀疏自注意力层和解码前馈网 络层、 解码线性层， 所述解码层进行预测的具体操作为， 将第一个输入数据 经过解码一维权　利　要　求　书 1/2 页 2 CN 115545361 A 2卷积层和一层解码稀疏自注意力层 之后， 通过解码线性层映射为query矩阵 并进行稀疏 化得到 ， 再用到第二个输入数据 ， 通过解码线性层分别映射为key矩阵 和value矩 阵 ， 然后计算注意力， 公式为 其中 为 的维度， 将计算得出的注意力经解码线性层、 解码前馈层之后得到 transformer预测模型对未来环境数据的预测序列。 7.一种电网传输线路气候环境预测系统， 其特 征在于， 包括， 输入样本构建模块， 用以获取历史气候环境数据并构建输入样本； transformer预测模型构建模块， 用以构建稀疏注意力机制的transformer预测模型， 对输入样本进行 预测得到原预测结果； 误差修正序列获取模块， 用以将原预测结果与真实数据进行比对， 得到误差序列并输 入ARIMA模型进行误差预测得到误差修 正序列； 预测结果获取模块， 用以将原预测结果与误差修 正序列相加得到最终预测结果。 8.一种计算机可读存储介质， 其特征在于， 所述计算机可读存储介质存储有程序代码， 所述程序代码被处理器执行时， 实现如权利要求1 ‑6任一所述的电网传输线路气候环境预 测方法的步骤。权　利　要　求　书 2/2 页 3 CN 115545361 A 3