程序名称:基于RFAConv-BiGRU的多变量时间序列预测
实现平台:python—Jupyter Notebook
代码简介:构建了基于RFAConv(感受野注意力卷积)-BiGRU(双向门控循环单元)多变量时间序列预测。高创新点,原创未发表,注释超详细,几乎每行一注释。限量。
RFAConv(Receptive-Field Attention Convolution)的核心原理是通过引入感受野注意力(Receptive-Field Attention, RFA)机制来解决传统卷积操作中参数共享的问题,并增强卷积层对局部特征的捕捉能力。
1.感受野注意力(Receptive-Field Attention, RFA)
感受野空间特征(Receptive-Field Spatial Feature):RFAConv 的关键在于引入了感受野空间特征的概念。与传统的空间注意力机制(如CBAM和CA)不同,RFA 不仅关注空间特征,还特别关注感受野内的空间特征。感受野空间特征是根据卷积核的大小动态生成的,每个感受野内的特征被视为一个独立的单元。动态权重分配:RFA 通过为每个感受野内的特征分配不同的权重,解决了传统卷积操作中参数共享的问题。这种动态权重分配使得模型能够更好地捕捉局部特征的差异,从而提高特征提取的效率。
2.RFAConv 的结构
感受野特征提取:RFAConv 使用一种快速的方法(如Group Convolution)来提取感受野空间特征,而不是传统的 Unfold 方法。这种方法不仅提高了效率,还减少了计算开销。注意力权重生成:通过全局平均池化(AvgPool)和1×1卷积(1×1 group convolution)生成每个感受野内的注意力权重。这些权重通过softmax函数进行归一化,以强调每个特征的重要性。特征融合:最终,RFAConv 将生成的注意力权重与感受野空间特征相乘,得到加权后的特征图。这些特征图再通过一个标准的卷积操作(如3×3卷积)进行进一步的特征提取。
原文RFAConv的提出用于机器视觉领域,现有大部分结合该算法的文献也都是应用于图像识别等(如结合YOLO),本代码创新性的将RFAConv与双向门控循环单元结合,应用于时间序列预测。
RFAConv的核心在于动态分配感受野权重,彻底解决传统卷积的“一刀切”问题。在代码里,它通过三步精准操作实现:第一步,用AveragePooling2D(池化窗口=卷积核大小)对输入做局部聚合,生成感受野基础特征;接着用Conv2D(1×1分组卷积,groups=in_channel)将特征通道扩展为in_channel * (kernel_size²),再通过softmax在感受野维度上归一化权重(比如3×3核就生成9个权重,动态强调关键区域)。第二步,用标准卷积(kernel_size)生成原始特征,经BatchNormalization和ReLU激活后,与第一步的权重相乘(feature * weight),实现局部特征加权。第三步,通过transpose和reshape重排张量(比如把(8, 3, 3, 10, 10)转成(8, 3, 30, 30)),再用Conv2D输出最终特征图。整个过程像给每个时间点“配专属眼镜”——比如光伏数据中,RFAConv会自动放大骤变点(如云层遮挡)的权重,而忽略平稳区域,让模型更聚焦关键模式。
模型把RFAConv嵌入时间序列处理的“黄金链条”:输入数据先被Reshape成(batch, time_steps, features, 1)(像把时间线压成单通道图像),RFAConv(in_channel=1, out_channel=32)精准提取局部特征后,立刻用Reshape转为(batch, sequence_length, features)——这步超关键!它把二维卷积输出无缝喂给BiGRU。BiGRU作为“时间侦探”,用双向结构(正向看趋势、反向看回溯)捕捉长距离依赖,而RFAConv的加权特征就像给BiGRU的“情报包”:比如光伏出力的早高峰和晚高峰,RFAConv已提前标出关键时段,BiGRU就能更高效地串联这些片段。最后BiGRU输出经Dropout防过拟合,接全连接层输出预测值。这种组合绝了——RFAConv负责“局部火眼金睛”,BiGRU负责“全局战略推演”,(代码里每行注释都超到位,连reshape的维度计算都写得明明白白,太走心了!)
参考文献:《RFAConv: Innovating Spatial Attention and Standard Convolutional Operation》
代码获取方式:【原创改进代码】基于RFAConv(感受野注意力卷积)-BiGRU(双向门控循环单元)多变量时间序列预测
预测集评价指标:
均方误差 (MSE): 0.008375
平均绝对误差 (MAE): 0.049102
均方根误差 (RMSE): 0.091514
决定系数 (R²): 0.907157