本项目实现了一个基于深度学习的多变量时间序列预测系统，用于预测家庭电力消耗。项目提出了一种新的混合架构 FeSA-LSTM（Feature-Specific Attention LSTM），结合了 Transformer 的注意力机制和 LSTM 的序列建模能力，并与传统的 LSTM 和 Transformer 模型进行了性能对比。

核心特性

• 多模型架构：实现了 LSTM、Transformer 和 FeSA-LSTM 三种深度学习模型
• 特征特定注意力：FeSA-LSTM 为每个特征创建独立的注意力头，提高特征表示能力
• 多时间尺度预测：支持 90 天和 365 天的长期预测
• 滚动预测策略：采用滚动窗口预测方法，提高预测准确性
• 多种预测聚合：支持均值、中位数和指数移动平均三种预测聚合方法
• 完整的数据处理流水线：从数据预处理到模型评估的端到端解决方案

模型架构

1. LSTM 模型

• 双向 LSTM 架构
• 两层结构：128 → 64 隐藏单元
• 适用于序列数据的时间依赖建模

2. Transformer 模型

• 多头注意力机制（8个注意力头）
• 位置编码
• 前馈神经网络
• 层归一化和残差连接

3. FeSA-LSTM 模型（核心创新）

• 特征特定注意力：为每个输入特征创建独立的注意力头
• 混合架构：结合 Transformer 注意力机制和双向 LSTM
• 位置编码：增强时间序列的位置信息
• 残差连接：提高训练稳定性