【Python时序预测系列】一文搞明白时序数据输入到LSTM模型的格式
ztj100 2024-11-08 15:06 21 浏览 0 评论
这是我的第276篇原创文章。
一、引言
前面我介绍了多个方法实现单变量和多变量时序数据的单站点单步预测,好多小伙伴最近问我这个LSTM模型数据的输入的格式是怎么样的,今天我专门写一篇文章来聊一聊这个问题,希望对大家有所启发和帮助。
二、实现过程
2.1 单变量时序数据
1、原始data
原始数据是一个144行1列的(144,1)的dataframe:
2、数据集按照8:2划分,并进行归一化处理
train_data_scaler是一个(115,1)的二维数组:
3、创建滑动窗口数据集
将train_data_scaler集转换为 LSTM 模型所需的形状(样本数,时间步长,特征数):
def create_sliding_windows(data, window_size):
X, Y = [], []
for i in range(len(data) - window_size):
X.append(data[i:i+window_size, 0:data.shape[1]])
Y.append(data[i+window_size,0])
return np.array(X), np.array(Y)
X_train, Y_train = create_sliding_windows(train_data_scaler, window_size)
这里我假设窗口window_size设为12,i的范围0-102,103取不到:
当i=0时,取出train_data_scaler第【1-12】行第【1】列的12条数据作为X_train[0],取出train_data_scaler第【13】行第【1】列的1条数据作为Y_train[0];
当i=1时,取出train_data_scaler第【2-13】行第【1】列的12条数据作为X_train[1],取出train_data_scaler第【14】行第【1】列的1条数据作为Y_train[1];
...
当i=102时,取出train_data_scaler第【103-114】行第【1】列的12条数据作为X_train[102],取出train_data_scaler第【115】行第【1】列的1条数据作为Y_train[102];
返回的X_train是一个(103,12,1)的三维数组;Y_train是一个(103,1)的二维数组;
X_train = np.reshape(X_train, (X_train.shape[0], window_size, 1)
经过滑动窗口之后返回的形状已经是LSTM所需的形状了,所以这句话可以省略。
4、构建 LSTM 模型
# 构建 LSTM 模型
model = Sequential()
model.add(LSTM(50, activation='relu', input_shape=(window_size, 1)))
model.add(Dense(1))
model.compile(optimizer='adam', loss='mse')
LSTM的input_shape=(时间步长,特征数),其实就是一个样本输入的形状。
5、训练 LSTM 模型
# 训练 LSTM 模型
model.fit(X_train, Y_train, epochs=100, batch_size=32)
- X_train是一个(103,12,1)的三维数组,三个维度分别表示(样本数,时间步长,特征数)
- Y_train是一个(103,1)的二维数组,两个维度分别表示(样本数,标签)
- 类似一个103行(12*1+1)列的表格,前(12*1)列是特征,第(12*1+1)列是标签
2.2 多变量时序数据
1、原始的data
是一个(5203,5)的dataframe:
2、数据集按照8:2划分,并进行归一化处理
train_data_scaler是一个(4162,5)的二维数组:
3、创建滑动窗口数据集
将数据集转换为 LSTM 模型所需的形状(样本数,时间步长,特征数):
def create_sliding_windows(data, window_size):
X, Y = [], []
for i in range(len(data) - window_size):
X.append(data[i:i+window_size, 0:data.shape[1]])
Y.append(data[i+window_size,0])
return np.array(X), np.array(Y)
X_train, Y_train = create_sliding_windows(train_data_scaler, window_size)
这里我假设窗口window_size设为30,i的范围0-4131:
当i=0时,取出train_data_scaler第【1-30】行第【1-5】列的12条数据作为X_train[0],取出train_data_scaler第【31】行第【1】列的1条数据作为Y_train[0];
当i=1时,取出train_data_scaler第【2-31】行第【1-5】列的12条数据作为X_train[1],取出train_data_scaler第【32】行第【1】列的1条数据作为Y_train[1];
...
当i=4131时,取出train_data_scaler第【4132-4161】行第【1-5】列的12条数据作为X_train[4131],取出train_data_scaler第【4162】行第【1】列的1条数据作为Y_train[4131];
返回的X_train是一个(4132,30,5)的三维数组;Y_train是一个(4132,1)的二维数组;
X_train = np.reshape(X_train, (X_train.shape[0], window_size, 5)
经过滑动窗口之后返回的形状已经是LSTM所需的形状了,所以这句话可以省略。
4、构建 LSTM 模型
# 构建 LSTM 模型
model = Sequential()
model.add(LSTM(50, activation='relu', input_shape=(window_size, 5)))
model.add(Dense(1))
model.compile(optimizer='adam', loss='mse')
LSTM的input_shape=(时间步长,特征数),其实就是一个样本输入的形状。
5、训练 LSTM 模型
# 训练 LSTM 模型
model.fit(X_train, Y_train, epochs=100, batch_size=32)
- X_train是一个(4132,30,5)的三维数组;(样本数,时间步长,特征数)
- Y_train是一个(4132,1)的二维数组;(样本数,标签)
- 类似一个4132行(30*5+1)列的表格,前(30*5)列是特征,第(30*5+1)列是标签
三、小结
由于滑动窗口,实际的训练数据数量少一个窗口数量,实际能预测的数据量也少一个窗口数量。
作者简介: 读研期间发表6篇SCI数据算法相关论文,目前在某研究院从事数据算法相关研究工作,结合自身科研实践经历持续分享关于Python、数据分析、特征工程、机器学习、深度学习、人工智能系列基础知识与案例。关注gzh:数据杂坛,获取数据和源码学习更多内容。
原文链接:
相关推荐
- 再说圆的面积-蒙特卡洛(蒙特卡洛方法求圆周率的matlab程序)
-
在微积分-圆的面积和周长(1)介绍微积分方法求解圆的面积,本文使用蒙特卡洛方法求解圆面积。...
- python创建分类器小结(pytorch分类数据集创建)
-
简介:分类是指利用数据的特性将其分成若干类型的过程。监督学习分类器就是用带标记的训练数据建立一个模型,然后对未知数据进行分类。...
- matplotlib——绘制散点图(matplotlib散点图颜色和图例)
-
绘制散点图不同条件(维度)之间的内在关联关系观察数据的离散聚合程度...
- python实现实时绘制数据(python如何绘制)
-
方法一importmatplotlib.pyplotaspltimportnumpyasnpimporttimefrommathimport*plt.ion()#...
- 简单学Python——matplotlib库3——绘制散点图
-
前面我们学习了用matplotlib绘制折线图,今天我们学习绘制散点图。其实简单的散点图与折线图的语法基本相同,只是作图函数由plot()变成了scatter()。下面就绘制一个散点图:import...
- 数据分析-相关性分析可视化(相关性分析数据处理)
-
前面介绍了相关性分析的原理、流程和常用的皮尔逊相关系数和斯皮尔曼相关系数,具体可以参考...
- 免费Python机器学习课程一:线性回归算法
-
学习线性回归的概念并从头开始在python中开发完整的线性回归算法最基本的机器学习算法必须是具有单个变量的线性回归算法。如今,可用的高级机器学习算法,库和技术如此之多,以至于线性回归似乎并不重要。但是...
- 用Python进行机器学习(2)之逻辑回归
-
前面介绍了线性回归,本次介绍的是逻辑回归。逻辑回归虽然名字里面带有“回归”两个字,但是它是一种分类算法,通常用于解决二分类问题,比如某个邮件是否是广告邮件,比如某个评价是否为正向的评价。逻辑回归也可以...
- 【Python机器学习系列】拟合和回归傻傻分不清?一文带你彻底搞懂
-
一、拟合和回归的区别拟合...
- 推荐2个十分好用的pandas数据探索分析神器
-
作者:俊欣来源:关于数据分析与可视化...
- 向量数据库:解锁大模型记忆的关键!选型指南+实战案例全解析
-
本文较长,建议点赞收藏,以免遗失。更多AI大模型应用开发学习视频及资料,尽在...
- 用Python进行机器学习(11)-主成分分析PCA
-
我们在机器学习中有时候需要处理很多个参数,但是这些参数有时候彼此之间是有着各种关系的,这个时候我们就会想:是否可以找到一种方式来降低参数的个数呢?这就是今天我们要介绍的主成分分析,英文是Princip...
- 神经网络基础深度解析:从感知机到反向传播
-
本文较长,建议点赞收藏,以免遗失。更多AI大模型应用开发学习视频及资料,尽在...
- Python实现基于机器学习的RFM模型
-
CDA数据分析师出品作者:CDALevelⅠ持证人岗位:数据分析师行业:大数据...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- idea eval reset (50)
- vue dispatch (70)
- update canceled (42)
- order by asc (53)
- spring gateway (67)
- 简单代码编程 贪吃蛇 (40)
- transforms.resize (33)
- redisson trylock (35)
- 卸载node (35)
- np.reshape (33)
- torch.arange (34)
- npm 源 (35)
- vue3 deep (35)
- win10 ssh (35)
- vue foreach (34)
- idea设置编码为utf8 (35)
- vue 数组添加元素 (34)
- std find (34)
- tablefield注解用途 (35)
- python str转json (34)
- java websocket客户端 (34)
- tensor.view (34)
- java jackson (34)
- vmware17pro最新密钥 (34)
- mysql单表最大数据量 (35)