【例会】Convolutional LSTM Network: A Machine Learning Approach for Precipitation Nowcasting论文学习报告

时间:2018.08.22

主持人:赵春阳

参会老师:杨矫云

参会学生:程坤,丁会通,段优,贵芳,韩朋,李雨龙,刘杰,明鉷,唐晨,滕越,肖勇博

请假:刘硕

本次例会学习讨论了以下文章:
Xingjian S H I, Chen Z, Wang H, et al. Convolutional LSTM network: A machine learning approach for precipitation nowcasting[C]//Advances in neural information processing systems. 2015: 802-810.
这篇文章卷积LSTM(ConvLSTM)并使用它来构建端到端降水临近预报问题的可训练模型。当前在Google Scholar的被引量为409(截止至2018.9.5)。

  • 背景(background)

降水临近预报的目标是在相对较短的时间内预测当地的未来降雨强度。之前的研究很少从机器学习的角度研究这一至关重要且具有挑战性的天气预报问题。 在本文中,我们将降水临近预报制定为时空序列预测问题,其中输入和预测目标都是时空序列。而通过扩展完全连接的LSTM(FC-LSTM)以在输入到状态和状态到状态转换中都具有卷积结构,本文则提出了卷积LSTM(ConvLSTM)并使用它来构建端到端降水临近预报问题的可训练模型。

  • 问题和假设(problem & hypothesis)

问题:如何建立端到端降水临近预报问题的可训练模型?

假设:将降水临近预报制定为时空序列预测问题,来构建基于卷积LSTM的降水临近预报问题的可训练模型。

  • 方法(method)

与FC-LSTM一样,ConvLSTM也可以作为更复杂结构的构建块。它由两个网络组成,一个编码网络和一个预测网络。作为我们的预测目标具有与输入相同的维度,我们连接预测网络中的所有状态并将它们馈送到1×1卷积层以生成最终预测。由于网络具有多个堆叠的ConvLSTM层,因此它具有很强的表征能力,因此适合在复杂动力系统中进行预测,如我们在此研究的降水临近预报问题。

 

  • 实验(experiment)

移动-MNIST数据集

对于这个合成数据集,我们使用这样的生成过程:数据集中的所有数据实例都是20帧长(输入10帧,预测10帧),并包含在64×64补丁内弹跳的两个手写数字。从MNIST数据集中的500个数字的子集中随机选择移动数字。3随机均匀地选择起始位置和速度方向,并在[3,5]中随机选择速度幅度。该生成过程重复15000次,产生具有10000个训练序列,2000个验证序列和3000个测试序列的数据集。

在移动MNIST数据集上ConvLSTM网络与FC-LSTM网络的比较。 ‘5×5’和’1×1’表示相应的状态到状态的内核大小,它是5×5或1×1。 ‘256’,’128’和’64’指的是ConvLSTM层中隐藏状态的数量。 ‘(5×5)’和’(9×9)’表示输入到状态的内核大小。

1 2

图:显示“域外”运行的示例。 从左到右:输入帧; 基本事实; 由3层网络预测。

 

雷达回波数据集

本文使用的雷达回波数据集是2011年至2013年在香港收集的三年气象雷达强度的一部分。我们的雷达回波数据集包含8148个训练序列,2037个测试序列和2037个验证序列,所有序列都是20帧长(5输入和15预测)。对于预处理,我们首先通过设置P = Z-min {Z} / max {Z} -min {Z}将强度值Z变换为灰度级像素P.

可以看出ConvLSTM优于基于光流的ROVER算法,这主要是由于两个原因。首先,ConvLSTM能够很好地处理边界条件。另一个原因是,ConvLSTM是针对此任务进行端到端训练的,并且数据集中的一些复杂的时空模式可以通过网络的非线性和卷积结构来学习。对于基于光流的方法,很难找到一种合理的方法来更新未来的流场并对端到端的一切进行训练。

3 4

 

  • 展望(future work)

 

在本文中,我们成功地将机器学习方法,特别是深度学习应用于具有挑战性的降水临近预报问题。ConvLSTM层不仅保留了FC-LSTM的优点,而且由于其固有的卷积结构,也适用于时空数据。通过将ConvLSTM纳入编码预测结构,我们为降水临近预报建立了端到端的可训练模型。对于将来的工作,我们可以研究如何将ConvLSTM应用于基于视频的识别。

anyShare分享到:
This entry was posted in 例会. Bookmark the permalink.

发表评论