买专利,只认龙图腾
首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明授权】一种基于大数据框架的SADBO改进MIM-rwkv的气象预报方法_南京信息工程大学_202311708401.8 

申请/专利权人:南京信息工程大学

申请日:2023-12-13

公开(公告)日:2024-03-08

公开(公告)号:CN117388953B

主分类号:G01W1/10

分类号:G01W1/10;G06F30/27;G06N3/0442;G06N3/0464;G06N3/048;G06N3/08

优先权:

专利状态码:有效-授权

法律状态:2024.03.08#授权;2024.01.30#实质审查的生效;2024.01.12#公开

摘要:本发明公开了一种基于大数据框架的SADBO改进MIM‑rwkv的气象预报方法,获取ERA5再分析数据、高分辨率WRF回顾性仿真模拟数据及气象站点观测数据并进行数据处理;基于处理后数据训练MIM‑rwkv网络模型,该模型的数据嵌入层、数据混合操作、门控阵列模块及像素重塑层充分考虑了输入数据的时间、空间及通道的维度特征,能够提供地面风的东西向及南北向分量高指标、高分辨率的预测结果;使用SADBO优化算法对MIM‑rwkv神经网络的超参数进行全局搜索,能够进一步提升神经网络的评估指标;MinIO对象存储服务、WebGIS框架及Kuzzle搜索引擎提供了对大规模的气象数据进行高效合理的存储、处理和分析的解决方案。

主权项:1.一种基于大数据框架的SADBO改进MIM-rwkv的气象预报方法,其特征在于,包括以下步骤:获取再分析气象数据、回顾性仿真模拟数据以及气象站点观测数据,使用插值法将站点观测数据插值到再分析数据和回顾性仿真数据的缺失值;对预处理后的再分析数据、回顾性仿真数据及站点观测数据进行标准化处理;部署MinIO对象存储服务框架、WebGIS框架及Kuzzle引擎对处理后的气象数据进行集中式的存储管理、数据处理和可视化操作;构建MIM-rwkv网络模型,使用SADBO群智能优化算法对MIM-rwkv网络模型的初始化参数进行全局寻优,所述MIM-rwkv网络模型的初始化参数包括全连接层深度、层级神经元数量及卷积层的卷积核参数,具体步骤如下:Step1:蜣螂算法将S个种群分为四种不同的代表,每个种群均包含N个代表,每个代表为全连接层深度、层级神经元数量和卷积层的卷积核参数的方案,具体为卷积核尺寸、步长及填充、全连接层深度以及层级神经元数量;Step2:使用模拟退火算法对蜣螂算法进行优化,蜣螂算法中种群各参数及种群各代表行为公式的参数作为模拟退火算法的解空间,步骤如下:Step2.1:设定迭代次数L、目标函数Ex、收敛条件、初始温度T0和初始解x0,其中,目标函数为当前解生成的网络结构输出的神经网络RMSE损失函数值,收敛条件为RMSE损失函数值等于设定阈值,初始解为解空间中随机选择的一组解;Step2.2:在当前温度T下,通过随机扰动的方式,生成一个新解x*,计算当前解x和新解x*之间的目标函数差值ΔE;Step2.3:根据目标函数差值ΔE判断是否接受新解;如果ΔE≤0,则新解更优,接受新解,x*为当前解;否则,新解劣于当前解,则根据Metropolis准则决定是否接受新解,接受概率为p=e-ΔET;Step2.4:判断是否达到迭代次数或满足收敛条件,如果满足,输出当前解为全局最优解;否则,使用温度调度策略更新获得新的当前温度,公式为Tk+1=β*Tk,其中,Tk表示为第k次迭代后的温度,β为衰减系数,重新回到步骤Step2.2;使用插值后的再分析数据、回顾性仿真数据及站点观测数据作为模型输入训练获得MIM-rwkv网络模型最佳参数权重,具体包括:对输入数据进行数据嵌入操作,全连接层将输入数据X转换为数据Xu,全连接层中每个神经元都和前一层的所有神经元均相连;图拉普拉斯矩阵变换层通过计算归一化拉普拉斯矩阵L=I-D-12BD-12,对L进行特征分解A=XTLX,选择特征分解后的前k个最大特征值和特征向量构建降维数据Xl;其中,I为单位矩阵,B为邻接矩阵,D为度矩阵,A为对焦矩阵;位置编码层对输入数据X进行编码,获得具有位置信息的数据Xloc:其中,k为数据的位置索引,d为输入数据的编码维度,Pk,2i和Pk,2i+1分别为在第k位置上的第2i和2i+1的编码;数据嵌入操作中的三个不同层的输出相加后所得到的数据Xemb即为MIM-rwkv网络模型后续层的输入数据:Xemb=Xu+Xl+Xloc;Xemb输入到卷积及池化层,得到局部空间结构:Xcp-emb=ConvPoolXemb;Xcp-emb输入进MIM-rwkv门控单元阵列,MIM-rwkv门控单元阵列处理步骤如下:首先归一化层对输入数据进行层归一化操作,输入数据表示为Ht-1,层归一化统计量定义为: yi=xi-μσ其中,xi为输入数据的第i个特征值,yi为归一化后的值,d为输入数据的特征维度;对经过归一化操作后的数据分别进行r、k、v、wkv的类注意力机制的矩阵计算,定义公式为:rt=Wr·μrxt+1-μrxt-1kt=Wk·μkxt+1-μkxt-1vt=Wv·μvxt+1-μvxt-1 Pt=WP·σrt⊙wkvt其中,t表示第t时刻,r、k、v、wkv分别表示接收单元、位置权重衰减单元、键单元和值单元,rt、kt、vt、wkvt分别表示r、k、v、wkv单元在t时刻的输出;xt为Ht-1经过归一化操作后的数据;Wr、Wk、Wv、Wpos分别为r、k、v、wkv单元的权重矩阵;μ表示token-shift,token-shift操作由输入数据xt和前一个时序的输入数据xt-1得到,μr、μk、μv分别表示r、k、v单元的token-shift操作的输出值;Pt为经过rwkv模块后的输出数据,WP为输出单元的权重矩阵,σ为激活函数;MIM-rwkv门控单元模块包括两组功能相同的候选记忆单元g、输入门i、遗忘门f、输出门o,分别表示为g、i、f、o和g′、i′、f′、o′,整体定义公式为:gt=tanhWpg*Pt+Wcg*Ct-1+bgit=σWpi*Pt+Wci*Ct-1+bift=σWpf*Pt+Wcf*Ct-1+bfSt=ft⊙St-1+it⊙gtot=σWpo*Pt+Wco*Ct-1+Wso*St+boCt=ot⊙tanhStgt’=tanhWhg*Pt+Wmg*Mt-1+bg’it’=σWhi*Pt+Wmi*Mt-1+bi’ft’=σWhf*Pt+Wmf*Mt-1+bf’Mt=ft’⊙Mt-1+it’⊙gt’ot’=σWmo*Mt+Wco’*Ct+bo’Ht=ot’⊙tanhCt其中,t表示第t时刻,gt、it、ft、ot和gt’、it’、ft’、ot’分别表示两组候选记忆单元、输入门、遗忘门、输出门在t时刻的输出,Pt为经过rwkv模块后的输出数据,Ct、Ct-1分别为t、t-1时刻记忆单元状态,St、St-1分别为状态单元在t、t-1时刻的输出,Mt、Mt-1分别为时空输入单元在t、t-1时刻的输出;Wpg、Wpi、Wpf、Wpo分别为候选记忆单元g、输入门i、遗忘门f、输出门o中Pt的权重,Wcg、Wci、Wcf、Wco分别为候选记忆单元g、输入门i、遗忘门f、输出门o中Ct-1的权重,Wso为输出门o中St的权重,Whg、Whi、Whf分别为候选记忆单元g′、输入门i′、遗忘门f′中Pt的权重,Wmg、Wmi、Wmf分别为候选记忆单元g′、输入门i′、遗忘门f′中Mt-1的权重,Wmo、Wco’分别为输出门o′中Mt、Ct的权重;bg、bi、bf、bo分别为候选记忆单元g、输入门i、遗忘门f、输出门o的偏置,bg’、bi’、bf’、bo’分别为候选记忆单元g′、输入门i′、遗忘门f′、输出门o′的偏置;tanh、σ为激活函数,H为门控单元阵列输出的隐藏状态;*为卷积操作,⊙为哈达玛积;门控单元阵列输出数据H经过全连接层、卷积层及像素重塑层后的输出即为风的东西向及南北向分量的预测结果;使用训练好的MIM-rwkv网络模型根据输入的再分析数据、回顾性仿真数据及站点观测数据,得到地面风的东西向及南北向分量气象要素预测结果的评估指标。

全文数据:

权利要求:

百度查询: 南京信息工程大学 一种基于大数据框架的SADBO改进MIM-rwkv的气象预报方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。