申请/专利权人：复旦大学

申请日：2023-12-30

公开（公告）日：2024-04-02

公开（公告）号：CN117808054A

主分类号：G06N3/049

分类号：G06N3/049;G06N3/08;G06F17/13

优先权：

专利状态码：在审-实质审查的生效

法律状态：2024.04.19#实质审查的生效;2024.04.02#公开

摘要：本发明属于人工智能技术领域，具体为一种基于机器学习的复杂系统辨识与重构方法。本发明利用具有时滞的连续深度神经网络，称为神经时滞微分方程，在模型已知和模型未知的情况下对复杂系统进行系统辨识和重构。本发明将之前的模型从单个时滞推广到多个时滞的情形，并将多个时滞视作可学习参数。此外，每个时滞可以依赖于系统状态本身与时间，将神经时滞微分方程推广到更一般的情形。从应用层面，本发明考虑在模型已知和模型未知的情况下，根据观测到的时间序列数据，实现复杂系统的精准系统辨识和重构。本发明方法合理、有效，通过新型机器学习方法，为复杂系统领域中的系统识别与重构提供了一种新思路与技术支持，具有显著的应用价值。

主权项：1.一种基于机器学习的复杂系统辨识与重构方法，其特征在于，利用具有时滞的连续深度神经网络，称为神经时滞微分方程，在模型已知和模型未知的情况下对复杂系统进行系统辨识和重构；具体步骤如下：S1：采集时间序列数据考虑具有多个时滞的复杂系统的一般形式： 其中，τi＝τit,xt＞0是状态和时间依赖时滞，xt为隐藏状态，xt-τi为时滞状态，t0为初始时刻，t1为终端时刻，φt初值函数，u为真实系统向量场f中的系统参数；DDEs的时间t的向量场受当前状态ht影响,还受到过去状态ht-τi的影响；实际观测的时间序列数据集为作为后续模型的训练样本，一共N个样本；这里时刻ti是非等间距采样；S2：拟合初值函数考虑部分不等间隔采样的历史时间序列数据作为初值函数的采样点，利用三次样条函数对采样点进行插值，得到近似的初值函数该初值函数满足两次连续可微性质，可以天然地适用于传统自适应步长的数值求解器中；S3：构建神经时滞微分方程考虑具有多个时滞的神经DDEsNDDEs： 其中，为近似状态，是近似状态和时间依赖时滞；为近似时滞状态，近似初值函数；模型已知的情形下，fNN为真实系统的向量场f，θ就是系统参数u，但具体参数值未知；模型未知的情形下，θ为神经网络fNN中待训练的参数；S4：定义模型训练所需的损失函数根据观测的时间序列数据集为利用NDDE1和近似的初值函数得到观测数据对应时刻的预测值得到目标的损失函数为： 采取小批量m＜＜N的方式来加速模型优化，此时每个批次的损失函数为： S5：前向过程计算简化计算，通过预处理的方式得到时滞状态，即，通过三次样条插值得到，记则NDDEs1视作具有外部输入的神经常微分方程NODEs: 因此，前向过程通过NODEs框架，借助自适应步长的ODE数值求解器计算得到；S6：伴随动力学与梯度计算当NDDEs的前向计算转化成NODEs的前向计算后，使用伴随灵敏度方法计算反向传播过程中的梯度，引入伴随变量： 这里假设损失函数只依赖于终端状态，及则，NDDEs1中参数θ关于损失函数的梯度为： 且伴随变量的动力学方程为： S7：优化参数根据伴随变量的动力学方程3与4，进行NDDEs中参数关于损失函数的梯度计算；具体地，首先根据NODEs框架，借助自适应步长的ODE数值求解器反向计算参数θ关于损失函数的梯度；然后，根据梯度优化器更新网络参数，直到整个算法收敛，损失函数达到最小；S8：处理时间序列任务根据复杂系统观测的时间序列，采用上述流程对复杂系统实现数据驱动、无模型的方式，进行系统辨识和系统重构。

全文数据：

权利要求：

百度查询： 复旦大学 基于机器学习的复杂系统辨识与重构方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD