申请/专利权人：西北工业大学

申请日：2021-08-02

公开（公告）日：2024-03-08

公开（公告）号：CN113589936B

主分类号：G06F3/01

分类号：G06F3/01;G06F18/241;G06N3/04;G06N3/084

优先权：

专利状态码：有效-授权

法律状态：2024.03.08#授权;2021.11.19#实质审查的生效;2021.11.02#公开

摘要：本发明提供了一种基于fMRI数据识别脑功能网络的DBN结构构建方法。首先，将输入的fMRI数据集随机划分得到训练数据和验证数据；然后，构建由若干RBM层组成的DBN模型，其中，每个RBM层由一个可视层和一个隐藏层构成；再构造DBN模型的结构搜索空间；接下来，对DBN模型的每一个RBM层进行基于Gumbel‑SoftMax策略的联合结构搜索和训练，训练好的多个RBM层即构成最终的DBN模型。本发明能够较好地解决现有DBN结构自动搜索方法的搜索速度低且效率差的问题，通过从整个结构搜索空间抽取备选结构，并且共享备选结构之间的权重，能够极大地节省训练候选结构收敛的时间，提高DBN结构的搜索速度和效率。

主权项：1.一种基于fMRI数据识别脑功能网络的DBN结构构建方法，其特征在于步骤如下：步骤1：输入fMRI数据集，随机抽取其中不超过15％的样本作为验证数据，其余样本作为训练数据；步骤2：构建由若干RBM层组成的DBN模型，其中，每个RBM层由一个可视层和一个隐藏层构成，可视层的输出即为隐藏层的输入，对于第一个RBM层，其可视层的单元数目等于fMRI数据的体素数量，其余RBM层的可视层是上一个RBM层的隐藏层；步骤3：以一个具有若干个单元的隐藏层结构作为一个候选结构，设定隐藏层包含的单元数量搜索范围为H＝[10,800]，步长为10，所有候选结构构成DBN模型的结构搜索空间；步骤4：将步骤1得到的数据集输入到步骤2构建的DBN模型，按照以下过程搜索和训练DBN模型，得到最终的DBN模型的结构：步骤a：初始化DBN模型的参数，包括当前RBM层的序号m＝1、最大RBM层序号M＝10、排除信息百分比初值MSE0′＝0、排除信息百分比最小值MA、RBM层结构训练学习率ε、权重衰减率β、批量大小B、训练总次数E、结构搜索学习率ξ；所述的排除信息百分比最小值MA≤0.01、RBM层结构训练学习率ε0.1、权重衰减率β＜0.05、批量大小B20、训练总次数E与批量大小B的乘积大于等于10000、结构搜索学习率ξ0.05；步骤b：使用高斯分布N0,0.01初始化当前第m个RBM层的DBN模型候选结构的分布α，并按照下式计算得到每个备选结构的概率： 其中，表示基于Gumbel-SoftMax策略选择第j个候选结构的概率，j＝1,2,…,n，n表示候选结构的总数，oj表示独立且同分布的标准Gumbel分布的随机变量的第j个元素值，o＝-log-logu，u～U0,1，U0,1为0到1之间的均匀分布；τ是SoftMax的温度参数，τ0，pj表示基于SoftMax函数选择第j个候选结构的概率，按照下式计算得到： 其中，αj表示候选结构的分布α的第j个元素值；然后，选择值最大的前两个候选结构作为备选结构；步骤c：令训练次数初始值e＝1，将训练数据按批量大小B分批分别输入到步骤b得到的两个备选结构，通过采用梯度下降法衰减训练损失对网络进行训练，其中，当前第m个RBM层的参数θ＝{Wij,ai,bj}按下式进行更新： 其中，vi表示可见层单元向量v的第i个元素，hi表示隐藏层单元向量h的第i个元素，hj表示隐藏层单元向量h的第j个元素，i＝1,2,…,n1，n1为可视层单元的总数，j＝1,2,…,n2，n2为隐藏层单元的总数，Wij表示可见层单元和隐藏层单元之间的权重，ai表示可见层单元的偏差，bj表示隐藏层单元的偏差，·data表示输入为可视层单元向量时隐藏层的输出，·recon表示输入为重构数据时隐藏层的输出，sign·表示符号函数，←表示更新操作；所述的训练损失设定为网络输入与输出之间的均方误差；步骤d：将验证数据按批量大小B分批分别输入到步骤c训练后的网络，通过采用改善的梯度下降法最小化验证损失，对DBN模型候选结构参数A进行更新，所述的改善的梯度下降法如下所示： 其中，表示梯度算子，表示总的验证损失，θ*A表示最小化训练损失得到的最优参数，θ为步骤c训练后的RBM层参数，表示基于参数θ和A的训练损失；步骤e:如果当前训练次数eE时，则停止更新θ和A，转至步骤f；否则，令e＝e+1，返回步骤c继续进行下一次训练；步骤f：基于步骤e得到结构参数A，选择概率最大的备选结构及其参数作为当前第m个RBM层的最终结构；步骤g：按下式计算当前网络结构的排除信息的百分比MSE′m：MSE′m＝1-MSE′m-1×MSEm5其中，MSE′m-1表示上一次计算得到的排除信息的百分比，MSEm表示第m个RBM层的输出与其输入之间的均方误差；如果mM或MSE′m＜MA，停止搜索和训练，此时得到的包含m个RBM层的DBN模型即为最终的DBN模型；否则，以得到的第m个RBM层的隐藏层作为下一个RBM层的可视层，令m＝m+1，返回步骤b继续进行搜索和训练。

全文数据：

权利要求：

百度查询： 西北工业大学 基于fMRI数据识别脑功能网络的DBN结构构建方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD