申请/专利权人：四川大学

申请日：2024-01-05

公开（公告）日：2024-04-26

公开（公告）号：CN117932334A

主分类号：G06F18/214

分类号：G06F18/214;G06F18/22;G06N3/0442;G06N3/084;G06N3/0985;G06F18/241;G06F17/16

优先权：

专利状态码：在审-实质审查的生效

法律状态：2024.05.14#实质审查的生效;2024.04.26#公开

摘要：本发明提供了一种基于注意力机制和多任务学习的时序QoS预测方法，涉及服务推荐与深度学习技术领域。该方法包括收集QoS数据集，设定时间窗口长度并基于QoS数据集构建等长的序列输入时序QoS预测模型，得到QoS属性的预测值。其中，时序QoS预测模型包括多源特征表示层、时序感知层、注意力特化层和多任务预测层。该模型借助注意力机制区分时间窗口内不同时刻的关键度；对任一QoS属性，在多任务预测层设置独立的感知模块，以同步预测多种QoS属性的值，实现多任务预测。该方法对各种可利用的有效信息可快速融入输入特征，且可实现多种QoS属性的同步预测；相较于其他预测方法，该方法的预测效率显著提升，更具实用性，应用该方法的时序QoS预测模型更具鲁棒性。

主权项：1.一种基于注意力机制和多任务学习的时序QoS预测方法，其特征在于，包括：S1：收集QoS数据集；S2：设定时间窗口的长度为w，基于QoS数据集构建长度为w的序列并输入时序QoS预测模型，得到QoS属性的预测值；其中，时序QoS预测模型的构建过程包括：A、构建多源特征表示层；将时刻k的输入表示为用户ID、服务ID、时刻ID和QoS值构成的四元组，并形式化为ui，sj，tk，qi，j，k；其中，i为用户ID的序号，j为服务ID的序号；对用户ID和服务ID进行独热编码，并通过嵌入计算分别映射为d维的隐藏向量采用Time2Vec算法将时刻ID表征为d维的向量计算时刻k的输入特征ei，j，k， 式中，[；]为向量拼接操作；B、构建时序感知层；对作为时间序列的时间窗口，将时刻k至时刻k+w-1的输入特征构成的序列[ei，j，k，ei，j，k+1，...，ei，j，k+w-1]输入时序感知层，有fk＝sigmoidWf·[hk-1；ei，j，k]+bf；ik＝sigmoidWi·[hk-1；ei，j，k]+bi；ok＝sigmoidWo·[hk-1；ei，j，k]+bo；式中，fk、ik、ok分别为时刻k遗忘门、输入门、输出门的计算结果；Wf、Wi、Wo分别为遗忘门、输入门、输出门的权重矩阵，bf、bi、bo分别为遗忘门、输入门、输出门的偏置；hk-1为前一个时刻输出的隐藏状态，h0＝0；通过时刻k的细胞状态Ck聚合当前状态和前一个状态， 式中，为候选细胞状态；Wc、bc分别为细胞状态的权重矩阵和偏置值；计算时刻k的隐藏状态hk，hk＝ok*tanhCk，hk∈Rd×1；式中，Rd×1为一个d维向量；C、构建注意力特化层；拼接待预测时刻tk+w的和并经线性变换后得到查询向量Q， 式中，WQ为权重矩阵，Rd×3d表示维度为d×3d的向量；对隐藏状态向量hl进行两次线性变换，分别得到键向量Gl和值向量Vl，Gl＝WG·hl；Vl＝WV·hl；式中，WG、WV为权重矩阵，WG∈Rd×3d，WV∈Rd×3d；其中，k≤l≤k+w-1；通过缩放点积注意力计算当前时刻和每个历史时刻的相似度， 式中，αl为查询向量Q相对于键向量Gl的相似度；为键向量Gl的转置；d为隐藏状态向量hl的维度；计算注意力特化表征a， D、构建多任务预测层；为第x种QoS属性设置感知模块，进行QoS预测， … 式中，p为预测层中感知模块的层数；和分别为第p层的权重矩阵和偏置；为第x种QoS属性的预测值。

全文数据：

权利要求：

百度查询： 四川大学 一种基于注意力机制和多任务学习的时序QoS预测方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD