申请/专利权人：湖南科技大学

申请日：2021-07-28

公开（公告）日：2024-04-16

公开（公告）号：CN113554491B

主分类号：G06Q30/0601

分类号：G06Q30/0601;G06N3/0464;G06F18/214;G06F16/9535

优先权：

专利状态码：有效-授权

法律状态：2024.04.16#授权;2021.11.12#实质审查的生效;2021.10.26#公开

摘要：本发明公开了基于特征重要性和双线性特征交互的移动应用推荐方法，嵌入层是将稀疏表示后的原始输入特征嵌入到稠密的向量中。SENET层将嵌入层转化为类SENENT的嵌入特征，以此来提升特征的可分辨性。接下来双线性交互层分别对原始嵌入与类SENENE嵌入进行二阶特征交互建模。随后，连接层将双线性交互层的输出连接整合在一起。最后，将交叉组合后的特征灌入到神经网络中，并在预测层输出预测得分。本发明属于移动应用技术领域，具体是指基于特征重要性和双线性特征交互的移动应用推荐方法。

主权项：1.基于特征重要性和双线性特征交互的移动应用推荐方法，其特征在于，包括如下步骤：1嵌入层：稀疏输入层对原始输入特征采用稀疏表示，嵌入层能够将稀疏特征嵌入到低维、连续的实值向量中，通过线性变换将稀疏矩阵变成密集矩阵进行矩阵的稠密化、提取矩阵的隐含特征，同时提升模型的泛化能力；嵌入层的输出表示如下：E＝[e1，e2，...，ei，...，ef]1其中f代表域的数量，ei∈Rk则表示第i个域的表征，向量的大小k；2SENET层：不同的特征对目标任务应有不同的重要性，对于特定的CTR预测任务，通过SENET机制动态增大重要特征的权重，减少信息不足特征的权重；SENET通过三步组成：特征压缩、激励和重赋权值；首先对上一步得到的嵌入特征进行Squeeze操作，得到全局特征，然后对全局特征进行Excitation操作，学习各个特征间的关系，得到不同特征的权重，最后乘以原来的嵌入特征得到最终特征；3双线性交互层：结合内积和哈达玛积来学习具有额外参数的特征交互；交互向量pij可通过以下三种方式进行计算：所有域pij＝vi·W⊙vj5W∈Rk×k所有的向量vi，vj共用一个W；在双线性交互层中额外的参数量为k×k；单个域pij＝vi·Wi⊙vj6W∈Rk×k对应第i个域的参数矩阵，因此该层共需要维护f×k×k个参数；域之间交互pij＝vi·Wij⊙vj7W∈Rk×k对应第i个域与第j个域之间的权重矩阵，另外需要额外大小为的参数量；双线性交互层从原始嵌入E输出交互向量p＝[p1，...，pi，...，pn]，以及从类SENET嵌入V输出交互向量q＝[q1，...qi，...，qn]；其中向量pi∈Rk，qi∈Rk；重赋权值具体步骤如下：嵌入层的每个域乘以对应权重，得到最终的嵌入结果为V＝{v1，...，vf}；SENET的嵌入V可计算如下：V＝[a1·e1，...，af·ef]＝[v1，...，vf]44连接层：连接层将交互向量p和q连接起来，并将连接后的向量灌入到神经网络层；具体的过程可表示为如下形式：C＝[p1，...，pn，q1，...，qn]＝[c1，...，c2n]85深度网络：将深度神经网络DNN组件与浅层模型相结合，形成一个深度模型；输入是连接层的输出向量C，深度网络由多个全连接层组成，能够隐含地捕获高阶特征；令a0＝[c1，...，c2n]表示初始输入，将a0灌入深度神经网络，其前馈过程如下：al＝σWlal-1+bl9al为深度网络的第l层的输出，σ是sigmoid的函数，Wl表示模型的权重矩阵，bl表示模型的偏移量；经过L层后，生成一个稠密的实值特征向量，输入到sigmoid函数中进行CTR预测：yd＝σWLaL+1+bL+110其中L为深度模型的层数；6预测层：模型预测层的输出表达式如下： 其中作为模型的预测值，σ是sigmoid函数；m作为特征大小；wi是线性部分的第i个权重；整个训练过程旨在最小化下面的目标函数： 其中yi是第i个样本的真实标签，对应第i个样本的预测标签；N为移动应用的样本总数。

全文数据：

权利要求：

百度查询： 湖南科技大学 基于特征重要性和双线性特征交互的移动应用推荐方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD