申请/专利权人：中国人民解放军军事科学院系统工程研究院

申请日：2023-12-24

公开（公告）日：2024-03-22

公开（公告）号：CN117750411A

主分类号：H04W24/06

分类号：H04W24/06;H04L41/14;G06N3/0464;G06N3/0499

优先权：

专利状态码：在审-实质审查的生效

法律状态：2024.04.09#实质审查的生效;2024.03.22#公开

摘要：本发明涉及一种基于掩码建模的无线信号表示学习方法，属于信号处理技术领域。本发明以各种无线信号作为网络模型输入，通过掩码机制随机遮掩无线信号的部分片段，利用Transformer模型提取未遮掩信号的特征信息并对掩码部分进行重构和预测，在无标签信息的情况下实现无线信号的表示学习。本发明可在无标签信息的情况下进行无线信号的通用表示学习，充分挖掘信号的内在特征；相较于现有技术，本发明利用掩码机制，构建信号重构和预测任务来预训练网络模型，适用于信号预测、分类、去噪等下游任务。

主权项：1.一种基于掩码建模的无线信号表示学习方法，其特征在于，该方法包括如下步骤：S1、对采集到的无线信号进行预处理，转换成网络模型输入的表示序列，并将信号序列分为过去和未来两个子序列；S2、通过掩码机制随机遮掩过去序列的部分片段，输入到嵌入模块和Transformer编码器提取信号的内在特征，得到编码序列；S3、编码序列经过线性变换获得重构序列，计算掩码重构损失；S4、未来序列通过嵌入映射到高维空间，与编码序列共同输入到包含掩码注意力的Transformer解码器中建模信号的时序关系，输出解码序列；S5、解码序列经过线性变换得到预测矩阵，计算信号预测损失；S6、构建包含掩码重构损失和信号预测损失的联合损失，反向更新模型参数；S7、保存训练后的网络模型，使用下游任务的样本数据微调网络模型，用于信号重构、生成、预测和分类任务。

全文数据：

权利要求：

百度查询： 中国人民解放军军事科学院系统工程研究院 一种基于掩码建模的无线信号表示学习方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD