买专利,只认龙图腾
首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】一种基于改进损失函数Transformer模型的情感可控的诗歌生成方法_南京理工大学_202311822257.0 

申请/专利权人:南京理工大学

申请日:2023-12-27

公开(公告)日:2024-04-02

公开(公告)号:CN117807991A

主分类号:G06F40/284

分类号:G06F40/284;G06F16/335;G06N3/0455;G06N3/084

优先权:

专利状态码:在审-实质审查的生效

法律状态:2024.04.19#实质审查的生效;2024.04.02#公开

摘要:本发明公开了一种基于改进损失函数Transformer模型的情感可控的诗歌生成方法,采集公开数据集,对数据集筛选提炼,并预处理标签;将数据输入Transformer编码器,用Linear层神经网络进行解码,得到解码向量;在训练过程中,将解码向量经过字韵矩阵转化为韵律向量,梯度下降损失函数则结合两种向量加权学习;在推理过程中,使用剪枝搜索和启发式方法,以提高诗歌质量;向部署模型输入提示情感词并进行推理,获得对应于输入情感新的生成诗歌。本方法提出字韵矩阵,将解码向量转化到押韵向量求得押韵相关的损失函数;通过合并两种损失函数的梯度下降,模型生成的诗歌在保证质量的同时押韵率高;结合情感标签,在保证诗歌格式的情况下提高了诗歌的文学性。

主权项:1.一种基于改进损失函数Transformer模型的情感可控的诗歌生成方法,其特征在于,包括以下步骤:步骤1、采集公开数据集,对数据集进行筛选提炼,并处理得到所需标签;步骤2、将情感标签以及诗歌数据输入Transformer编码器,用Linear层神经网络进行解码,得到解码向量;步骤3、在模型训练过程中,将解码向量经过设计好的字韵矩阵转化为韵律向量,在梯度下降时,不仅对解码向量计算诗歌生成相关的损失函数,而且对韵律向量计算押韵相关的损失函数;步骤4、在模型推理过程中,使用beamsearch方法加上重复惩罚或背书惩罚启发式方法,计算可能性最高的生成诗歌以提高诗歌生成质量;步骤5、向部署模型输入提示情感词并进行推理,获得对应于输入情感的新生成的诗歌。

全文数据:

权利要求:

百度查询: 南京理工大学 一种基于改进损失函数Transformer模型的情感可控的诗歌生成方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。