龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：卓世智星(青田)元宇宙科技有限公司
摘要：本发明提供一种文本生成模型的构建方法，涉及人工智能技术领域。所述方法包括：获取指定文本生成模型中每个FFN层对应的模型参数；获取FFN层中的神经元在变换处理中的激活特征，即共同激活矩阵、激活次数向量以及激活数量列表；基于FFN层对应的共同激活矩阵以及激活次数向量，将FFN层中的神经元按照拆分数划分为多个目标神经元组；针对预设数量个专家，基于多个目标神经元组从模型参数中提取每个专家对应的目标模型参数；利用所有激活数量列表以及目标模型参数，构建目标文本生成模型。本发明利用指定文本生成模型中的先验知识，可快速合理地配置目标文本生成模型的参数，进而可实现目标文本生成模型的快速部署，提升文本生成效率。
主权项：1.一种文本生成模型的构建方法，其特征在于，所述方法包括：获取指定文本生成模型中每个前馈神经网络层对应的模型参数，所述模型参数用于对输入至所述前馈神经网络层的文本特征进行变换处理；获取每个所述前馈神经网络层中的神经元，在所述变换处理中的激活特征，所述激活特征包括共同激活矩阵、激活次数向量以及激活数量列表；基于所述前馈神经网络层对应的共同激活矩阵以及激活次数向量，将所述前馈神经网络层中的神经元按照拆分数划分为多个目标神经元组；针对预设数量个专家，基于所述多个目标神经元组，从所述模型参数中提取每个专家对应的目标模型参数，所述预设数量与所述拆分数相关；以所有所述激活数量列表以及所有所述专家对应的目标模型参数，构建目标文本生成模型，所述目标文本生成模型用于生成与输入文本对应的响应文本。
全文数据：
权利要求：
百度查询： 卓世智星(青田)元宇宙科技有限公司 一种文本生成模型的构建方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号