买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
摘要:本发明提供一种用于将来自更复杂模型的知识融入更简单模型中的系统、方法和计算机程序产品。方法可包括获得与第一组特征相关联的第一训练数据以及与不同于所述第一组特征的第二组特征相关联的第二训练数据;基于所述第一训练数据和所述第二训练数据来训练第一模型;以及基于所述第二训练数据而使用损失函数来训练第二模型,所述损失函数取决于所述第一模型的中间层的输出和所述第二模型的输出。
主权项:1.一种计算机实施的方法,包括:通过至少一个处理器获得与第一组特征相关联的第一训练数据以及与不同于所述第一组特征的第二组特征相关联的第二训练数据;通过至少一个处理器基于所述第一训练数据和所述第二训练数据来训练第一模型;以及通过至少一个处理器基于所述第二训练数据而使用损失函数来训练第二模型,所述损失函数取决于所述第一模型的中间层的输出和所述第二模型的输出,所述第一模型包括循环神经网络,所述循环神经网络包括两个LSTM隐藏层,所述两个LSTM隐藏层包括所述第一模型的中间层,其中,所述第一模型的中间层的输出包括来自所述两个LSTM隐藏层中的第二LSTM隐藏层的隐藏状态向量ht,其中,所述第二模型包括前馈神经网络FRNN,根据下式来最小化所述第二模型的输出与来自所述第一模型的中间层的输出之间的损失函数: 其中,W1是输入特征向量x与所述循环神经网络的隐藏层之间的权矩阵,W2是隐藏层到目标单元之间的权矩阵,而N是训练示例的数目,xt是训练示例。
全文数据:
权利要求:
百度查询: 维萨国际服务协会 将复杂模型的知识融入简单模型的系统、方法和程序产品
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。