买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:罗伯特·博世有限公司
摘要:本发明涉及一种用于训练包括神经常微分方程(ODE)块的神经网络的计算机实现方法。可以使用第一ODE求解器来训练所述神经ODE块。可以使用第二ODE求解器来训练所述神经ODE块并且验证所述神经ODE块描述了作为ODE流的ODE。在训练迭代的前向传递期间,通过将第一ODE求解器应用到所述神经ODE块来获得第一性能值,并且通过将第二ODE求解器应用到所述神经ODE块来获得第二性能值。基于第一性能值与第二性能值之间的差异来调整第一ODE求解器的准确度参数。
主权项:1.一种用于训练神经网络的计算机实现方法(500),所述神经网络包括神经常微分方程ODE块(440),所述方法包括:-访问(510)定义了所述神经网络的模型数据;-访问(510)包括多批训练数据(410)的训练数据集;以及-在所述训练数据集(410)上并且使用第一常微分方程ODE求解器(430)来训练(520)所述神经网络;其中所述方法进一步包括访问第二ODE求解器;其中所述训练包括:初始化第一ODE求解器(430)的准确度参数,并且通过在所述训练的迭代的前向传递期间进行以下步骤从而在所述训练期间调整准确度参数:-通过以下步骤来获得(530)所述神经网络的第一输出(460):-将所述神经ODE块上游的层输出提供(531)给第一ODE求解器(430);-将第一ODE求解器(430)应用(532)到所述神经ODE块(440)以获得第一ODE求解器(430)的输出;以及-将第一ODE求解器(430)的输出馈送(533)到所述神经ODE块下游的层中;-通过以下步骤来获得(540)所述神经网络的第二输出(465):-将所述神经ODE块上游的层输出提供(541)给第二ODE求解器(435);-将第二ODE求解器(435)应用(542)到所述神经ODE块(440)以获得第二ODE求解器(435)的输出;以及-将第二ODE求解器(435)的输出馈送(543)到所述神经ODE块下游的层中;-使用所述神经网络的第一输出(460)来评估(550)性能函数(470)以获得第一性能值,性能函数(470)量化了所述神经网络关于一批训练数据的性能特性;-使用所述神经网络的第二输出(465)来评估(560)性能函数(475)以获得第二性能值;-基于第一性能值与第二性能值之间的差异来调整(590)准确度参数。
全文数据:
权利要求:
百度查询: 罗伯特·博世有限公司 用于训练神经ODE网络的系统和方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。