恭喜浙江大学吴荣飞获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜浙江大学申请的专利一种用于AI编译器的基于子模型的调度方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN118963774B 。
龙图腾网通过国家知识产权局官网在2025-03-14发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411457208.6,技术领域涉及:G06F8/41;该发明授权一种用于AI编译器的基于子模型的调度方法是由吴荣飞;翁恺设计研发完成,并于2024-10-18向国家知识产权局提交的专利申请。
本一种用于AI编译器的基于子模型的调度方法在说明书摘要公布了:本发明公开了一种用于AI编译器的基于子模型的调度方法,本发明将预训练的ASTPB模型输出的结构信息编码运用在TVM模型中,使得TVM模型在对子模型调度过程中,能够考虑到子模型的结构特征,同时本发明对较小参数量的多头自注意力模型和前馈网络进行训练,从而能够快速获得预测运行时间,通过以上两点能够较快的实现对子模型的参数调度,使得子模型运行时间合适,提高调度效率。
本发明授权一种用于AI编译器的基于子模型的调度方法在权利要求书中公布了:1.一种用于AI编译器的基于子模型的调度方法,其特征在于,包括:S1、通过TVM将目标模型切分成多个子模型和对应的Sketch,基于子模型对应的Sketch选取第一个体集合以构建初始种群,将初始种群下发到硬件执行得到真实运行时间;S2、构建代价模型,所述代价模型包括冻结参数的预训练的ASTPB模型,以及待训练的多头自注意力模型和前馈网络,通过预训练的ASTPB模型基于选取的子模型得到对应的结构信息编码,通过多头自注意力模型基于第一个体集合的数值属性特征得到注意力特征,将注意力特征和结构信息编码进行融合得到融合特征,基于融合特征通过前馈网络得到预测运行时间,基于预测运行时间和真实运行时间通过损失函数训练代价模型;S3、通过训练后的代价模型预测新生成的第二个体集合中每个个体的预测运行时间,基于预测运行时间从第二个体集合中选择个体构建新的种群,将新的种群下发到硬件执行得到对应的真实运行时间;S4、重复步骤S2-S3,直至高于重复次数阈值或者真实运行时间低于运行时间阈值,停止重复,得到子模型的参数组合,以完成子模型的调度;预训练ASTPB模型,包括:将PTA网站的多个提交程序作为数据集,以提交程序的是否正确作为真值;将提交程序解析为抽象语法树,使用word2vec编码抽象语法树的每个节点的语义信息得到第一编码信息,将第一编码信息的各节点数据进行加权平均得到第二编码信息;将每个节点的位置信息进行编码得到位置向量,将位置向量和第二编码信息加和得到树状结构的向量表示,所述位置信息包括节点在抽象语法树中的深度、节点在同一深度的兄弟节点中的位置和节点的父节点在树结构中的位置;所述ASTPB模型包括卷积模块、残差模块、编码器、解码器、连接器和简单神经网络,所述简单神经网络包括Sigmoid激活函数、线性层和Softmax激活函数;通过卷积模块对树状结构的向量表示进行层级融合得到新的树,使用路由遍历将新的树的各个节点组成到节点序列,通过残差模块压缩节点序列得到融合位置矢量,将融合位置矢量依次通过编码器和解码器得到解码特征,将解码特征和基于连接器压缩融合位置矢量的压缩结果进行连接,将连接结果通过Sigmoid激活函数和线性层映射得到结构信息编码,再次通过Softmax激活函数基于结构信息编码得到预测值,残差模块和连接器均为TiDE模型的残差块;通过预测值和真值构建交叉损失函数,基于数据集通过交叉损失函数训练ASTPB模型得到预训练的ASTPB模型。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人浙江大学,其通讯地址为:310058 浙江省杭州市西湖区余杭塘路866号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。