恭喜苏州浪潮智能科技有限公司陈清山获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜苏州浪潮智能科技有限公司申请的专利一种推理服务部署方法、装置、计算机设备及存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN114819160B 。
龙图腾网通过国家知识产权局官网在2025-05-30发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210602553.9,技术领域涉及:G06N5/04;该发明授权一种推理服务部署方法、装置、计算机设备及存储介质是由陈清山设计研发完成,并于2022-05-30向国家知识产权局提交的专利申请。
本一种推理服务部署方法、装置、计算机设备及存储介质在说明书摘要公布了:本发明涉及计算机应用技术领域,特别是涉及一种推理服务部署方法、装置、计算机设备及存储介质。所述方法包括:将各推理框架的运行参数移除,并分别对每个移除运行参数后的推理框架制作对应的镜像文件;创建包括若干模型文件的模型资源库;基于待部署推理服务确定目标模型和目标推理框架;为所述目标推理框架自定义运行参数;加载所述目标推理框架对应的镜像文件并基于所述自定义运行参数启动所述目标推理框架;在启动后的所述目标推理框架下从所述模型资源库中拉取并运行所述目标模型对应的模型文件。本发明的方案使得推理框架具有较强的灵活性,降低了不同推理框架与不同模型的组合的难度,丰富了推理服务的部署方式,提升推理服务的部署效率。
本发明授权一种推理服务部署方法、装置、计算机设备及存储介质在权利要求书中公布了:1.一种推理服务部署方法,其特征在于,所述推理服务部署方法包括:将各推理框架的运行参数移除,并分别对每个移除运行参数后的推理框架制作对应的镜像文件;创建包括若干模型文件的模型资源库;基于待部署推理服务确定目标模型和目标推理框架;为所述目标推理框架自定义运行参数;加载所述目标推理框架对应的镜像文件并基于所述自定义运行参数启动所述目标推理框架;在启动后的所述目标推理框架下从所述模型资源库中拉取并运行所述目标模型对应的模型文件;为所述目标模型自定义拉取协议;以及执行所述在启动后的所述目标推理框架下从所述模型资源库中拉取并运行所述目标模型对应的模型文件的步骤时采用所述自定义拉取协议拉取模型文件;所述自定义拉取协议为超文本传输协议、文件传输协议、分布式文件系统协议以及持久化卷声明协议中的任意一种。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人苏州浪潮智能科技有限公司,其通讯地址为:215000 江苏省苏州市吴中经济开发区郭巷街道官浦路1号9幢;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。