买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:新疆新华水电投资股份有限公司
摘要:本发明公开了一种云边端AI模型管理方法、存储介质及电子设备,其中方法包括响应于边端设备的配置请求,基于所述配置请求指示的内容配置边端设备;基于接收到模型服务部署请求,配置服务部署所需的配置信息,并在Kubernetes创建服务部署集;监听所述服务部署集的状态变化,并将所述状态变化进行回调。通过简单的配置和操作,就可以实现云边端AI模型的快速部署,更快的使用AI模型,并且对部署后的AI模型服务有更多的控制能力。额服了相关技术中模型部署存在的部署难度大成本高的缺陷。
主权项:1.一种云边端AI模型管理方法,包括:响应于边端设备的配置请求,基于所述配置请求指示的内容配置边端设备,其中,包括:响应于边端设备的创建请求,通过创建字段完成边端设备的创建;响应于将所述边端设备添加至集群的请求,生成添加用脚本,并在所述脚本被调用执行后加入集群中完成对创建的边端设备的激活;部署边端设备的守护进程;还包括:响应于边端设备的删除请求,退出所述守护进程并删除作为节点的所述边端设备;其中,边端设备的状态变化可被监听,节点的状态信息可以发送到Kafka,以进一步在AI平台呈现节点的心跳和消费;基于接收到模型服务部署请求,配置服务部署所需的配置信息,并在Kubernetes创建服务部署集;监听所述服务部署集的状态变化,并将所述状态变化进行回调;在Kubernetes创建AI模型服务部署集包括:在Kubernetes创建Deployment,其中,下载容器用于模型的下载,算法容器为模型提供算法服务,通过kubernets的controller对边端节点pod进行创建;监听所述服务部署集的状态变化,并将所述状态变化进行回调包括:监听Deployment和容器的状态变化,将所述状态变化通过请求消息进行回调。
全文数据:
权利要求:
百度查询: 新疆新华水电投资股份有限公司 一种云边端AI模型管理方法、存储介质、电子设备
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。