龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：山东新一代信息产业技术研究院有限公司
摘要：本发明涉及深度学习领域，具体提供了一种部署client端实现方法，首先，定义一个抽象类和五个公共方法，新增的模型继承抽象类生成派生类并根据每个模型输入输出信息实现模型预处理、输入、输出、推理和后处理五个方法；抽象类构造函数中实现模型信息的解析和gprc‑client端的创建，最终将C++工程接口封装成3个C接口并编译成.so动态链接库提供给前端其他语言调用。与现有技术相比，本发明对新增模型易扩展，且支持多个模型部署，基于C++实现更适用于对性能要求较高的嵌入式设备，生成的动态链接库可供多个语言调用，实现更丰富的前端功能。
主权项：1.一种部署client端实现方法，其特征在于，首先，定义一个抽象类和五个公共方法，新增的模型继承抽象类生成派生类并根据每个模型输入输出信息实现模型预处理、输入、输出、推理和后处理五个方法；抽象类构造函数中实现模型信息的解析和gprc-client端的创建，最终将C++工程接口封装成3个C接口并编译成.so动态链接库提供给前端其他语言调用；进行抽象类定义模型预处理、输入、输出、推理和后处理五个公共方法时，在抽象类中成员变量有模型信息参数结构体用于存放模型解析后参数内容，输入、输出名字、模型输入的高、宽、通道、输入数据格式、一次性推理图片数、访问triton-server的http-client和grpc-client类型指针；在抽象类中成员变量有模型信息参数结构体时，首先根据初始化抽象类时根据传入的模型名称和推理服务器的地址创建http_client和grpc_client对象指针；然后利用指针访问triton-server获取model_meta和model_config数据，最后根据model_meta和model_config解析出模型的信息并存放在定义好的模型信息结构中，根据图像格式解析出图像的宽、高及通道。
全文数据：
权利要求：
百度查询： 山东新一代信息产业技术研究院有限公司 一种部署client端实现方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号