龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
摘要：本发明公开了一种提高AI模型边缘设备推理运算方法，包括以下步骤，构建推理运算框架，首先构建AI模型边缘设备推理运算框架，生成AI模型边缘设备推理运算过程中的推理运算主、次框架流程；本发明专利通过将模型分解为多个独立运行子模型，在接收待推理运算数据时，多个子模型同步运行，可满足多个数据的同步推理运算，并在多个子模型作用下可交替推理运行，各个数据也不会产生相互影响，不受运算数量局限，效率更高，且多个子模型根据不同的权重，对于数据是进行不同部分的运算，相比整体数据进行推理运算时间更短，且不会出现现有剪枝算法会存在的剪枝过度或剪枝不足情况，数据不丢失，精度高。
主权项：1.一种提高AI模型边缘设备推理运算方法，其特征在于：包括以下步骤：步骤1：构建推理运算框架：首先构建AI模型边缘设备推理运算框架，生成AI模型边缘设备推理运算过程中的推理运算主、次框架流程；构建推理运算数据的多个对应数据库，用于接收多个方向的数据推理运算的数据；步骤2：模型分配：基于深度学习AI训练模型生成AI模型，结合提前构建的推理运行框架推理运算主、次流程，依照主、次框架流程权重，将AI模型进行权重划分，获得权重主、次，根据获得的权重主、次生成和权重主、次对应的多个推理运算的子模型，多个子模型生成后进行序号标注；将多个子模型依次输入至少一个推理运算硬件设备形成链接，使每个推理运算硬件设备能够满足支撑其对对应链接的子模型的推理运算工作；步骤3：数据标注：接收模型推理请求，接收多个方向同时传输的待推理运算数据；使用标准差进行表示，数据标准差越大的，波动越大的，则表示权重越高，以此获得数据的权重关系；将多个待推理运算数据分别存入到对应数据库中，并根据权重对各个数据库进行分组并进行序号标注，根据不同数据库不同的序号和多个子模型的序号进行依次对应；多个数据库通过压缩依次输送多个数据至多个子模型中，子模型接收对应数据进行解压并进行同步推理运算，在多个推理运算硬件设备支撑下，多个子模型同步对多个数据展开推理运算，最终可依次获得多个待推理运算数据的推理运算结果或单个待推理运算数据的多次推理运算结果。
全文数据：
权利要求：
百度查询： 厦门狄耐克智能科技股份有限公司 一种提高AI模型边缘设备推理运算方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号