龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：北京海新智能科技有限公司
摘要：本发明实施例提供一种大模型API聚合调用方法、装置和系统，涉及人工智能大模型应用领域，方法包括：获取原始请求；根据用户提问信息，确定用户提问信适用的目标大模型产品类别；按照用户客户端对应的目标大模型产品类别配置的预设通道选择规则，从目标大模型产品类别对应的至少一个大模型通道中，选择目标大模型通道；将原始请求转换为符合目标接口规范的目标请求，将目标请求发送给目标大模型通道对应的大模型；接收来自目标大模型通道对应的大模型针对目标请求的第一响应，并判断第一响应的状态是否为成功；如果第一响应的状态为成功，则从第一响应中获取回答信息；将回答信息封装为符合预设统一接口规范的第二响应并返回给用户客户端。
主权项：1.一种大模型API聚合调用方法，其特征在于，包括：获取原始请求；所述原始请求包括：来自用户客户端的用户提问信息；所述原始请求符合预设统一接口规范；根据所述用户提问信息，在至少一种大模型产品类别中，确定所述用户提问信适用的目标大模型产品类别；其中，针对每个用户客户端，所述用户客户端对应的每种大模型产品类别，预先配置与所述大模型产品类别对应的至少一个大模型通道；每种大模型产品类别对应配置的各大模型通道，与不同供应商的适用于所述大模型产品类别的大模型对应；每个用户客户端对应的每种大模型产品类别对应的至少一个大模型通道，配置有预设通道选择规则；按照所述用户客户端对应的所述目标大模型产品类别配置的预设通道选择规则，从所述目标大模型产品类别对应的至少一个大模型通道中，选择第一大模型通道作为目标大模型通道；将所述原始请求转换为符合目标接口规范的目标请求，将所述目标请求发送给所述目标大模型通道对应的大模型；所述目标请求包括所述用户提问信息；所述目标接口规范是所述目标大模型通道对应的大模型的接口规范；接收来自所述目标大模型通道对应的大模型针对所述目标请求的第一响应，并判断所述第一响应的状态是否为成功；如果所述第一响应的状态为成功，则从所述第一响应中，获取所述用户提问信息对应的回答信息；将所述回答信息封装为符合所述预设统一接口规范的第二响应，将所述第二响应返回给所述用户客户端。
全文数据：
权利要求：
百度查询： 北京海新智能科技有限公司 一种大模型API聚合调用方法、装置和系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号