龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
申请/专利权人：上海岩芯数智人工智能科技有限公司
申请日：2024-03-22
公开（公告）日：2024-07-05
公开（公告）号：CN118297159A
主分类号：G06N5/04
分类号：G06N5/04;G06F16/28;G06F16/215;G06F16/2455;G06F16/23;G06F40/151;G06F16/242
优先权：
专利状态码：在审-实质审查的生效
法律状态：2024.07.23#实质审查的生效;2024.07.05#公开
摘要：本发明公开了一种基于大语言模型问答场景的敏感词过滤方法及系统，解决了对于大语言模型问答场景中敏感词汇的监管控制的问题。本发明结合LLM问答场景，通过三个阶段对敏感词进行管控，具体包括：1用户输入时的敏感词管控阶段，当用户输入一个问题后，在数据库中敏感词列表里筛选是否有存在敏感词；2LLM推理结果的敏感词映射阶段，当用户的问题交由LLM推理并返回结果后，循环敏感词映射列表，把对应的敏感词替换成对应的映射词；3LLM推理结果的敏感词管控阶段，把敏感词映射后的内容在数据库中敏感词列表里筛选是存在敏感词。通过上述三个阶段对敏感词进行管控，实现了对于大语言模型问答场景中的敏感词有效过滤。
主权项：1.一种基于大语言模型问答场景的敏感词过滤方法，其特征在于，具体包括如下步骤：启动大语言模型LLM问答；定时更新敏感词汇数据库；从数据库中定时获取最新的敏感词汇列表并保存，形成本地数组G1；从数据库中定时获取最新的敏感词汇映射关系并保存，形成本地数组G2；获取用户的提问Q1并对Q1进行基础验证，若Q1满足基础验证要求，则终止后续流程并提示用户重新提问，反之，则进行后续流程；根据G1对Q1进行敏感词汇判断，若Q1包括敏感词，则给予用户提示并终止后续流程，反之，则进行后续流程；根据Q1生成提示词Prompt；大语言模型LLM根据提示词进行推理，得到推理结果R1；根据G2对R1进行敏感词汇判断，若R1中包含敏感词汇，则根据G2将敏感词汇替换成对应的词条，得到推理结果R2，反之，则终止后续流程并将R1反馈给用户；根据G1对R2进行敏感词汇判断，若R2中包含敏感词汇，则终止后续流程并给予用户提示，反之，则将R2反馈给用户。
全文数据：
权利要求：
百度查询： 上海岩芯数智人工智能科技有限公司 一种基于大语言模型问答场景的敏感词过滤方法及系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号