买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：北京信诺软通信息技术有限公司

摘要：本发明提供了一种人机交互考试言论管理方法、介质及电子设备，属于人机交互考试技术领域，包括：利用负面言论数据库,基于一个大语言模型进行微调,得到了一个能够评估输入文本负面度的模型。在实际人机交互考试过程中,系统会实时获取所有考生的输入文本,并启动足够数量的CUDA流来处理。每个CUDA流会启动两层子线程网格,第一层使用浅层模型进行初步负面度评估,第二层使用深层模型结合该考生的对话历史做更加深入的分析。如果评估结果超过设定的阈值,系统会触发干预机制,记录该负面言论并阻止其输出到考试系统。未被判定为负面言论的输入则会被记录并追加到该考生的对话历史中。解决了现有技术资源消耗大，部署成本高的问题。

主权项：1.一种人机交互考试言论管理方法，其特征在于，包括以下步骤：S10、利用负面言论数据库,训练一个浅层模型；并基于一个大语言基座模型,微调得到一个深层模型,其中所述浅层模型用于对输入的文本进行初步负面度评分，所述深层模型用于对输入的文本及其关联的上下文进行负面度深度评分；S20、在实际人机交互考试过程中,利用CPU实时获取全部考生的输入文本,记为输入文本集；S30、启动GPU的最大数量的CUDA流,每个CUDA流内启动两层子线程网格，包括第一层子线程网格和第二层子线程网格；如果考生数超过CUDA流的数量,则采用多批次处理；其中，所述第一层子线程网格运行所述浅层模型，第二层子线程网格运行所述深层模型；S40、将每个CUDA流将从CPU分配到的最新输入文本，输入负面言论识别模型的所述浅层模型中,进行初步负面度评分,判断是否低于可疑阈值；S50、对于所述初步负面度评分低于可疑阈值的最新输入文本,第一层子线程网格直接将结果返回CPU侧,进入S80；对于初步评分高于可疑阈值的最新输入文本,使用Transformer注意力机制从该考生的对话历史中自动提取与所述最新输入文本关联的上下文；S60、将提取的所述关联的上下文与所述最新输入文本一同送入负面言论识别模型的所述深层模型,输出准确负面度的深度评分；S70、第二层子线程网格将所述深度评分的结果返回CPU侧,如果所述深度评分高于判定阈值,则CPU判定存在负面言论,触发干预机制,记录存档该负面言论数据,并阻断该有害言论输出到考试系统；否则进入S80；S80、CPU将未被判定为负面言论的输入记录并追加到该考生的对话历史中,确保后续输入匹配时能获取完整上下文。

全文数据：

权利要求：

百度查询： 北京信诺软通信息技术有限公司 一种人机交互考试言论管理方法、介质及电子设备