买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：北京中科闻歌科技股份有限公司;深圳中科闻歌科技有限公司;国科智安(北京)科技有限公司

摘要：本申请涉及一种面向文本审核的中文对抗样本生成方法及装置，其中方法包括：获取待处理语句信息；对待处理语句信息进行分词，得到多个词语；确定词语的第一重要性信息；获取各个词语对应的扰动词语；根据第一重要性信息，依次得到将待处理语句信息中各个词语替换为对应的扰动词语后的扰动语句信息；在确定扰动语句信息满足预设条件时，根据扰动语句信息得到对待处理语句信息攻击成功后的对抗样本。通过本实施例中的方法可以实现对待处理语句进行词语替换的方式得到对抗样本，进而可以增加用于对预测模型进行训练的样本的多样性，同时可以通过自动生成对抗样本，提升训练数据获取的便利性，提升模型训练的效率。

主权项：1.一种面向文本审核的中文对抗样本生成方法，其特征在于，包括：获取待处理语句信息；对所述待处理语句信息进行分词，得到多个词语；确定所述词语的第一重要性信息，包括：在所述待处理语句信息中分别对所述词语进行删除，得到与所述词语对应的第一缺词语句信息；根据预设的文本审核模型确定所述待处理语句信息对应的第一权重值，以及所述第一缺词语句信息对应的第二权重值，其中，所述第一权重值和所述第二权重值为特定预测类型对应的分数值；根据所述第一权重值分别与第二权重值之间的差值，得到所述词语对应的第一重要性信息，其中，所述根据所述第一权重值分别与第二权重值之间的差值，得到所述词语对应的第一重要性信息概括为移除第i个词语wi前后预测分值的变化公式Iwi，所述变化公式Iwi为： 其中，i＝1,2,…,n，为词wi的重要性分值；Y以及为互不相同的类别标签，即：FYX是语句X为类别Y的预测分值；是语句X为类别的预测分值；移除词语wi后语句X为类别Y的预测分值，移除词语wi后语句X为类别的预测分值；获取各个所述词语对应的扰动词语，包括：确定所述词语的拼音以及字形；根据所述拼音，将所述词语中的至少一个字替换为拼音后得到的字符作为所述扰动词语；或者，根据所述字形，将所述词语中的至少一个字替换为字形满足预设相似度要求的形近字后得到的字符作为所述扰动词语；或者，根据所述拼音以及字形，将所述词语中的至少一个字替换为同音和或字形满足预设相似度要求的同音形近字后得到的字符作为所述扰动词语；根据所述第一重要性信息，依次得到将所述待处理语句信息中各个所述词语替换为对应的扰动词语后的扰动语句信息；在确定所述扰动语句信息满足预设条件时，根据所述扰动语句信息得到对所述待处理语句信息攻击成功后的对抗样本；在根据所述第一重要性信息，依次得到将所述待处理语句信息中各个所述词语替换为对应的扰动词语后的扰动语句信息之前，还包括：将所述词语按照所述第一重要性信息由高至低进行排列，得到各个词语对应的排列次序信息；根据所述排列次序信息，确定与各个所述词语对应的替换次序信息；所述替换次序信息用于确定将所述词语替换为对应的扰动词语的次序。

全文数据：

权利要求：

百度查询： 北京中科闻歌科技股份有限公司 深圳中科闻歌科技有限公司 国科智安(北京)科技有限公司 一种面向文本审核的中文对抗样本生成方法及装置