买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：中国电子科技网络信息安全有限公司

摘要：本发明公开了一种防止模型参数窃取的方法、装置、设备及存储介质，其中方法包括以下步骤：S1.训练多个不同精度的蜜罐模型库：构建蜜罐模型集合，将训练集划分为多份并按序取出每份训练数据，多轮训练蜜罐模型集合的所有蜜罐模型，每一轮用测试集测试蜜罐模型的准确率，若蜜罐模型的准确率大于设定的阈值，则终止下一轮的训练；多轮迭代训练后，生成不同准确率等级的蜜罐模型；S2.判断请求是否为攻击者发起：根据用户的访问频次以及查询样本的分布情况，计算每次请求的攻击概率，判断请求是否为攻击行为；S3.诱导攻击者访问蜜罐模型：将不同攻击概率的请求诱导到相应精度的蜜罐模型。本发明极大增强了模型的安全性和业务的鲁棒性。

主权项：1.一种防止模型参数窃取的方法，其特征在于，包括以下步骤：S1.训练多个不同精度的蜜罐模型库：构建蜜罐模型集合，将训练集划分为多份并按序取出每份训练数据，多轮训练蜜罐模型集合的所有蜜罐模型，每一轮用测试集测试蜜罐模型的准确率，若蜜罐模型的准确率大于设定的阈值，则终止下一轮的训练；多轮迭代训练后，生成不同准确率等级的蜜罐模型；S2.判断请求是否为攻击者发起：根据用户的访问频次以及查询样本的分布情况，计算每次请求的攻击概率，判断请求是否为攻击行为；S3.诱导攻击者访问蜜罐模型：将不同攻击概率的请求诱导到相应精度的蜜罐模型；步骤S1包括以下子步骤：S101.假定受保护的模型为，模型的训练集为，模型的测试集为，模型的输出为，其中为训练样本，模型在测试集的准确率为；S102.将训练集，随机划分为k份，每份的大小为固定值，那么；S103.构建n个网络结构相同的蜜罐模型集合，蜜罐模型的参数随机初始化，蜜罐模型的数量根据模型安全性的需要设置；设定不同准确率的阈值从小到大排列，其中准确率阈值需要远小于受保护模型的准确率，使得模型窃取的精度即使接近，也不会对模型所有人造成很大损失；S104.从划分的训练集中按序取出每份训练数据，多轮训练蜜罐模型集合的所有蜜罐模型，每一轮用测试集T测试蜜罐模型的准确率，若蜜罐模型的准确率大于设定的阈值，则终止下一轮的训练；多轮迭代训练后，生成符合不同准确率等级的蜜罐模型；S105.将训练完成的蜜罐模型集合部署到蜜罐模型库所在的服务器，并将每个蜜罐模型服务映射到不同的网络端口；步骤S2包括以下子步骤：S201.从访问日志数据库中提取当前请求用户的访问信息；S202.计算每个新样本与历史样本的最小距离集合；计算集合的标准差，再剔除掉集合中大于三倍标准差的样本，得到距离集合；S203.根据皮罗-威尔克正态分布检验公式，计算距离集合的正态分布检验，其中统计量的大小反应了分布的背离程度，值越接近于1，样本分布越接近正态分布；S204.综合用户的访问频次以及查询样本的分布，计算请求为正常用户的概率值，那么可能发生的攻击；S205.用户请求服务接口每间隔100次执行步骤S201~步骤S204；步骤S3包括以下子步骤：S301.根据蜜罐模型的数量设定不同的诱导攻击阈值，阈值的大小由高到低；S302.判断访问请求是正常用户还是恶意攻击，若，则判定为正常的用户请求，调用受保护的模型；若否则进入步骤，则执行步骤S303；S303.若，则诱导攻击者访问蜜罐模型；若，则诱导攻击者访问精度最低的蜜罐模型；若，则直接阻断访问请求，并将请求的账户加入防火墙黑名单，禁止其在预设时间间隔内访问机器学习服务接口。

全文数据：

权利要求：

百度查询： 中国电子科技网络信息安全有限公司 防止模型参数窃取的方法、装置、计算机设备及存储介质