买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：之江实验室

摘要：本说明书提供的一种基于阻变存储器的模型量化方法、装置以及设备中，通过根据待量化模型构建压缩模型，确定压缩模型各网络层预设的输入位宽和预设的权重位宽，然后再将训练样本输入所述压缩模型，确定输出结果，根据所述输出结果以及所述训练样本对应标注之间的差异，确定损失；以所述损失最小为优化目标，调整所述压缩模型的各网络层的所述输入位宽以及所述权重位宽，并确定若干组符合优化条件的输入位宽以及权重位宽，根据压缩模型的模型精度确定各网络层对应的输入位宽以及权重位宽。使得量化后的模型在保证模型精度满足要求的前提下，可通过阻变存储器精确表示模型的权重，增大了阻变存储器的资源利用率。

主权项：1.一种基于阻变存储器的模型量化方法，其特征在于，包括：确定待量化模型、训练样本以及待部署模型的阻变存储器的存储位宽；根据所述待量化模型构建压缩模型，并确定所述压缩模型各网络层预设的输入位宽和预设的权重位宽；将所述训练样本输入所述压缩模型，确定输出结果，根据所述输出结果以及所述训练样本对应标注之间的差异，确定损失；以所述损失最小为优化目标，调整所述压缩模型的各网络层的所述输入位宽以及所述权重位宽，并确定若干组符合优化条件的输入位宽以及权重位宽，其中，所述优化条件包括调整后的权重位宽小于所述存储位宽或所述权重位宽为所述存储位宽的整数倍；针对确定出的每组权重位宽和输入位宽，计算以该组权重位宽和输入位宽为参数时，所述待量化模型的模型精度；确定所述压缩模型的预设模型精度，从各组权重位宽和输入位宽中，确定各组所述权重位宽小于等于所述存储位宽的权重位宽和输入位宽，每组权重位宽和输入位宽，作为一个目标参数；针对每个目标参数，根据该目标参数调整所述压缩模型，计算该目标参数对应的压缩模型的模型精度，当存在对应的所述压缩模型的模型精度不小于所述预设模型精度的目标参数时，从对应的所述压缩模型的模型精度不小于所述预设模型精度的目标参数中，确定输入位宽最小的目标参数作为各网络层对应的输入位宽以及权重位宽；当不存在对应的所述压缩模型的模型精度小于所述预设模型精度的目标参数时，计算权重位宽为所述存储位宽整数倍的各组权重位宽和输入位宽对应的所述压缩模型的模型精度，根据各组权重位宽和输入位宽对应的所述压缩模型的模型精度和所述预设模型精度，确定各网络层对应的输入位宽以及权重位宽；根据确定出的各网络层的输入位宽以及权重位宽确定量化后的模型，并将所述量化后的模型部署到所述阻变存储器上。

全文数据：

权利要求：

百度查询： 之江实验室 一种基于阻变存储器的模型量化方法、装置以及设备