买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜上海交通大学申请的专利一种对神经网络中层特征表达能力的可视化及定量分析方法和系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN113963185B 。

龙图腾网通过国家知识产权局官网在2025-03-21发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202111240906.7，技术领域涉及：G06V10/74；该发明授权一种对神经网络中层特征表达能力的可视化及定量分析方法和系统是由张拳石设计研发完成，并于2021-10-25向国家知识产权局提交的专利申请。

本一种对神经网络中层特征表达能力的可视化及定量分析方法和系统在说明书摘要公布了：本申请涉及机器学习技术领域，公开了一种对神经网络中层特征表达能力的可视化及定量分析方法和系统，可实现在无监督的条件下，自动可视化以及定量分析神经网络中层特征的表达能力。该方法包括：提供一待分析的神经网络，该神经网络为在某一数据集上预训练好的深度神经网络；提供一组输入样本，将这些样本输入上述神经网络，提取这些样本对应的样本级别特征，以及区域级别特征；分别对样本级别特征与区域级别特征进行降维，以得到在低维空间中的可视化结果；基于区域级别特征的可视化结果，定量分析特征中知识点的数量与质量。

本发明授权一种对神经网络中层特征表达能力的可视化及定量分析方法和系统在权利要求书中公布了：1.一种对神经网络中层特征表达能力的可视化及定量分析方法，其特征在于，包括以下步骤1选取特征解释对象：选取待分析的模型，其中，所述模型包括有中层表达，包括：神经网络，层次化图模型；2提取神经网络特征：提供一组输入样本，将这些样本输入上述神经网络，提取这些样本的特征，其中，所述特征包括：样本级别特征和区域级别特征；具体的，将给定的一组样本输入待分析的神经网络，对于每个样本，都提取该神经网络某一中间层的输出特征，从而得到每个输入样本对应的样本级别特征，即可得到该组输入样本对应的样本级别特征并；将给定的一组输入样本输入待分析的神经网络，对于每个样本，都提取该神经网络某一卷积层的输出特征，从而得到每个输入样本对应的特征图，其中，特征图的每一个位置对应的高维向量即为该样本在这一区域的区域级别特征；当这一特征图的高与宽分别为H和W，且共有K个通道时，那么，这一特征图包含HW个区域级别特征，其中，每个区域级别特征为一个K维向量；3特征降维，得到可视化结果：首先对样本级别特征进行降维，得到样本级别特征在低维空间中的可视化结果；其次，基于样本级别特征的低维表征和区域级别特征，将区域级别特征进行降维，以得到区域级别特征在低维空间中的可视化结果；具体的，对于每个样本x对应的样本级别特征通过一个投影矩阵将其映射到一个低维空间中，得到样本级别特征的低维表征并且，优化M使得该低维表征应当满足，低维表征g和各个类；所述低维表征和各个类别的接近程度的计算，包括：a利用径向分布建模样本级别特征的低维表征g在低维空间中的分布；b计算低维表征与各个类别的接近程度；其中：所述步骤a包括：基于径向分布，g在低维空间的概率密度函数可写为如下形式: 其中，y∈{1,2,…,C}表示分类任务中的不同类别；πy表示第y类的先验概率；lg＝‖g‖表示g的L2范数，称为g的强度；og＝glg表示g的方向；μy表示第y类的平均方向；k·是一个单调递增的函数,plg|y表示在类别y上lg的先验概率，pvMFog|μy,κlg表示平均方向为μy，聚集参数为κlg的vMF分布；所述步骤b包括：基于上述径向分布，并假设lg的先验概率与类别y是独立的，那么，低维表征g和第y类的接近程度QMy|x表示为如下形式: 4根据可视化结果对特征进行定量分析：基于所述可视化结果，定量分析特征中知识点的数量与质量。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人上海交通大学，其通讯地址为：200240 上海市闵行区东川路800号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。