买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：浙江工业大学

摘要：一种基于TWE‑NMF模型的Web服务描述文档语义挖掘方法，包括以下步骤：第一步：根据上下文信息和服务标签信息计算单词的语义权重信息从而得到文档‑单词语义权重信息矩阵D；第二步：统计单词共现信息，从而计算出SPPMI矩阵信息；第三步：基于第一步，第二步得到Mashup服务文档单词的词频信息矩阵D，单词的上下文SPPMI矩阵M，通过分解M可以得到词嵌入信息矩阵，进一步将上述两种信息进行结合，计算服务的主题信息。本发明在模型上能和NMF模型有机的统一，并且通过分解SPPMI矩阵引入的词嵌入信息能缓解Mashup服务特征信息稀疏的问题，从而有效地对Mashup服务进行建模。

主权项：1.一种基于TWE-NMF模型的Web服务描述文档语义挖掘方法，其特征在于，所述方法包括以下步骤：第一步：根据上下文信息和服务标签信息计算单词的语义权重信息从而得到文档-单词语义权重信息矩阵D，步骤如下：1.1使用Python中的自然语言工具包NLTK，对Mashup服务描述文档进行中的单词进行词性标注；1.2：统计单词词频信息，计算TF-IDF信息；1.3：提取Mashup服务标签信息，并基于名词集Nset和TF-IDF值，重新计算Mashup服务描述文档中的每一个单词的语义权重；第二步：统计单词共现信息，从而计算出SPPMI矩阵信息，步骤如下：2.1统计词共现信息，由于Mashup服务描述文档较短，为了能更准确地获取上下文共现信息，将整个服务描述文档作为滑动窗口的长度，计算每个单词和其他单词在上下文中共同出现的次数；2.2点互信息PMI计算，PMI被广泛用于计算单词间相似度的关系，当两个单词在文本中共现概率越大时，单词间的相关性就越强，PMI计算公式如下所示： x和y表示两个单词，Px,y表示单词x和y共现的概率，Px表示单词x在上下文中出现概率，根据单词wj和其上下文单词wc在语料库中的实际共现次数，可以计算出两者之间的PMI值： #wj,wc表示单词wj和上下文单词wc在语料库中的实际共现次数，E为上下文单词对共现的总次数，#wj为单词wj和其他单词共现的次数，Voc表示语料库，即不重复单词的集合；2.3计算偏移正点互信息值SPPMI矩阵，SPPMI矩阵通过PMI值计算，SPPMI矩阵的计算方式为：SPPMIwj,wc＝maxPMIwj,wc-logκ,0其中κ为负采样系数，通过上述公式得到单词的上下文SPPMI矩阵M；第三步：基于第一步，第二步得到Mashup服务文档单词的文档-单词语义权重信息矩阵D，单词的上下文SPPMI矩阵M，通过分解M可以得到词嵌入信息矩阵，进一步将上述两种信息进行结合，计算服务的主题信息，步骤如下：3.1通过由第一步给定全局文档-单词语义权重信息矩阵D，通过NMF将其分解为文档-主题矩阵θ和主题-单词矩阵Z乘积，分解矩阵D的函数表示为: subjectto:θ≥0andZ≥0,θ∈RNxK,Z∈RVxK其中代表L2范数，N表示Mashup文档数量，K表示文档的主题数量，V表示语料库单词的数量，R表示实数集，上标T表示矩阵转置；NMF是在矩阵中所有元素均为非负数约束条件之下，将一个非负矩阵表示为另外两个非负矩阵乘积方式的矩阵分解方法；3.2通过第二步计算得到单词的上下文SPPMI矩阵M，分解矩阵M引入词嵌入信息，分解M的公式如下所示： S是一个额外的对称因子，用于M的近似求解，W为单词的词嵌入矩阵；3.3利用Mashup服务文档和单词间的关系，可以发现主题信息，通过文档内单词上下文的共现信息，可以学习到词嵌入信息，但是这两个部分并不相互孤立，语义相关的单词属于相似的主题，在嵌入空间中也很接近，单词嵌入与它们的主题相关，关系公式如下所示： 3.4结合步骤3.1，3.2和3.3，得到主题模型的目标函数： subjectto:θ≥0andZ≥0求解该目标函数，使用矩阵迹运算将上述公式展开：Jθ,Z,W,S,A＝λdTrD-θZTD-θZTT+λwTrM-WSWTM-WSWTT+λtTrZ-WATZ-WATT其中Jθ,Z,W,S,A为J4在θ,Z,W,S,A参数下的展开形式，进一步运算得到以下公式：Jθ,Z,W,S,A＝λdTrDDT-2DZθT+θZTZθT+λwTrMMT-2MWSWT+WSWTWSWT+λtTrZZT-2ZAWT+WATAWTTr表示矩阵求迹，λd，λw和λt为不同部分的权重系数，用于调整各部分计算的误差对结果的影响，根据正则化约束得到以下目标函数： 其中α,β,γ,ω为正则化参数，避免过拟合；为使目标函数最小化，对上述目标函数求偏导得到以下公式： 令α⊙θ＝0,β⊙Z＝0,γ⊙W＝0,ω⊙A＝0，⊙表示阿达马乘积，即矩阵对应位置的乘积，利用阿达马乘积，令上述公式偏导为0，进一步得到以下等式方程：-2DZ⊙θ+2θZTZ⊙θ+α⊙θ＝0-2λdDTθ+λtWAT⊙Z+2λdZθTθ+λtZ⊙Z+β⊙Z＝0-2λwMWS+λtZA⊙W+λtWATAW+2λwWSWTWS⊙W+γ⊙W＝0 -ZTW⊙A+AWTW⊙A+ω⊙A＝0进一步更新参数： 通过上述参数更新方式，求解出Mashup服务文档-主题矩阵θ和主题-单词矩阵Z，词嵌入矩阵W，主题嵌入矩阵A。

全文数据：

权利要求：

百度查询： 浙江工业大学 基于TWE-NMF模型的Web服务描述文档语义挖掘方法