龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
摘要：本发明提供一种基于局部敏感哈希的Transformer硬件加速器及加速方法。本发明基于局部敏感哈希的Transformer加速方法，采用基于MinHash算法的局部敏感哈希筛选方案，MinHash算法能实现向量降维，从而在获取比较好的Q‑K向量对筛选效果的情况下，降低局部敏感哈希筛选的运算量，提高加速效率，更利用硬件实现。本发明基于局部敏感哈希的Transformer硬件加速器，针对Transformer网络自注意力机制运算特点所带来的硬件实现瓶颈问题，采用基于MinHash文本相似度算法的LSH筛选方案，不但能获取比较好的Q‑K向量对筛选效果，且效率高，硬件结构易于实现。
主权项：1.一种基于局部敏感哈希的Transformer加速方法，其特征在于，包括：对输入向量进行线性运算，得到多组查询Q向量、键K向量和值V向量；采用基于MinHash的局部敏感哈希算法对多组查询Q向量和键K向量进行筛选，得到候选Q-K向量对，剩余查询Q向量和键K向量为未选中的Q-K向量对；对候选Q-K向量对和未选中的Q-K向量对分别进行点积运算，对未选中的Q-K向量对的点积结果置为预设的最小值，将候选Q-K向量对和未选中的Q-K向量对的点积结果整合为矩阵，得到第一点积运算结果矩阵；对第一点积运算结果矩阵按行进行Softmax运算，得到的Softmax运算结果与多组值V向量进行点积运算，得到第二点积运算结果；对第二点积运算结果进行拼接，拼接后的矩阵进行线性运算，得到输出结果。
全文数据：
权利要求：
百度查询： 西安交通大学 一种基于局部敏感哈希的Transformer硬件加速器及加速方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号