买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜北京智谱华章科技有限公司申请的专利一种自动并行化的语言模型文本生成方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN117787414B 。

龙图腾网通过国家知识产权局官网在2025-04-08发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202311835536.0，技术领域涉及：G06N5/04；该发明授权一种自动并行化的语言模型文本生成方法是由刘明道;曾奥涵;张鹏设计研发完成，并于2023-12-28向国家知识产权局提交的专利申请。

本一种自动并行化的语言模型文本生成方法在说明书摘要公布了：本发明属于语言模型文本生成技术领域，涉及一种自动并行化的语言模型文本生成方法，其包括以下步骤：1、构造结构化训练数据；2、结构化指令微调；3、自动并行化生成；4、遍历段落树。本发明使用结构化数据对语言模型进行指令微调，使语言模型在生成过程中，结合语言模型自身对生成内容结构的理解，自动向推理系统发出并行化生成指令，产生多个并行的生成流，从而增大了语言模型生成的并行程度。

本发明授权一种自动并行化的语言模型文本生成方法在权利要求书中公布了：1.一种自动并行化的语言模型文本生成方法，其特征在于，包括以下步骤：1构造结构化训练数据：将原始训练语料构造成段落树形式的结构化训练数据；2结构化指令微调：基于所述段落树形式的结构化训练数据，使用树状注意力对语言模型进行指令微调，以得到指令微调后的语言模型，使所述指令微调后的语言模型在生成内容出现并行结构的位置发出并行化输出调用；3自动并行化生成：将提示串输入所述指令微调后的语言模型，所述指令微调后的语言模型对所述提示串及其对应的生成内容进行自动并行化解码，得到所述提示串及其对应的生成内容的段落树；其中，在将所述提示串输入到所述指令微调后的语言模型中后，所述指令微调后的语言模型会自动寻找到所述提示串对应的生成内容，在找到所述提示串对应的生成内容后，所述指令微调后的语言模型根据所述生成内容的结构，也就是，所述生成内容中是否存在并行化结构，确定是否发出并行化生成调用，在所述生成内容中存在并行化结构时，所述指令微调后的语言模型发出并行化生成调用，并共享提示串前缀，建立新的并行生成流，并添加控制标识符进行并行生成；4遍历段落树：遍历所述提示串及其对应的生成内容的段落树，形成线性的生成内容。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京智谱华章科技有限公司，其通讯地址为：100086 北京市海淀区中关村东路1号院9号楼10层整层；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。