申请/专利权人:美光科技公司
申请日:2020-12-21
公开(公告)日:2024-06-28
公开(公告)号:CN113010100B
主分类号:G06F3/06
分类号:G06F3/06;G06F16/2455;G06F18/214;G06N20/00
优先权:["20191220 US 16/722,408"]
专利状态码:有效-授权
法律状态:2024.06.28#授权;2021.07.09#实质审查的生效;2021.06.22#公开
摘要:本申请涉及一种用于机器学习框架的并行迭代器。可从在主机系统上执行的机器学习ML框架接收从存储器子系统的存储器装置检索数据的请求,其中所述数据包括多个逻辑分区。可起始一组并行IO线程以从所述存储器装置检索所述数据,其中所述一组并行IO线程中的每个IO线程并行地从不同对应逻辑分区检索所述数据的不同部分,并将所述数据的所述不同部分存储于对应于所述一组IO线程的一组IO缓冲器中的IO缓冲器中。可连续地将来自每个IO缓冲器的所述数据的所述不同部分提供到所述ML框架,其中所述一组并行IO线程持续地从所述存储器装置检索所述数据,直到来自所述逻辑分区的全部所述数据已被提供到所述ML框架为止。
主权项:1.一种并行数据处理的方法,其包括:由主机系统的处理装置且从在所述主机系统上执行的机器学习ML框架接收从存储器子系统的存储器装置检索数据的请求,其中所述数据包括多个逻辑分区;至少部分地基于与所述存储器装置相关联的媒体类型起始一组并行IO线程以从所述存储器装置检索所述数据,其中所述一组并行IO线程中的每个并行IO线程并行地从所述多个逻辑分区中的不同对应逻辑分区检索所述数据的不同部分,并将所述数据的所述不同部分存储于对应于所述一组并行IO线程的一组IO缓冲器中的IO缓冲器中;及连续地将来自所述一组IO缓冲器中的每个IO缓冲器的所述数据的所述不同部分提供到所述ML框架,其中所述一组并行IO线程中的每个并行IO线程并行地持续地从所述存储器装置检索所述数据,直到来自所述逻辑分区的全部所述数据已被提供到所述ML框架为止。
全文数据:
权利要求:
百度查询: 美光科技公司 用于机器学习框架的并行迭代器
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。