一种GPU调度装置和GPU芯片的制作方法

一种gpu调度装置和gpu芯片
技术领域：
：1.本发明涉及芯片设计
技术领域：
：，尤其涉及一种gpu调度装置和gpu芯片。
背景技术：
：：2.图形处理器(graphicsprocessingunit，简称gpu)芯片中通常会包括多个核心处理模块，每个核心处理模块包括多个执行模块，多个核心处理模块在执行任务时，通常会存在依赖关系，也即执行模块需要接收到该执行模块所依赖的执行模块所下发的任务组分发完成指令后，才可以分发该模块对应的任务组，依次执行。gpu芯片最终的布局布线需要满足核心处理模块之间的依赖关系，而当核心处理模块设计好以后，布局完成前无法直接确定核心处理模块之间的依赖关系。3.现有技术中通常需要将核心处理模块进行实际布局布线，然后再进行验证，这种方式是不符合设计-验证-布局这一设计顺序的。且如果布局失败，则需要尝试修改设计后重新布局布线，这样也导致需要重新验证，整个过程迭代成本非常高，且效率低(花费时间长)。此外，现有的核心处理模块布局布线确定后，执行依照此依赖关系进行使用，不能采用其他分配方式使用，灵活性差，且一旦其中一个任务组故障，则将导致整个gpu芯片无法使用。由此可知，如何实现gpu核心处理模块依赖关系的灵活可靠配置，降低gpu芯片设计流程中的设计验证和布局布线成本，成为亟待解决的技术问题。技术实现要素：4.本发明目的在于，提供一种gpu调度装置和gpu芯片，能够在保持硬件布局和布线不变的情况下，灵活可靠地配置gpu核心处理模块之间的依赖关系，降低了芯片设计及验证成本，提升了芯片设计及验证效率。5.根据本发明第一方面，提供了一种gpu调度装置，包括中心控制模块、m个核心处理模块{u1，u2，…um}和依赖配置模块，其中，um为第m个核心处理模块，m的取值范围为1到m，6.所述中心控制模块与每一核心处理模块相连接，用于向m个核心处理模块下发具有依赖关系的任务组；7.每一核心处理模块分别与所述依赖配置模块相连接，所述核心处理模块用于向所述依赖配置模块发送对应的当前任务组分发状态，当所述当前任务组分发完成时，向所述依赖配置模块发出完成脉冲，未分发完成时的任务组分发状态为低电平；8.所述依赖配置模块包括预先配置的依赖关系映射表和m个选通器{s1，s2,…sm}，每一所述选通器均与所有核心处理模块相连接，用于获取每一核心处理模块的当前任务组分发状态；9.所述依赖关系映射表用于配置每一核心处理模块标识和所依赖的核心处理模块标识之间的映射关系；10.sm为um对应的选通器，sm用于从所述依赖关系映射表中读取um所依赖的任务组标识，选择um所依赖的任务组标识所对应的任务组分发状态，传输给um，当um收到完成脉冲时，开始分发um当前对应的任务组。11.根据本发明第二方面，提供了一种gpu芯片，包括所述gpu调度装置。12.本发明与现有技术相比具有明显的优点和有益效果。借由上述技术方案，本发明提供的一种gpu调度装置和gpu芯片可达到相当的技术进步性及实用性，并具有产业上的广泛利用价值，其至少具有下列优点：13.本发明能够在保持硬件布局和布线不变的情况下，灵活可靠地配置gpu核心处理模块之间的依赖关系，通过设置依赖配置模块，结合其中的选通器和依赖关系映射表来实现核心处理模块之间的依赖关系。本发明将芯片设计前端和后端解耦，在目标线路布局未知的情况下即可实现任何一种依赖关系的布局验证。验证成功后，只需将目标线路布线对应的依赖关系配置在依赖关系映射表中即可，无需重新进行线路布局。本发明降低了芯片设计验证成本，提升了芯片设计验证效率。14.上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其他目的、特征和优点能够更明显易懂，以下特举较佳实施例，并配合附图,详细说明如下。附图说明15.图1为本发明实施例提供的gpu调度装置示意图。具体实施方式16.为更进一步阐述本发明为达成预定发明目的所采取的技术手段及功效,以下结合附图及较佳实施例，对依据本发明提出的一种gpu调度装置和gpu芯片的具体实施方式及其功效，详细说明如后。17.本发明实施例提供一种gpu调度装置，如图1所示，包括中心控制模块(图1中以tc表示中心控制模块)、m个核心处理模块{u1，u2，…um}和依赖配置模块，其中，um为第m个核心处理模块，m的取值范围为1到m，m为大于等于2的正整数。所述中心控制模块与每一核心处理模块相连接，用于向m个核心处理模块下发具有依赖关系的任务组。需要说明的是，中心控制模块和上层软件相连，用于接收上层软件下发的任务组。比例对应于同一程序，下发了一个具有依赖关系链式任务组{wg1，wg2，…wgn}，wgn为第n个任务组，n的取值范围为1到n，n为大于等于2的正整数。以保证中心控制模块的资源平衡为原则，中心控制模块会按照预设的分发规则将wgn分发到不同的核心处理模块上，任务组之间的依赖关系体现为，wgn-1的在对应的核心处理模块分发完成后，wgn开始分发。需要说明的是，所述依赖关系对应的是遵循任务分发顺序，而非任务执行顺序。可以理解的是，最终芯片的布局设计应该满足中心控制模块会按照预设的分发规则分发下来的任务组之间的依赖关系和对应中心控制模块之间的依赖关系是一致的。18.每一核心处理模块分别与所述依赖配置模块相连接，所述核心处理模块用于向所述依赖配置模块发送对应的当前任务组分发状态，当所述当前任务组分发完成时，向所述依赖配置模块发出完成脉冲，未分发完成时的任务组分发状态为低电平。由此可知，依赖配置模块能够实时读取每一核心处理模块对应的当前任务组分发状态。需要说明的是，每一核心处理模块中包括一个管理模块和执行模块，任务分组需要分发到对应的执行模块，管理单元负责向所述依赖配置模块发送对应的当前任务组分发状态。19.所述依赖配置模块(图1中以td表示依赖配置模块)包括预先配置的依赖关系映射表table和m个选通器{s1，s2,…sm}，每一所述选通器均与所有核心处理模块相连接，用于获取每一核心处理模块的当前任务组分发状态；所述依赖关系映射表用于配置每一核心处理模块标识和所依赖的核心处理模块标识之间的映射关系。通过将每一所述选通器均与所有核心处理模块相连接可以使得每一选通器均能获取到每一核心处理模块的当前任务组分发状态，从而能够结合依赖关系映射表实现核心处理模块之间依赖关系的灵活配置。20.sm为um对应的选通器，sm用于从所述依赖关系映射表中读取um所依赖的任务组标识，选择um所依赖的任务组标识所对应的任务组分发状态，传输给um，当um收到完成脉冲时，开始分发um当前对应的任务组。通过每一选通器基于依赖关系映射表选择核心处理模块所依赖的核心处理模块的读取通路，使每一核心处理模块仅获取其所依赖的核心处理模块对应的当前任务组分发状态。21.作为一种实施例，每一所述选通器和每一所述核心处理模块之间通过两组电路线连接，所述两组电路线为输入电路线和输出电路线。需要说明的是，图1中未画出所有电路线，仅示意了所述装置的基本架构和各硬件组成之间的连接关系，图1中每一选通器中会输入m个核心处理模块对应的m个任务组分发状态，如图1中选通器上方多个箭头所示。通过查询表格中的依赖关系，选择对应的一个任务组分发状态输出，如图1中选通器下方一个箭头，可以理解的是，这一箭头的输出至该选通器对应的核心处理模块。所述核心处理模块通过所述输入电路线先向所述选通器发送当前任务组分发状态，所述选通器通过对应的输出电路线向所述核心处理模块发送该核心处理模块所依赖的核心处理模块对应的当前任务组分发状态。22.需要说明的是，现有技术中的每一次芯片验证，只能验证一套固定的依赖关系对应的硬件装置，且依赖关系需要调整时，必须重新修改设计，重新验证以及调整硬件的布局布线。而本发明所述装置，仅需重新配置依赖关系映射表中的依赖关系即可。作为一种实施例，所述gpu芯片用于核心处理模块线路布局设计时不需要考虑核心处理模块间的依赖关系，布局成功后基于布局结果保持所述装置的硬件布局和连接关系不变，按需重新配置所述依赖关系映射表中的依赖关系，更新至所述依赖配置模块中。优选的，所述依赖关系映射表中，所述任务组标识为循环依赖关系，每一任务组标识依赖另一任务组标识，且同时被再一任务组标识所依赖，每一任务组标识仅被依赖一次。23.以m＝4为例，所述依赖关系映射表中的依赖关系布局设计前预测为u1依赖u3，u3依赖u2，u2依赖u4，u4依赖u1，则可以基于此依赖关系映射表进行依赖关系的任务组分发，来验证当前的核心处理模块之间的依赖关系是否正确。如果这与实际布局后的核心处理模块的相对位置关系(依赖关系)不符，则可以重新调整所述依赖关系映射表进行验证，例如实际布局后要求的调整为：u1依赖u2，u2依赖u3，u3依赖u4，u4依赖u1，重新进行验证。对于确认的目标依赖关系，则直接在所述依赖关系映射表中设置所述目标依赖关系使用即可，无需再重新对硬件布局布线。24.现有技术中gpu芯片中的核心处理模块布局布线设置好以后，仅能依据当前布局布线对应的核心处理模块之间的依赖关系来使用，无法再进行适配其他核心处理模块之间的依赖关系，因此是无法实现核心处理模块虚拟分组的。而本发明所述装置除了可以用于芯片设计验证布局流程的一次性收敛外，还可以通过灵活配置依赖关系映射表实现核心处理模块虚拟分组。作为一种实施例，若所述gpu芯片用于进行核心处理模块虚拟分组，则保持所述装置的硬件布局和连接关系不变，将任务组标识分为r个虚拟分组，每一虚拟分组包括多个核心处理模块，每一核心处理模块仅位于一个虚拟分组中，每一虚拟分组相互独立，配置在所述依赖关系映射表中。其中，每一所述虚拟分组中，组内的任务组标识为循环依赖关系，组内的每一任务组标识依赖组内的另一任务组标识，且同时被组内的再一任务组标识所依赖，每一组内的任务组标识仅被依赖一次。所述装置通过灵活配置每一虚拟分组中的组内的任务组标识之间的依赖关系，实现核心处理模块虚拟分组处理，灵活可靠，且硬件装置可以实现复用，大大减少了芯片设计验证以及芯片制造的成本。25.现有技术中gpu芯片中的核心处理模块布局布线设置好以后，仅能依据当前布局布线对应的核心处理模块之间的依赖关系来使用，当其中某个核心处理模块出现故障时，整个核心处理模块之间的依赖关系断裂，导致整个gpu芯片无法使用，而本发明实施例所述装置，若部分核心处理模块出现故障(例如制造故障)，无法使用时，保持硬件布局和连接关系不变，将出现故障的任务核心处理模块标识删除，基于正常的任务核心处理模块标识重新建立依赖关系的依赖关系映射表，更新至所述依赖配置模块中，这便使得即便某些核心处理模块出现故障，依然使得gpu芯片继续可用，提高了gpu芯片的利用率。26.本发明实施例还提供一种gpu芯片，包括本发明实施例所述gpu调度装置。27.本发明实施例所述的gpu调度装置和gpu芯片，能够在保持所述装置硬件布局和布线不变的情况下，灵活可靠地配置gpu核心处理模块之间的依赖关系，通过设置依赖配置模块，结合其中的选通器和依赖关系映射表来实现核心处理模块之间的依赖关系。本发明实施例将芯片设计前端和后端解耦，在目标线路布局未知的情况下即可实现任何一种依赖关系的布局验证。验证成功后，只需将目标线路布线对应的依赖关系配置在依赖关系映射表中即可，无需重新进行线路布局。本发明实施例降低了芯片设计验证成本，提升了芯片设计验证效率。28.以上所述，仅是本发明的较佳实施例而已，并非对本发明作任何形式上的限制，虽然本发明已以较佳实施例揭露如上，然而并非用以限定本发明,任何熟悉本专业的技术人员，在不脱离本发明技术方案范围内,当可利用上述揭示的技术内容作出些许更动或修饰为等同变化的等效实施例,但凡是未脱离本发明技术方案的内容，依据本发明的技术实质对以上实施例所作的任何简单修改、等同变化与修饰，均仍属于本发明技术方案的范围内。当前第1页12当前第1页12
技术特征：
1.一种gpu调度装置，其特征在于，包括中心控制模块、m个核心处理模块{u1，u2，
…
u
m
}和依赖配置模块，其中，u
m
为第m个核心处理模块，m的取值范围为1到m，所述中心控制模块与每一核心处理模块相连接，用于向m个核心处理模块下发具有依赖关系的任务组；每一核心处理模块分别与所述依赖配置模块相连接，所述核心处理模块用于向所述依赖配置模块发送对应的当前任务组分发状态，当所述当前任务组分发完成时，向所述依赖配置模块发出完成脉冲，未分发完成时的任务组分发状态为低电平；所述依赖配置模块包括预先配置的依赖关系映射表和m个选通器{s1，s2,
…
s
m
}，每一所述选通器均与所有核心处理模块相连接，用于获取每一核心处理模块的当前任务组分发状态；所述依赖关系映射表用于配置每一核心处理模块标识和所依赖的核心处理模块标识之间的映射关系；s
m
为u
m
对应的选通器，s
m
用于从所述依赖关系映射表中读取u
m
所依赖的任务组标识，选择u
m
所依赖的任务组标识所对应的任务组分发状态，传输给u
m
，当u
m
收到完成脉冲时，开始分发u
m
当前对应的任务组。2.根据权利要求1所述的装置，其特征在于，每一所述选通器和每一所述核心处理模块之间通过两组电路线连接，所述两组电路线为输入电路线和输出电路线，所述核心处理模块通过所述输入电路线先向所述选通器发送当前任务组分发状态，所述选通器通过所述输出电路线向对应的核心处理模块发送该核心处理模块所依赖的核心处理模块对应的当前任务组分发状态。3.根据权利要求1或2所述的装置，其特征在于，若所述gpu芯片用于核心处理模块线路布局设计，当核心处理模块需要更改布局设计时，则保持所述装置的硬件布局和连接关系不变，按需重新配置所述依赖关系映射表中的依赖关系，更新至所述依赖配置模块中。4.根据权利要求3所述的装置，其特征在于，所述依赖关系映射表中，所述任务组标识为循环依赖关系，每一任务组标识依赖另一任务组标识，且同时被再一任务组标识所依赖，每一任务组标识仅被依赖一次。5.根据权利要求1或2所述的装置，其特征在于，若所述gpu芯片用于进行核心处理模块虚拟分组，则保持所述装置的硬件布局和连接关系不变，将任务组标识分为r个虚拟分组，每一虚拟分组包括多个核心处理模块，每一核心处理模块仅位于一个虚拟分组中，每一虚拟分组相互独立，配置在所述依赖关系映射表中。6.根据权利要求5所述的装置，其特征在于，每一所述虚拟分组中，组内的任务组标识为循环依赖关系，组内的每一任务组标识依赖组内的另一任务组标识，且同时被组内的再一任务组标识所依赖，每一组内的任务组标识仅被依赖一次。7.根据权利要求1或2所述的装置，其特征在于，若所述gpu芯片中的部分核心处理模块出现故障无法使用时，保持硬件布局和连接关
系不变，将出现故障的任务核心处理模块标识删除，基于正常的任务核心处理模块标识重新建立依赖关系的依赖关系映射表，更新至所述依赖配置模块中。8.一种gpu芯片，包括权利要求1-7中任意一项所述gpu调度装置。

技术总结
本发明涉及一种GPU调度装置和GPU芯片，装置包括中心控制模块、M个核心处理模块和依赖配置模块，中心控制模块与每一核心处理模块相连接，用于下发具有依赖关系的任务组；每一核心处理模块分别与依赖配置模块连接，向依赖配置模块发送当前任务组分发状态；依赖配置模块包括依赖关系映射表和M个选通器，S


技术研发人员：请求不公布姓名
受保护的技术使用者：沐曦集成电路（上海）有限公司
技术研发日：2022.01.10
技术公布日：2023/7/22