图形处理模块、图形处理器以及图形处理方法与流程

1.本发明涉及图形处理技术领域，尤其涉及一种多gpu架构的图形处理模块、图形处理器以及图形处理方法。


背景技术：

2.随着半导体制造工艺的不断演进和单个图形处理器（graphics processing unit，gpu）的面积不断增大，gpu的性能在过去的十年得到了数十倍的提升，但是仍然无法满足当前对高分辨率实时渲染、高性能计算以及实时光线追踪的需求。
3.为了解决单颗gpu的性能瓶颈问题，出现了采用可灵活伸缩的连接接口（scalable link interface，sli）或私有链接（link）等连接方式将多颗gpu互联做单一输出使用的技术，从而达到增强图形处理效能的效果。例如nvidiasli、amdcrossfire等技术，常见的图像渲染模式包括分割帧渲染(split frame rendering，sfr)或者交替帧渲染（alternate frame rendering，afr）。
4.这种传统的gpu互联技术，是通过将两块或以上相同型号规格的显卡物理连接实现的，在效率上很大程度依赖于应用程序的调度，相对单张显卡平均只能获得约30%的性能提升。成本和性能提升比较低，已无法单纯依靠增加gpu而获得更大收益。nvidia、amd等主流gpu厂商已经逐渐放弃对sli技术的支持。
5.但高性能多核gpu架构仍然是图形处理器领域的重要发展方向，尤其近年3d封装、芯粒（chiplets）立体堆叠架构等先进封装技术已经日渐成熟，将多块gpu核心以及相关逻辑芯片、存储器等ip核通过裸片连接方式（die-to-die）进行高密度的晶圆级封装整合成为了可能，这样可以实现高带宽、低功耗以及更好的电源/信号完整性（pi/si）表现。
6.因此基于以上新技术路线，有必要提供一种用于晶圆级规模（wafer-scaled）设计的多gpu架构图形处理器以及相应的图像渲染方法，以解决现有gpu互联技术中存在的性能瓶颈问题。


技术实现要素：

7.本发明的目的在于提供一种图形处理模块、图形处理器以及图形处理方法，提高图形处理的效率。
8.为了实现上述目的，本发明的所述图形处理模块，包括一个主图形处理单元、至少一个子图形处理单元、至少一个存储单元和至少一个交换结构，所述存储单元用于存放所述主图形处理单元和所述子图形处理单元的传输、转发以及运算数据；所述交换结构连接所述存储单元，用于实现同图形处理模块或跨模块的存储单元之间的数据传输及转发；所述主图形处理单元用于与外界进行数据交换，接收并分解图形处理任务，根据任务流程向子图形处理单元分发资源及任务指令，同步子图形处理单元的运算结果；
所述子图形处理单元解析并执行相应任务指令。
9.可选地，所述主图形处理单元、所述子图形处理单元之间及所述子图形处理单元之间共用所述存储单元。
10.可选地，所述主图形处理单元用于从外界获取资源以及原始任务指令，根据所述原始任务指令生成所述子图形处理单元的任务指令，并通过所述存储单元或交换结构分发。
11.可选地，所述子图形处理单元具有前后级关系，前一级所述子图形处理单元在执行完相应任务后，继续生成下一级子图形处理单元的任务指令，并通过所述存储单元或交换结构转发。
12.可选地，所述存储单元为静态随机存取存储器，所述存储单元的部分配置为本地存储单元，作为对应图形处理单元的临时计算空间，其余配置为全局存储单元。
13.可选地，所述主图形处理单元与子图形处理单元物理结构相同。
14.可选地，所述主图形处理单元为全功能gpu，所述子图形处理单元根据承担的任务采用不同的物理结构。
15.本发明还提供了一种图形处理器，包括至少两个上述任意一项所述的图形处理模块，所述图形处理模块之间通过所述存储单元或所述交换结构中的至少一种进行数据交换。
16.可选地，还包括负载均衡模块，所述负载均衡模块用于统计所述图形处理模块中各图形处理单元处于未工作状态的时间以得到统计结果，并根据所述统计结果对所述图形处理模块进行图形处理任务的分配。
17.本发明还提供了一种图形处理方法，用于一个主图形处理单元与至少一个子图形处理单元进行多gpu联合任务处理，所述主图形处理单元通过存储单元和连接所述存储单元的交换结构与子图形处理单元以及外部系统交换数据，所述方法包括：从外部系统接收图形处理任务及资源；分解所述图形处理任务，根据任务流程动态生成子图形处理单元的任务指令；将所述任务指令及相应资源分发给子图形处理单元；接收并同步所述子图形处理单元的运算结果；生成最终任务处理结果并返回给外部系统。
18.可选地，所述主图形处理单元与子图形处理单元通过共用所述存储单元以及连接各存储单元的交换结构实现全局的高速数据交换。
19.可选地，所述主图形处理单元与子图形处理单元为相同的物理结构，所述从外部系统接收图形处理任务及资源前，还需选取指定主图形处理单元与子图形处理单元。
20.可选地，所述主图形处理单元生成并分发所有子图形处理单元的任务指令及相应资源。
21.可选地，所述子图形处理单元具有前后级关系，所述第一级子图形处理单元接收并执行来自主图形处理单元的任务指令后，继续生成下一级子图形处理单元的任务指令，并通过所述存储单元或交换结构转发，直至最后一级子图形处理单元完成任务指令的执行。
22.可选地，各级所述子图形处理单元分别将执行任务指令的运算结果返回给主图形
处理单元同步。
23.可选地，各级所述子图形处理单元将执行任务指令的运算结果转发给下一级子图形处理单元作为运算所需数据，直至最后一级子图形处理单元将最终运算结果返回给主图形处理单元。
24.可选地，所述图形处理任务包括实时光线追踪、神经网络深度学习以及图像渲染。
25.可选地，所述分解所述图形处理任务时，使得主图形处理单元与各子图形处理单元仅执行固定类型或阶段的任务指令。
26.本发明的有益效果在于：所述主图形处理单元用于与外界进行数据交换，接收并分解图形处理任务，根据任务流程向子图形处理单元分发资源及任务指令，同步子图形处理单元的运算结果，所述子图形处理单元解析并执行相应任务指令，并通过存储单元存放所述主图形处理单元和所述子图形处理单元的传输、转发以及运算数据，所述交换结构连接所述存储单元，同图形处理模块或跨模块的存储单元之间的数据传输及转发，从而实现了晶圆级规模设计的多gpu架构图形处理器，进而提高了图形处理的效率。
附图说明
27.图1为本发明一些实施例所述图形处理器的的架构示意图；图2为本发明一些实施例所述图形处理模块的架构示意图；图3为本发明一些实施例中图形处理器局部物理结构的俯视示意图；图4为本发明一些实施例中图形处理器局部物理结构的剖面示意图；图5为本发明一些实施例中图形处理方法的流程图；图6为本发明一些实施例中多gpu联合图像渲染任务的调度模式图；图7为本发明又一些实施例中多gpu联合图像渲染任务的调度模式图；图8为本发明另一些实施例中多gpu联合图像渲染任务的调度模式图；图9为本发明再一些实施例中多gpu联合图像渲染任务的调度模式图。
具体实施方式
28.为使本发明的目的、技术方案和优点更加清楚，下面将结合本发明的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明的一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。除非另外定义，此处使用的技术术语或者科学术语应当为本发明所属领域内具有一般技能的人士所理解的通常意义。本文中使用的“包括”等类似的词语意指出现该词前面的元件或者物件涵盖出现在该词后面列举的元件或者物件及其等同，而不排除其他元件或者物件。
29.针对现有技术存在的问题，本发明的实施例提供了用于晶圆级规模（wafer-scaled）设计的图形处理模块、图形处理器以及图形处理方法。
30.图1为本发明实施例所述图形处理器的的架构示意图，参照图1所示，所述图形处理器包括至少两个图形处理模块100（示意图以4组为例）；所述图形处理模块100是指能够独立完成图形处理任务的最小功能模组，其中包括多个图形处理单元（gpu），用于实现多gpu联合任务处理。在一些实施例中，所述图形处理器还包括负载均衡模块200，所述负载均
衡模块200用于统计所述图形处理模块100中各gpu处于未工作状态的时间以得到统计结果，并根据所述统计结果对所述图形处理模块100进行图形处理任务的分配，即负责gpu的状态监测并进行任务管理。有利于平衡各图形处理模块100的负载，提高调度和使用效率。以图像渲染任务为例，图形处理器可以按照分割帧渲染(split frame rendering，sfr)或者交替帧渲染（alternate frame rendering，afr）模式，将某一帧的图像渲染任务分配给对应的图形处理单元分别处理。需要额外指出的是，由于图形处理模块100具备完整的图形处理能力，所以配置外围通信、存储、电源等功能ip，亦可以单独作为图形处理器使用。
31.图2为本发明实施例所述图形处理模块的架构示意图，参照图2所示，所述图形处理模块100包括一个主图形处理单元101、至少一个子图形处理单元102、至少一个存储单元103和至少一个交换结构104。其中，所述存储单元103用于存放所述主图形处理单元101和所述子图形处理单元102的传输、转发以及运算数据；所述交换结构104连接所述存储单元103，用于实现同图形处理模块或跨模块的存储单元103之间的数据传输及转发；所述主图形处理单元101用于与外界进行数据交换，接收并分解图形处理任务，根据任务流程向子图形处理单元102分发资源及任务指令，同步子图形处理单元102的运算结果；所述子图形处理单元102解析并执行相应任务指令。
32.一些实施例中，所述主图形处理单元101和所述子图形处理单元102之间及所述子图形处理单元102之间共用所述存储单元103。
33.一些实施例中，所述主图形处理单元101用于从外界获取资源以及原始任务指令，根据所述原始任务指令生成所述子图形处理单元102的任务指令，并通过所述存储单元103或交换结构104分发。
34.一些实施例中，所述子图形处理单元102具有前后级关系，前一级所述子图形处理单元在执行完相应任务后，继续生成下一级子图形处理单元的任务指令，并通过所述存储单元103或交换结构104转发。
35.更具体的，在图2所示意实施例中，图形处理模块包括四个图形处理单元，分别是主图形处理单元gpu0，子图形处理单元gpu1、gpu2以及gpu3；对应各图形处理单元设置有四个静态随机存取存储器（static random-access memory，sram）作为存储单元，即sram0、sram1、sram3以及sram4。一个用于连接各存储单元进行数据交换的交换结构104（switchfabric）。
36.在利用先进3d封装技术，这四个存储单元可以在物理结构上统一，即实现主图形处理单元和子图形处理单元或者子图形处理单元之间的存储单元共享，进一步实现存储单元103的全局管理。同时也可以将存储单元103的一部分，配置为本地存储单元（local模式），作为对应图形处理单元的临时计算空间。具体的，存储单元103在物理结构上临近gpu的一部分可以作为该gpu的临时计算空间，配置成流缓存模式（streamincache），处理静态随机存取存储器sram难以存放的数据，以改善远程访问的效率，而其余大部分配置为全局存储单元（global模式）进行系统存储全局管理。
37.所述交换结构104（switchfabric）是利用当前新一代开关器件结合交叉分组技术实现的一种交叉开关矩阵（crossbar）,系统中多个点到点的通信链路被组织在一起,最终能够实现所有芯片或模块间的任意互连和并发传输,系统带宽从而成倍的增加，通常由多组4x4crossbar组成，提供大于1tb的带宽。
38.借助上述存储单元103的共享以及交换结构104的快速数据传输能力，可以实现各gpu之间的大带宽高速度的数据交换。具体的，假设图2中主图形处理单元gpu0需要与子图形处理单元gpu1做数据交换。如果对应的存储单元sram0与sram1是物理上两个相互独立的存储器，那么对应的数据交换过程如下：gpu0生成数据后写进sram0里，然后借助交换结构104，将该数据传输/复制/写到sram1里，最后gpu1从sram1读取这部分数据，完成数据流转。如果对应的存储单元sram0与sram1是共享的，物理上就是同一个存储器，那么对应的数据交换过程如下：gpu0生成数据后写进存储单元103，通过内存地址管理或者类似的全局管理机制告知gpu1数据所处的位置，gpu1直接在存储单元103内读取数据，完成数据流转。相比较之下，后者仅有一次读写过程，数据的传输交换速度和延迟远优于前者，能够进一步实现gpu之间的快速联动及响应，为多gpu的联合任务处理提供更优的基础。
39.受限于电源供应、散热、辅助功能ip的布局以及其他物理结构的限制，所述图形处理模块100内部根据gpu的数量及布局还是需要设置多个存储单元103以及交换结构104。而交换结构104不但支持同模块内部各存储单元103之间的数据传输和转发，同时也实现跨模块存储单元103之间的数据传输及转发，即交换结构在物理上连接同一个模块内部的存储单元，部分交换结构也跨图形处理模块连接其各自的存储单元。具体物理实现方式可见后续实施例说明。
40.图3为本发明一些实施例中图形处理器的局部物理结构的俯视示意图，图4为图3所示图形处理器的剖面示意图，剖面线如图3所注。参照图3及图4所示，本实施例的图形处理器采用了3d堆叠式封装，主图形处理单元101（主gpu）和子图形处理单元102（子gpu）位于上层，存储单元103以及交换结构104位于下层，各芯片器件/芯粒（chiplet）之间通过裸片连接（dietodie）。为示意方便，图中略去了其他辅助功能性芯片或者电源结构。在本实施例中主gpu和子gpu为阵列式相间布局，相邻的gpu共享下层的网格状存储单元103，所述交换结构104即网格的节点。下层网格化的存储单元103之间还可以设置其他功能模块或者ip核，并且预留出了足够的空间给存储单元103、交换结构104或者其他ip核布局。
41.在常规设计中，sram和数据总线都需要占用大量的面积，因为足够的面积意味着足够大的存储容量以及传输带宽，直接影响到gpu的性能，因此sram布局通常以正方形或者矩阵形式。但是过大的面积容易与gpu布局冲突并且影响接口设计不利于数据的存取，只能分布于gpu周围。在多gpu架构下，sram之间的距离比较远，造成通信困难。本发明实施例所展示的3d堆叠式封装结构则可以避免相关问题，在保证存储单元以及交换结构的面积同时又有效地实现了gpu之间的sram共享。
42.进一步如图3所示实施例，阵列左上方的四个图形处理单元构成了一个图形处理模块，包括一个主图形处理单元101和三个子图形处理单元102。多个图形处理模块形成阵列式布局，相邻gpu共同使用下层网格状横纵布局的存储单元103，横向与纵向的存储单元103在交叉节点位置通过交换结构104连接。在这种布局下，跨图形处理模块的相邻gpu之间也可以共享下方的存储单元103，跨图形处理模块的存储单元103也可以通过交换结构104连接，从而实现跨图形处理模块之间的通信以及数据交换。
43.一些实施例中，所述主图形处理单元与子图形处理单元物理结构相同。这样的好处是简化生产工艺，而且系统软固件可以自由定义图形处理模块的构成，任意gpu均可以被指定为主gpu或子gpu。如果因为生产良率的问题出现失效的gpu，该失效的gpu可以被屏蔽，
周围的gpu可以进行图形处理模块的重组。
44.又一些实施例中，所述主图形处理单元为全功能gpu，所述子图形处理单元根据承担的任务采用不同的物理结构。这种情况是根据一些特殊的应用需求，主gpu与子gpu分别承担较大区别的任务时，主gpu需要完成所有图形处理任务的分解或执行工作，而子gpu可能仅负责其中的某个任务环节。例如在进行ai加速计算时，仅分配给子gpu部分浮点运算任务，为简化电路图形，缩小芯片面积，对子gpu中无关的功能和存储模块进行物理阉割。
45.基于上述图形处理模块、图形处理器，本发明还提出了一种图形处理方法。
46.图5为本发明一些实施例中图形处理方法的流程图。如图5所示，所述图形处理方法用于一个主图形处理单元与至少一个子图形处理单元进行多gpu联合任务处理，所述主图形处理单元通过存储单元和连接所述存储单元的交换结构与子图形处理单元以及外部系统交换数据，所述外部系统包括cpu。参照图5，所述图形处理方法包括以下步骤：s1：从外部系统接收图形处理任务及资源；s2：分解所述图形处理任务，根据任务流程动态生成子图形处理单元的任务指令；s3：将所述任务指令及相应资源分发给子图形处理单元；s4：接收并同步所述子图形处理单元的运算结果；s5：生成最终任务处理结果并返回给外部系统。
47.一些实施例中，所述主图形处理单元与子图形处理单元通过共用所述存储单元以及连接各存储单元的交换结构实现全局的高速数据交换。
48.一些实施例中，所述主图形处理单元与子图形处理单元为相同的物理结构，所述从外部系统接收图形处理任务及资源前，还需选取指定主图形处理单元与子图形处理单元。
49.一些实施例中，所述主图形处理单元生成并分发所有子图形处理单元的任务指令及相应资源。
50.一些实施例中，所述子图形处理单元具有前后级关系，所述第一级子图形处理单元接收并执行来自主图形处理单元的任务指令后，继续生成下一级子图形处理单元的任务指令，并通过所述存储单元或交换结构转发，直至最后一级子图形处理单元完成任务指令的执行。
51.一些实施例中，各级所述子图形处理单元分别将执行任务指令的运算结果返回给主图形处理单元同步。
52.一些实施例中，各级所述子图形处理单元将执行任务指令的运算结果转发给下一级子图形处理单元作为运算所需数据，直至最后一级子图形处理单元将最终运算结果返回给主图形处理单元。
53.一些实施例中，所述图形处理任务包括实时光线追踪、神经网络深度学习以及图像渲染。
54.处理实时光线追踪任务时，所述主图形处理单元从外部系统接收资源和实时光线追踪任务，然后将所述资源根据分辨率分割成多个分割资源，并生成所述子图形处理单元的光线追踪任务指令，然后将多个所述分割资源和所述光线追踪任务指令分发到多个所述子图形处理单元，所述子图形处理单元根据所述光线追踪任务指令完成对所述分割资源的实时光线追踪运算，并将运算结果反馈给所述主图形处理单元，所述主图形处理单元根据
各个所述子图形处理单元的运算结果生成最终任务处理结果并返回给所述外部系统。
55.处理单神经网络深度学习任务时，同一所述图形处理模块中，所述主图形处理单元从外部系统接收到神经网络深度学习任务和资源，所述主图形处理单元分解所述神经网络深度学习任务，并根据任务流程动态生成子图形处理单元的神经网络深度学习任务指令，然后将所述神经网络深度学习任务指令分发到所述子图形处理单元，每一个所述子图形处理单元根据所述神经网络深度学习任务指令处理一层的神经网络深度学习任务，并将运算结果反馈给所述主图形处理单元，所述主图形处理单元根据各个所述子图形处理单元的运算结果生成最终任务处理结果并返回给所述外部系统。
56.处理多神经网络深度学习任务时，系统将不同神经网络深度学习任务分发给不同所述图形处理模块，所述图形处理模块完成当前神经网络深度学习任务。
57.处理图像渲染任务时，同一所述图形处理模块中，所述主图形处理单元从外部系统接收图像渲染任务和资源，所述主图形处理单元分解所述图像渲染任务，并根据任务流程动态生成子图形处理单元的渲染任务指令，然后将所述图像渲染任务指令分发到所述子图形处理单元，每一个所述子图形处理单元根据所述图像渲染任务指令完成图像渲染任务，并将运算结果反馈给所述主图形处理单元，所述主图形处理单元根据各个所述子图形处理单元的运算结果生成最终任务处理结果并返回给所述外部系统。其中，所述图像渲染任务分解为前端渲染任务（frontendtask，fe）、后端渲染任务（backendtask，be）和统一渲染任务（unifiedtask，ut），接收到前端渲染任务的图形处理单元完成前端渲染任务，并生成前端渲染任务运算结果和后端渲染的任务指令，接收到后端渲染的任务的图形处理单元完成后端渲染任务，接收到统一渲染任务的图形处理单元负责为前端渲染任务以及后端渲染任务准备素材，对3d渲染任务进行后处理。
58.一些实施例中，所述分解图形处理任务时，使得主图形处理单元与各子图形处理单元仅执行固定类型或阶段的任务指令。这样图形处理单元在进行某些任务运算时，仅需加载一次或者少次的计算参数、数据缓存等，能够大幅提升多gpu架构系统的调度和运行效率。
59.图6~图9以图2所示的多gpu架构图形处理模块处理单帧3d图像渲染任务为例，展示了四种联合图像渲染任务的调度模式。
60.在一些实施例的3d图像渲染流程中，软件根据任务内容上下文（context），决定渲染方式以及调度模式（主要是基于时间的轮询），通过分析资源需求以及画（draw）的相互关系，将gpu需要处理的资源划分为前端任务优化资源（front end task optimize resource）、后端任务优化资源（back end task optimize resource）、统一任务资源（unified task resource）。
61.所述前端渲染任务（fe）主要负责几何部分的前期处理（geometry），包括空间变换、蒙皮动画、光照、网格细分、网格剔除、网格裁剪、几何数据压缩、后端数据及任务生成操作；所述后端渲染任务（be）主要负责接收fe处理后的数据，例如通过交换结构switch fibric以及存储单元sram从其他gpu获取fe任务的输出数据，进一步进行图形的光栅化（rasterizer）以及后续图形的着色（shader）操作。前后端任务分离目的是降低单个gpu任务负载以及减少数据加载以及缓存环节，提高渲染超大分辨率的画面例如64kx 64k以上的能力。
62.而统一渲染任务（ut）则是负责为fe、be准备素材，如异步的计算精确全局光照，响应来自其他gpu的光线追踪，过程纹理等操作请求，对3d渲染进行后处理，如根据多视点信息，输出对应的图像等。
63.从以上任务描述可知，fe与be在被分配到不同gpu时是可以异步但同时执行的，而ut与fe、be在执行时序上是完全分离的，所以负责ut的gpu也可以再被分配执行fe以及be，通常ut会交给主gpu执行。
64.外部系统（请求的客户端）通过提交gpu直接存储器访问机制（dma）触发gpu阵列工作，主gpu可以根据预先设置的任务标识，将对应的任务指令cmd、缓存器register分发到对应的子gpu，子gpu根据任务的类型，选择工作在fe、be或者ut状态，负责fe的子gpu可能会继续生成0~n个子be任务，从而进入子gpu分级执行的状态。当子gpu完成当前任务后，对应的fence会返回给主gpu用于同步（fence是一种硬件中用于同步多个硬件单元的令牌token，随着任务线pipeline移动，每个硬件单元处理完自身的任务时，将其送到下游模块或者回到预定位置触发硬件的下一步动作）。主gpu会按照任务流程继续向子gpu分发任务直到任务结束，并同步完所有渲染结果，并根据视点信息生成最终图像，返回给请求的客户端。
65.如图6所示的调度模式，主图形处理单元gpu0先执行统一渲染任务（ut），准备好前端渲染任务fe以及后端渲染任务be的素材，拆分任务流程；再自己执行前端渲染任务framefe，生成三个be子任务（framebe0、framebe1、framebe2）；将三个be子任务分发给三个子gpu（gpu1、gpu2、gpu3）分别执行；最后gpu0同步并生成结果。
66.如图7所示的调度模式，gpu0同样先准备任务素材，拆分任务流程；将前端渲染任务fe拆分给自己和gpu1同步执行，并且继续执行部分be任务例如光栅化工作；然后gpu0和gpu1各自把剩余的be任务例如着色又分别分发给gpu2以及gpu3执行；最后gpu0同步并生成结果。
67.在一些实施例的3d图像渲染流程中，系统采用图像分割渲染方式，如图8所示的调度模式，gpu0准备任务素材，拆分任务流程；将一帧超大规模分辨率图像按照像素或者区块分割成渲染任务vm0、vm1、vm2、vm3，分别交由gpu0、gpu1、gpu2、gpu3进行独立渲染；最后gpu0同步并生成结果。
68.在一些实施例的3d图像渲染流程中，系统采用多通道渲染方式，如图9所示的调度模式，gpu0准备任务素材，拆分任务流程；将一个渲染任务拆分为多个渲染通道subpass0、subpass1、subpass2、subpass3多次渲染，依次交由gpu0、gpu1、gpu2、gpu3顺序执行；最后gpu0同步并生成结果。
69.综上所述，通过采用新的封装技术，可以实现芯粒裸片到裸片（die to die）连接，而进一步借助存储单元的共享以及全局管理，交换结构的快速数据传输，本发明所述gpu之间的数据传输能力以及响应速度远远大于传统gpu到gpu的总线数据交互模式。并且所述主图形处理单元、与所述子图形处理单元之间，以及所述子图形处理单元之间能够实现大带宽、小延迟的数据交互，所以所述主图形处理单元、与所述子图形处理单元之间，以及所述子图形处理单元之间能够实施接近于实时的任务协作。
70.虽然在上文中详细说明了本发明的实施方式，但是对于本领域的技术人员来说显而易见的是，能够对这些实施方式进行各种修改和变化。但是，应理解，这种修改和变化都属于权利要求书中所述的本发明的范围和精神之内。而且，在此说明的本发明可有其它的
实施方式，并且可通过多种方式实施或实现。

技术特征：
1.一种图形处理模块，其特征在于，包括一个主图形处理单元、至少一个子图形处理单元、至少一个存储单元和至少一个交换结构，所述存储单元用于存放所述主图形处理单元和所述子图形处理单元的传输、转发以及运算数据；所述交换结构连接所述存储单元，用于实现同图形处理模块或跨模块的存储单元之间的数据传输及转发；所述主图形处理单元用于与外界进行数据交换，接收并分解图形处理任务，根据任务流程向子图形处理单元分发资源及任务指令，同步子图形处理单元的运算结果；所述子图形处理单元解析并执行相应任务指令。2.根据权利要求1所述的图形处理模块，其特征在于，所述主图形处理单元、所述子图形处理单元之间及所述子图形处理单元之间共用所述存储单元。3.根据权利要求1所述的图形处理模块，其特征在于，所述主图形处理单元用于从外界获取资源以及原始任务指令，根据所述原始任务指令生成所述子图形处理单元的任务指令，并通过所述存储单元或交换结构分发。4.根据权利要求1所述的图形处理模块，其特征在于，所述子图形处理单元具有前后级关系，前一级所述子图形处理单元在执行完相应任务后，继续生成下一级子图形处理单元的任务指令，并通过所述存储单元或交换结构转发。5.根据权利要求2所述的图形处理模块，其特征在于，所述存储单元为静态随机存取存储器，所述存储单元的部分配置为本地存储单元，作为对应图形处理单元的临时计算空间，其余配置为全局存储单元。6.根据权利要求1所述的图形处理模块，其特征在于，所述主图形处理单元与子图形处理单元物理结构相同。7.根据权利要求1所述的图形处理模块，其特征在于，所述主图形处理单元为全功能gpu，所述子图形处理单元根据承担的任务采用不同的物理结构。8.一种图形处理器，其特征在于，包括至少两个如权利要求1~7任意一项所述的图形处理模块，所述图形处理模块之间通过所述存储单元或所述交换结构中的至少一种进行数据交换。9.根据权利要求8所述的图形处理器，其特征在于，还包括负载均衡模块，所述负载均衡模块用于统计所述图形处理模块中各图形处理单元处于未工作状态的时间以得到统计结果，并根据所述统计结果对所述图形处理模块进行图形处理任务的分配。10.一种图形处理方法，其特征在于，用于一个主图形处理单元与至少一个子图形处理单元进行多gpu联合任务处理，所述主图形处理单元通过存储单元和连接所述存储单元的交换结构与子图形处理单元以及外部系统交换数据，所述方法包括：从外部系统接收图形处理任务及资源；分解所述图形处理任务，根据任务流程动态生成子图形处理单元的任务指令；将所述任务指令及相应资源分发给子图形处理单元；接收并同步所述子图形处理单元的运算结果；生成最终任务处理结果并返回给外部系统。11.根据权利要求10所述的图形处理方法，其特征在于，所述主图形处理单元与子图形
处理单元通过共用所述存储单元以及连接各存储单元的交换结构实现全局的高速数据交换。12.根据权利要求10所述的图形处理方法，其特征在于，所述主图形处理单元与子图形处理单元为相同的物理结构，所述从外部系统接收图形处理任务及资源前，还需选取指定主图形处理单元与子图形处理单元。13.根据权利要求10所述的图形处理方法，其特征在于，所述主图形处理单元生成并分发所有子图形处理单元的任务指令及相应资源。14.根据权利要求10所述的图形处理方法，其特征在于，所述子图形处理单元具有前后级关系，第一级子图形处理单元接收并执行来自主图形处理单元的任务指令后，继续生成下一级子图形处理单元的任务指令，并通过所述存储单元或交换结构转发，直至最后一级子图形处理单元完成任务指令的执行。15.根据权利要求14所述的图形处理方法，其特征在于，各级所述子图形处理单元分别将执行任务指令的运算结果返回给主图形处理单元同步。16.根据权利要求14所述的图形处理方法，其特征在于，各级所述子图形处理单元将执行任务指令的运算结果转发给下一级子图形处理单元作为运算所需数据，直至最后一级子图形处理单元将最终运算结果返回给主图形处理单元。17.根据权利要求10所述的图形处理方法，其特征在于，所述图形处理任务包括实时光线追踪、神经网络深度学习以及图像渲染。18.根据权利要求10所述的图形处理方法，其特征在于，所述分解所述图形处理任务时，使得主图形处理单元与各子图形处理单元仅执行固定类型或阶段的任务指令。

技术总结
本发明提供了一种图形处理模块、图形处理器以及图形处理方法，所述图形处理方法用于一个主图形处理单元与至少一个子图形处理单元进行多GPU联合任务处理，所述主图形处理单元通过存储单元和连接所述存储单元的交换结构与子图形处理单元以及外部系统交换数据，具体步骤包括：从外部系统接收图形处理任务及资源；分解所述图形处理任务，根据任务流程动态生成子图形处理单元的任务指令；将所述任务指令及相应资源分发给子图形处理单元；接收并同步所述子图形处理单元的运算结果；生成最终任务处理结果并返回给外部系统；本发明实现了一种晶圆级规模设计的多GPU架构图形处理器，进一步提高了图形处理的效率。一步提高了图形处理的效率。一步提高了图形处理的效率。


技术研发人员：顾德明
受保护的技术使用者：南京砺算科技有限公司
技术研发日：2022.04.22
技术公布日：2022/5/25