opencl cub库的实现方法及装置、电子设备和存储介质
技术领域
1.本公开涉及人工智能技术领域，尤其涉及一种opencl cub库的实现方法及装置、电子设备和存储介质。
背景技术：2.目前，深度学习框架主要利用各种高性能计算库来进一步优化计算速度。
3.深度学习框架的计算过程通常涉及规约、扫描、去重等基础计算功能，利用异构设备的并行加速特性，可以很好的优化这些基础计算功能的效率；nvidia的高性能计算库，可提供大量的高效基础计算，为深度学习框架中算子的实现提供了十分明显的加速效果。
4.上述nvidia的高性能计算库，仅能在nvidia等厂商的私有加速设备上使用，这就导致了众多兼容opencl的加速设备无法在深度学习领域发挥更大作用。
技术实现要素：5.本公开提供了一种opencl cub库的实现方法、装置、电子设备和存储介质。其主要目的在于实现cub库为opencl版本深度学习框架和opencl应用程序开发提供高效支持。
6.根据本公开的第一方面，提供了一种opencl cub库的实现方法，其中，包括：
7.基于opencl编程标准，设计opencl cub库相关算法，实现所述opencl cub库中相关算法对应的opencl核函数；
8.基于编译模块对opencl cub库进行编译，生成头文件以及动态链接库；所述头文件中包含封装api及封装api名称，所述动态链接库包含面向调用封装api的过程的算法封装；
9.基于opencl api封装和缓存管理模块对opencl api中的平台api与运行时api进行封装，并基于主机端对平台api及运行时api进行管理；
10.基于接口模块对主机端提供第一调用接口；所述第一调用接口用于在主机端代码中调度核函数算法模块中的核函数进行计算；
11.基于核函数算法模块提供面向设备端层面的第二调用接口；所述第二调用接口用于在其他设备端代码中调用核函数算法模块中的核函数。
12.可选的，所述基于编译模块对opencl cub进行编译包括：
13.所述编译模块根据makefile文件对opencl cub库进行编译；所述makefile文件中包含cmake语法及opencl cub库编译规则。
14.可选的，所述基于opencl api封装和缓存管理模块对opencl api中的平台api与运行时api进行封装包括：
15.基于所述平台api执行设备、平台、上下文、命令队列等资源的调配中的至少一种；
16.基于所述运行时api执行program、核函数的编译和执行中的至少一种，并在第一次编译所述核函数时将编译的结果缓存至容器中。
17.可选的，所述基于所述运行时api接口执行program、核函数的编译和执行还包括：
18.设备端基于所述运行时api调用编译后的核函数进行计算。
19.可选的，在所述基于接口模块对主机端提供第一调用接口之前，所述方法还包括：
20.提供对外调用的接口头文件定义、接口具体实现以及与核函数算法模块之间的调度逻辑。
21.可选的，所述设备端基于所述运行时api调用编译后的核函数进行计算还包括：
22.将待计算数据划分到至少一个group中，设备端调用至少一个核函数，使用所述至少一个group进行计算；
23.若所述设备端调用两个及两个以上的核函数，则基于opencl内存对象，在所述两个及两个以上的核函数之间进行数据传递。
24.可选的，所述设备端基于所述运行时api调用编译后的核函数进行计算还包括：
25.通过辅助空间的方式减小数据i/o的跨度；
26.在warp层级的算法中结合共享内存提高数据加载速度；
27.基于opencl的向量类型对所述算法的数据存储进行优化。
28.可选的，所述方法还包括：
29.将opencl cub库中的头文件以及动态链接库与深度学习框架进行集成和链接；
30.在深度学习框架中引入核函数的具体算法封装文件，使所述深度学习框架可调用opencl cub库提供的设备端算法；
31.在主机端引入单例封装和算法接口所在文件，通过命名空间调用具体算法接口；
32.在设备端层面通过面向过程的算法封装，同时增加必需的核函数编译选项，在设备端代码中调用对应核函数；完成opencl cub库在深度学习框架中的引入。
33.根据本公开的第二方面，提供了一种opencl cub库的实现装置，包括：
34.设计单元，用于基于opencl编程标准，设计opencl cub库相关算法，实现所述opencl cub库中相关算法对应的opencl核函数；
35.编译单元，用于基于编译模块对opencl cub库进行编译，生成头文件以及动态链接库；所述头文件中包含封装api及封装api名称，所述动态链接库包含面向调用封装api的过程的算法封装；
36.第一封装单元，用于基于opencl api封装和缓存管理模块对opencl api中的平台api与运行时api进行封装，并基于主机端对平台api及运行时api进行管理；
37.第一提供单元，用于基于接口模块对主机端提供第一调用接口；所述第一调用接口用于在主机端代码中调度核函数算法模块中的核函数进行计算；
38.第二提供单元，用于基于核函数算法模块提供面向设备端层面的第二调用接口；所述第二调用接口用于在其他设备端代码中调用核函数算法模块中的核函数。
39.可选的，所述编译单元，还用于所述编译模块根据makefile文件对opencl cub库进行编译；所述makefile文件中包含cmake语法及opencl cub库编译规则。
40.可选的，所述第一封装单元还用于
41.基于所述平台api执行设备、平台、上下文、命令队列等资源的调配中的至少一种；
42.基于所述运行时api执行program、核函数的编译和执行中的至少一种，并在第一次编译所述核函数时将编译的结果缓存至容器中。
43.可选的，所述第一封装单元还用于：
44.设备端基于所述运行时api调用编译后的核函数进行计算。
45.可选的，所述装置还包括：
46.第三提供单元，用于在第一提供单元基于接口模块对主机端提供第一调用接口之前，提供对外调用的接口头文件定义、接口具体实现以及与核函数算法模块之间的调度逻辑。
47.可选的，所述第一封装单元还用于：
48.将待计算数据划分到至少一个group中，设备端调用至少一个核函数，使用所述至少一个group进行计算；
49.当所述设备端调用两个及两个以上的核函数时，基于opencl内存对象，在所述两个及两个以上的核函数之间进行数据传递。
50.可选的，所述第一封装单元还用于：
51.通过辅助空间的方式减小数据i/o的跨度；
52.在warp层级的算法中结合共享内存提高数据加载速度；
53.基于opencl的向量类型对所述算法的数据存储进行优化。
54.可选的，所述装置还包括：
55.集成单元，用于在第一提供单元基于接口模块对主机端提供第一调用接口之前，将opencl cub库中的头文件以及动态链接库与深度学习框架进行集成和链接；
56.第一引入单元，用于在深度学习框架中引入核函数的具体算法封装文件，使所述深度学习框架可调用opencl cub库提供的设备端算法；
57.第二引入单元，用于在主机端引入单例封装和算法接口所在文件，通过命名空间调用具体算法接口；
58.第二封装单元，用于在设备端层面通过面向过程的算法封装，同时增加必需的核函数编译选项，在设备端代码中调用对应核函数；完成opencl cub库在深度学习框架中的引入。
59.根据本公开的第三方面，提供了一种电子设备，包括：
60.至少一个处理器；以及
61.与所述至少一个处理器通信连接的存储器；其中，
62.所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行前述第一方面所述的方法。
63.根据本公开的第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行前述第一方面所述的方法。
64.根据本公开的第五方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现如前述第一方面所述的方法。
65.本公开提供的opencl cub库的实现方法、装置、电子设备和存储介质，基于opencl编程标准，设计opencl cub库相关算法，实现所述opencl cub库中相关算法对应的opencl核函数；基于编译模块对opencl cub库进行编译，生成头文件以及动态链接库；所述头文件中包含封装api及封装api名称，所述动态链接库包含面向调用封装api的过程的算法封装；基于opencl api封装和缓存管理模块对opencl api中的平台api与运行时api进行封装，并基于主机端对平台api及运行时api进行管理；基于接口模块对主机端提供第一调用接口；
所述第一调用接口用于在主机端代码中调度核函数算法模块中的核函数进行计算。基于核函数算法模块提供面向设备端层面的第二调用接口；所述第二调用接口用于在其他设备端代码中调用核函数算法模块中的核函数。与相关技术相比，本技术实施例基于opencl编程标准，设计cub库相关算法，并且对于cub库的封装、调用、编译方面进行重新设计，实现了基于opencl标准的cub库，可以为opencl版本深度学习框架和opencl应用程序开发提供高效支持。
66.应当理解，本部分所描述的内容并非旨在标识本技术的实施例的关键或重要特征，也不用于限制本技术的范围。本技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
67.附图用于更好地理解本方案，不构成对本公开的限定。其中：
68.图1为本公开实施例所提供的一种opencl cub库的实现方法的流程示意图；
69.图2为本公开实施例所提供的一种opencl cub库的整体架构图；
70.图3为本公开实施例所提供的一种设备端算法优化的方法的流程示意图；
71.图4为本公开实施例提供的一种opencl cub库的实现装置的结构示意图；
72.图5为本公开实施例提供的另一种opencl cub库的实现装置的结构示意图；
73.图6为本公开实施例提供的示例电子设备500的示意性框图。
具体实施方式
74.以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
75.下面参考附图描述本公开实施例的opencl cub库的实现方法、装置、电子设备和存储介质。
76.图1为本公开实施例所提供的一种opencl cub库的实现方法的流程示意图。
77.如图1所示，该方法包含以下步骤：
78.步骤101，基于opencl编程标准，设计opencl cub库相关算法，实现所述opencl cub库中相关算法对应的opencl核函数。
79.基于opencl编程标准的opencl核函数是cub库能够在支持opencl深度学习框架和opencl应用程序运行的基础。
80.步骤102，基于编译模块对opencl cub库进行编译，生成头文件以及动态链接库；所述头文件中包含封装api及封装api名称，所述动态链接库包含面向调用封装api的过程的算法封装。
81.请参阅图2，图2为本技术实施例所提供的一种opencl cub库的整体架构图；根据opencl的编译特性，oclcub(opencl cub，南开大学软件学院研发实现的opencl高性能计算库(cub库)，包含如前缀扫描、规约、去重、排序等基础运算)在设计时将主机端代码和设备端代码完全解耦开来，opencl核函数单独存放于一系列核函数文件和基于c99标准的头文件中，但在编译program时需要字符串形式的核函数信息，对此本技术实施例通过在编译文
件中调用python正则表达式脚本扫描并匹配核函数算法模块所有文件中的设备端代码，为每个设备端函数生成对应的字符串，由add_custom_command等语法保存目标结果，目标结果与其他主机端代码一同编译，最终生成oclcub的头文件以及动态链接库。
82.步骤103，基于opencl api封装和缓存管理模块对opencl api中的平台api与运行时api进行封装，并基于主机端对平台api及运行时api进行管理。
83.请继续参阅图2，在大型opencl项目中，为避免重复操作带来的性能开销，其初始化过程只需要进行一次，所以一种有效的方式是使用单例模式对初始化过程进行封装，oclcub对opencl api的规范化封装主要用于主机端接口设计和对接应用层开发环境。
84.步骤104，基于接口模块对主机端提供第一调用接口；所述第一调用接口用于在主机端代码中调度核函数算法模块中的核函数进行计算。
85.请继续参阅图2，oclcub的第一接口模块主要用于主机端层面，提供对应的主机端第一调用接口，例如：oclcub::core::sum；不同算法接口的定义由不同的hpp头文件管理，使用oclcub封装的opencl api单例类在相关cpp源文件中实现计算逻辑，并调度核函数算法模块中的设备端算法完成计算。
86.步骤105，基于核函数算法模块提供面向设备端层面的第二调用接口；所述第二调用接口用于在其他设备端代码中调用核函数算法模块中的核函数。
87.请继续参阅图2，核函数算法模块是oclcub的计算核心，其中的设备端算法是提升整体性能的关键，核函数算法模块主要针对核函数层面的应用，提供与cub和hipcub相同的算法功能，具有warp和block两个层级的实现，同时，oclcub还扩充了一些设备端算法的api实现，这些api由cuda提供，在深度学习框架中被调用的频率较高，例如atomic、shfl_down_sync、shfl_xor_sync、ballot_sync、welford等，拓展这些api可以更加方便基于oclcub进行opencl核函数算法设计。
88.本公开提供的opencl cub库的实现方法，基于opencl编程标准，设计opencl cub库相关算法，实现所述opencl cub库中相关算法对应的opencl核函数；基于编译模块对opencl cub库进行编译，生成头文件以及动态链接库；所述头文件中包含封装api及封装api名称，所述动态链接库包含面向调用封装api的过程的算法封装；基于opencl api封装和缓存管理模块对opencl api中的平台api与运行时api进行封装，并基于主机端对平台api及运行时api进行管理；基于接口模块对主机端提供第一调用接口；所述第一调用接口用于在主机端代码中调度核函数算法模块中的核函数进行计算。基于核函数算法模块提供面向设备端层面的第二调用接口；所述第二调用接口用于在其他设备端代码中调用核函数算法模块中的核函数。与相关技术相比，本技术实施例基于opencl编程标准，设计cub库相关算法，并且对于cub库的封装、调用、编译方面进行重新设计，实现了基于opencl标准的cub库，可以为opencl版本深度学习框架和opencl应用程序开发提供高效支持。
89.作为对上述申请实施例的扩展，在基于编译模块对opencl cub进行编译时，还包括以下内容：所述编译模块根据makefile文件对opencl cub库进行编译；所述makefile文件中包含cmake语法及opencl cub库编译规则。
90.作为对上述申请实施例的扩展，在步骤103基于opencl api封装和缓存管理模块对opencl api中的平台api与运行时api进行封装还包括：基于所述平台api执行设备、平台、上下文、命令队列等资源的调配中的至少一种；基于所述运行时api执行program、核函
数的编译和执行中的至少一种，并在第一次编译所述核函数时将编译的结果缓存至容器中；若设备端需调用核函数进行计算，则需将核函数编译成二进制等形式，设备端才能够进行调用，为减少性能损耗，使用unordered_map将program与核函数绑定，并在首次编译时将核函数编译结果缓存至容器，设备端基于所述运行时api调用编译后的核函数进行计算，并且当后续相同核函数在编译时直接通过map中的红黑树进行查询读取调用。
91.作为本技术实施的一种可实现方式，在步骤104在所述基于接口模块对主机端提供第一调用接口之前，所述方法还包括：提供对外调用的接口头文件定义、接口具体实现以及与核函数算法模块之间的调度逻辑。
92.本技术实施例化对于设备端的计算算法进行了一些优化，图3为本技术实施例所提供的一种设备端算法优化的方法的流程示意图，包括：
93.步骤201，将待计算数据划分到至少一个group中，设备端调用至少一个核函数，使用所述至少一个group进行计算。
94.为能够充分利用加速设备的计算资源，oclcub在实现设备端算法时，会根据待处理数据规模，将待处理数据划分到至少一个group中，但是多个group会造成数据不同步的问题，将算法划分为多个核函数实现，保证算法的线程是安全的，不会发生混乱，例如：去重算法涉及四个核函数的调用。
95.步骤202，若所述设备端调用两个及两个以上的核函数，则基于opencl内存对象，在所述两个及两个以上的核函数之间进行数据传递。
96.当调用两个及两个以上核函数进行计算时，可能会造成核函数之前的非必要的数据拷贝或数据转换等耗时操作，因此oclcub使用opencl原生的内存对象作为参数变量，使核函数之间传递参数时传递opencl的原生内存对象，省去了不必要的耗时操作，提升了oclcub的计算性能。
97.本技术实施例对在设备端对group内部待计算数据进行处理的过程进行了部分优化，包括：通过辅助空间的方式减小数据i/o的跨度；group内部的计算结果往往需要映射到全局其他group，由于大规模的数据可能远远大于opencl能够分配的线程数目，以opencl的调度特点，多出的数据会在能够申请的线程上做循环处理，这个过程容易出现跨度较大的数据i/o，所以oclcub在算法设计时着重注意减少缓存外的数据i/o，例如去重算法通过辅助空间和临时变量等方式来对此优化。
98.在warp层级的算法中结合共享内存提高数据加载速度；在group内部进行计算时，为有效降低算法的时间复杂度，oclcub尽可能结合规约的思想去实现，充分利用group内部数据同步的优势，例如扫描算法实现group内部计算时，通过向前和向后两趟规约即可在保证线程安全的前提下对group内所有数据完成高效扫描。
99.基于opencl的向量类型对所述算法的数据存储进行优化；为达到更好的性能，oclcub在warp层级的部分实现中使用局部内存提高数据i/o效率、在排序等算法中使用opencl向量进一步提升计算速度
100.作为本技术实施例的一种可实现方式，在将opencl cub库集成到深度学习框架中时，可采用下述方法：将opencl cub库中的头文件以及动态链接库与深度学习框架进行集成和链接；在深度学习框架中引入核函数的具体算法封装文件，使所述深度学习框架可调用opencl cub库提供的设备端算法；在主机端引入单例封装和算法接口所在文件，通过命
名空间调用具体算法接口；在设备端层面通过面向过程的算法封装，同时增加必需的核函数编译选项，在设备端代码中调用对应核函数；完成opencl cub库在深度学习框架中的引入。
101.与上述的opencl cub库的实现方法相对应，本发明还提出一种opencl cub库的实现装置。由于本发明的装置实施例与上述的方法实施例相对应，对于装置实施例中未披露的细节可参照上述的方法实施例，本发明中不再进行赘述。
102.图4为本公开实施例提供的一种opencl cub库的实现装置的结构示意图，如图4所示，包括：
103.设计单元41，用于基于opencl编程标准，设计opencl cub库相关算法，实现所述opencl cub库中相关算法对应的opencl核函数；
104.编译单元42，用于基于编译模块对opencl cub库进行编译，生成头文件以及动态链接库；所述头文件中包含封装api及封装api名称，所述动态链接库包含面向调用封装api的过程的算法封装；
105.第一封装单元43，用于基于opencl api封装和缓存管理模块对opencl api中的平台api与运行时api进行封装，并基于主机端对平台api及运行时api进行管理；
106.第一提供单元44，用于基于接口模块对主机端提供第一调用接口；所述第一调用接口用于在主机端代码中调度核函数算法模块中的核函数进行计算；
107.第二提供单元45，用于基于核函数算法模块提供面向设备端层面的第二调用接口；所述第二调用接口用于在其他设备端代码中调用核函数算法模块中的核函数。
108.本公开提供的opencl cub库的实现装置，基于opencl编程标准，设计opencl cub库相关算法，实现所述opencl cub库中相关算法对应的opencl核函数；基于编译模块对opencl cub库进行编译，生成头文件以及动态链接库；所述头文件中包含封装api及封装api名称，所述动态链接库包含面向调用封装api的过程的算法封装；基于opencl api封装和缓存管理模块对opencl api中的平台api与运行时api进行封装，并基于主机端对平台api及运行时api进行管理；基于接口模块对主机端提供第一调用接口；所述第一调用接口用于在主机端代码中调度核函数算法模块中的核函数进行计算。基于核函数算法模块提供面向设备端层面的第二调用接口；所述第二调用接口用于在其他设备端代码中调用核函数算法模块中的核函数。与相关技术相比，本技术实施例基于opencl编程标准，设计cub库相关算法，并且对于cub库的封装、调用、编译方面进行重新设计，实现了基于opencl标准的cub库，可以为opencl版本深度学习框架和opencl应用程序开发提供高效支持。
109.进一步地，在本实施例一种可能的实现方式中，所述编译单42元还用于：
110.所述编译模块根据makefile文件对opencl cub库进行编译；所述makefile文件中包含cmake语法及opencl cub库编译规则。
111.进一步地，在本实施例一种可能的实现方式中，所述第一封装单元43还用于
112.基于所述平台api执行设备、平台、上下文、命令队列等资源的调配中的至少一种；
113.基于所述运行时api执行program、核函数的编译和执行中的至少一种，并在第一次编译所述核函数时将编译的结果缓存至容器中。
114.进一步地，在本实施例一种可能的实现方式中，所述第一封装单元43还用于：
115.设备端基于所述运行时api调用编译后的核函数进行计算。
116.进一步地，在本实施例一种可能的实现方式中，如图5所示，所述装置还包括：
117.第三提供单元46，用于在第一提供单元44基于接口模块对主机端提供第一调用接口之前，提供对外调用的接口头文件定义、接口具体实现以及与核函数算法模块之间的调度逻辑。
118.进一步地，在本实施例一种可能的实现方式中，所述第一封装单元43还用于：
119.将待计算数据划分到至少一个group中，设备端调用至少一个核函数，使用所述至少一个group进行计算；
120.当所述设备端调用两个及两个以上的核函数时，基于opencl内存对象，在所述两个及两个以上的核函数之间进行数据传递。
121.进一步地，在本实施例一种可能的实现方式中，所述第一封装单元43还用于：
122.通过辅助空间的方式减小数据i/o的跨度；
123.在warp层级的算法中结合共享内存提高数据加载速度；
124.基于opencl的向量类型对所述算法的数据存储进行优化。
125.进一步地，在本实施例一种可能的实现方式中，如图5所示，所述装置还包括：
126.集成单元47，用于将opencl cub库中的头文件以及动态链接库与深度学习框架进行集成和链接；
127.第一引入单元48，用于在深度学习框架中引入核函数的具体算法封装文件，使所述深度学习框架可调用opencl cub库提供的设备端算法；
128.第二引入单元49，用于在主机端引入单例封装和算法接口所在文件，通过命名空间调用具体算法接口；
129.第二封装单元410，用于在设备端层面通过面向过程的算法封装，同时增加必需的核函数编译选项，在设备端代码中调用对应核函数；完成opencl cub库在深度学习框架中的引入。
130.需要说明的是，前述对方法实施例的解释说明，也适用于本实施例的装置，原理相同，本实施例中不再限定。
131.根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
132.图6示出了可以用来实施本公开的实施例的示例电子设备500的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
133.如图6所示，设备500包括计算单元501，其可以根据存储在rom(read-only memory，只读存储器)502中的计算机程序或者从存储单元508加载到ram(random access memory，随机访问/存取存储器)503中的计算机程序，来执行各种适当的动作和处理。在ram 503中，还可存储设备500操作所需的各种程序和数据。计算单元501、rom 502以及ram 503通过总线504彼此相连。i/o(input/output，输入/输出)接口505也连接至总线504。
134.设备500中的多个部件连接至i/o接口505，包括：输入单元506，例如键盘、鼠标等；
输出单元507，例如各种类型的显示器、扬声器等；存储单元508，例如磁盘、光盘等；以及通信单元509，例如网卡、调制解调器、无线通信收发机等。通信单元509允许设备500通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
135.计算单元501可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元501的一些示例包括但不限于cpu(central processing unit，中央处理单元)、gpu(graphic processing units，图形处理单元)、各种专用的ai(artificial intelligence，人工智能)计算芯片、各种运行机器学习模型算法的计算单元、dsp(digital signal processor，数字信号处理器)、以及任何适当的处理器、控制器、微控制器等。计算单元501执行上文所描述的各个方法和处理，例如opencl cub库的实现方法。例如，在一些实施例中，opencl cub库的实现方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元508。在一些实施例中，计算机程序的部分或者全部可以经由rom 502和/或通信单元509而被载入和/或安装到设备500上。当计算机程序加载到ram 503并由计算单元501执行时，可以执行上文描述的方法的一个或多个步骤。备选地，在其他实施例中，计算单元501可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行前述opencl cub库的实现方法。
136.本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、fpga(field programmable gate array，现场可编程门阵列)、asic(application-specific integrated circuit，专用集成电路)、assp(application specific standard product，专用标准产品)、soc(system on chip，芯片上系统的系统)、cpld(complex programmable logic device，复杂可编程逻辑设备)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
137.用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
138.在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、ram、rom、eprom(electrically programmable read-only-memory，可擦除可编程只读存储器)或快闪存储器、光纤、cd-rom(compact disc read-only memory，便捷式紧凑盘只读存储器)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
139.为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机
具有：用于向用户显示信息的显示装置(例如，crt(cathode-ray tube，阴极射线管)或者lcd(liquid crystal display，液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
140.可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：lan(local area network，局域网)、wan(wide area network，广域网)、互联网和区块链网络。
141.计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与vps服务("virtual private server"，或简称"vps")中，存在的管理难度大，业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器，或者是结合了区块链的服务器。
142.其中，需要说明的是，人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科，既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术；人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。
143.应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
144.上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。
技术特征：1.一种opencl cub库的实现方法，其特征在于，包括：基于opencl编程标准，设计openclcub库相关算法，实现所述opencl cub库中相关算法对应的opencl核函数；基于编译模块对opencl cub库进行编译，生成头文件以及动态链接库；所述头文件中包含封装api及封装api名称，所述动态链接库包含面向调用封装api的过程的算法封装；基于opencl api封装和缓存管理模块对opencl api中的平台api与运行时api进行封装，并基于主机端对平台api及运行时api进行管理；基于接口模块对主机端提供第一调用接口；所述第一调用接口用于在主机端代码中调度核函数算法模块中的核函数进行计算；基于核函数算法模块提供面向设备端层面的第二调用接口；所述第二调用接口用于在其他设备端代码中调用核函数算法模块中的核函数。2.根据权利要求1所述的方法，其特征在于，所述基于编译模块对opencl cub进行编译包括：所述编译模块根据makefile文件对opencl cub库进行编译；所述makefile文件中包含cmake语法及opencl cub库编译规则。3.根据权利要求1所述的方法，其特征在于，所述基于opencl api封装和缓存管理模块对opencl api中的平台api与运行时api进行封装包括：基于所述平台api执行设备、平台、上下文、命令队列等资源的调配中的至少一种；基于所述运行时api执行program、核函数的编译和执行中的至少一种，并在第一次编译所述核函数时将编译的结果缓存至容器中。4.根据权利要求3所述的方法，其特征在于，所述基于所述运行时api接口执行program、核函数的编译和执行还包括：设备端基于所述运行时api调用编译后的核函数进行计算。5.根据权利要求1所述的方法，其特征在于，在所述基于接口模块对主机端提供第一调用接口之前，所述方法还包括：提供对外调用的接口头文件定义、接口具体实现以及与核函数算法模块之间的调度逻辑。6.根据权利要求4所述的方法，其特征在于，所述设备端基于所述运行时api调用编译后的核函数进行计算还包括：将待计算数据划分到至少一个group中，设备端调用至少一个核函数，使用所述至少一个group进行计算；若所述设备端调用两个及两个以上的核函数，则基于opencl内存对象，在所述两个及两个以上的核函数之间进行数据传递。7.根据权利要求6所述的方法，其特征在于，所述设备端基于所述运行时api调用编译后的核函数进行计算还包括：通过辅助空间的方式减小数据i/o的跨度；在warp层级的算法中结合共享内存提高数据加载速度；基于opencl的向量类型对所述算法的数据存储进行优化。8.根据权利要求1-7所述的方法，其特征在于，所述方法还包括：
将opencl cub库中的头文件以及动态链接库与深度学习框架进行集成和链接；在深度学习框架中引入核函数的具体算法封装文件，使所述深度学习框架可调用opencl cub库提供的设备端算法；在主机端引入单例封装和算法接口所在文件，通过命名空间调用具体算法接口；在设备端层面通过面向过程的算法封装，同时增加必需的核函数编译选项，在设备端代码中调用对应核函数；完成opencl cub库在深度学习框架中的引入。9.一种opencl cub库的实现装置，其特征在于，包括：设计单元，用于基于opencl编程标准，设计openclcub库相关算法，实现所述opencl cub库中相关算法对应的opencl核函数；编译单元，用于基于编译模块对opencl cub库进行编译，生成头文件以及动态链接库；所述头文件中包含封装api及封装api名称，所述动态链接库包含面向调用封装api的过程的算法封装；第一封装单元，用于基于opencl api封装和缓存管理模块对opencl api中的平台api与运行时api进行封装，并基于主机端对平台api及运行时api进行管理；第一提供单元，用于基于接口模块对主机端提供第一调用接口；所述第一调用接口用于在主机端代码中调度核函数算法模块中的核函数进行计算；第二提供单元，用于基于核函数算法模块提供面向设备端层面的第二调用接口；所述第二调用接口用于在其他设备端代码中调用核函数算法模块中的核函数。10.一种电子设备，其特征在于，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-8中任一项所述的方法。11.一种存储有计算机指令的非瞬时计算机可读存储介质，其特征在于，所述计算机指令用于使所述计算机执行根据权利要求1-8中任一项所述的方法。12.一种计算机程序产品，其特征在于，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-8中任一项所述的方法。
技术总结本公开公开了OpenCL CUB库的实现方法及装置、电子设备和存储介质，涉及人工智能技术领域，基于OpenCL编程标准，设计CUB库相关算法，并且对于CUB库的封装、调用、编译方面进行重新设计，实现了基于OpenCL标准的CUB库，可为OpenCL版本深度学习框架和OpenCL应用程序开发提供高效支持。发提供高效支持。发提供高效支持。
技术研发人员：孙羽菲 石昌青 隋轶丞 张宇哲 陈禹乔 张玉志
受保护的技术使用者：南开大学
技术研发日：2022.06.20
技术公布日：2022/11/1
