CUDA

摘要： 【目的】TensorFlow是人工智能领域最具代表性的深度学习框架。国产加速设备需要一个支持OpenCL的TensorFlow才能发挥其加速性能,为此需要将TensorFlow框架下的CUDA代码向OpenCL转换。如何验证OpenCL核函数的正确性,是研发任务面对的重要问题。【方法】基于TensorFlow动态链接库自定义算子和raw_ops测试接口,本文提出了一套OpenCL核函数的测试解决方案,包括自定义算子的源码设计规范、测试代码规范、代码审核方法和测试流程。【结果】本文实现了对135个OpenCL核函数代码的审核与测试,在各种数据类型及多种数据规模下进行了测试对比,完成了OpenCL核函数正确性的验证,及其与CUDA核函数的性能比较。【结论】本文为TensorFlow下OpenCL核函数的测试提供了可靠而有效的解决方案。

摘要： 在科学计算和工程领域,大型稀疏线性方程组的求解非常常见,目前已经有许多迭代方法和预处理技术被用于求解这类方程。DILU预处理技术类似于ILU,是开源计算流体力学软件OpenFOAM中重要的预处理技术,但未在OpenFOAM以外的领域引起关注,目前也没有完整的GPU实现。比较了DILU和ILU预处理技术对稳定双共轭梯度法(BiCGStab)加速的效果,以及它们在构造预处理子上的开销,结果表明,DILU在加速效果上不逊于ILU且在稳定性上优于ILU。在GPU并行实现方面,DILU可以使用分层并行和无全局同步并行两种并行策略,详细讨论了DILU预处理技术在这两种策略下的实现方法,给出了相关的算法和参考代码,然后比较了在两种并行策略下DILU预处理技术的性能。数值实验结果表明,在实践中两种并行策略各有优劣,可以根据实际表现进行选择。另外比较了GPU和CPU执行的DILU预处理技术,GPU在性能上具有明显优势,在线性方程组求解上存在性能瓶颈的程序可以移植到GPU平台以提升性能。

摘要： 面对互联时代海量的信息数据,图形处理器凭借极强的并行计算处理能力,通过GPU+CPU的架构为现代无线接入网设备的信号处理,提供了一种理想的技术手段。文章设计了一款基于CUDA编程接口的GPU Trace模块,用于在GPU+CPU平台架构中跟踪记录GPU的运行信息。

摘要： GPU具有大规模并行运算的特点,使用GPU作为计算节点可以大量节省硬件投入成本。论文通过对GPU硬件架构分析研究GPU做为新一代信号处理平台的优势,通过对CUDA软件架构的分析,研究影响信号处理算法在GPU上的性能的主要因素和提升性能的方法。最后在Jetson agx xavier平台上实现波束形成算法,并和CPU与DSP上的运算性能进行对比。

摘要： 为解决液压支架工长时间作业过程中,因身体疲劳不能及时发现护帮板未护帮的问题,采用实时性高的Tiny-YOLOv3算法检测护帮板状态,但检测任务会受到综采工作面尘雾的影响。因此,提出一种融合图像去雾与Tiny-YOLOv3的目标检测算法,并在此基础上优化图像去雾算法的CUDA实现,首先将暗通道图像用RGB单通道图像代替,然后按列分组求大气光值,合并初始透射率的kernel函数并优化精细化透射率计算方式,提升图像去雾速度,保证算法的实时性。实验结果表明,在煤矿护帮板状态检测场景中,融合算法比Tiny-YOLOv3算法的准确率提高了22.8%,且满足实时检测的要求。

摘要： 针对星载SAR影像匹配中影像文件大、重叠区域小等导致匹配效率低问题,该文提出一种基于重叠区域分块匹配策略的SAR-SIFT特征匹配方法,并采用Fork/Join同步并行模式处理金字塔影像以提高特征匹配效率,在特征点提取和特征描述子构建过程中采用OpenMP在CPU端进行并行计算,在GPU端进行逐像元响应函数的并行计算。为验证该方法的有效性,采用2021年覆盖云南省漾濞县“5·21”地震震区的5景高分三号顺轨影像(7104×5650)开展实验,结果表明:在5景高分三号影像匹配中,对实验影像按6×6分块,采用CPU八线程+GPU并行计算方案时效果最佳,加速比为45.15,处理时间从3683.9 s减少至81.6 s,与分块匹配策略、OpenMP多线程和减层降维3种加速方法相比,该方法效率最高,加速比为8.90,可为提高大区域顺轨影像匹配性能提供新的策略和思路。

摘要： 光束平差法(bundle adjustment,BA)是同步定位和地图构建(simultaneous localization and mapping,SLAM)后端优化的关键技术。在线使用光束平差时能否满足实时性要求,是将其应用于自动驾驶车端等实时系统的关键因素。首先分析特定场景中SLAM数据特点,提出滑动窗口机制降低计算规模;分析局部BA计算中稀疏矩阵性质提升算法的可并行性;最后基于嵌入式GPU对算法进行并行加速。将其应用于车载SLAM系统并在真实场景下测试,实验结果表明,在AGX Xavier嵌入式GPU上,针对720P道路场景,该方法比同平台CPU上处理性能平均提升4.8倍,可以处理15 fps的相机位姿地图数据,满足了30 fps的视频处理需求,达到了车载系统的实时性要求。

摘要： 在嵌入式计算平台上实现双向约束LK金字塔高精度光流的实时计算,是该算法能否应用于自动驾驶等场景的重要影响因素。为了实现该目的,提出了基于网格划分的特征提取方法及新的双向约束方法;然后设计了动态窗口的金字塔模型,解决了光流计算过程中的负载不均衡问题;最后通过降低计算位宽,使得整体性能获得进一步提升。实验结果表明:在Jetson TX2上,针对真实场景所用的720P视频,所提出方法的性能比OpenCV的GPU版本提升了4.1倍,达到30 fps以上;将采用该方法的SLAM系统成功应用于车载场景并在真实环境中测试,使得系统的性能达到了28 fps。新方法有效地提升了位姿和点云的精度,较好地满足了车载场景的实时处理需求。

摘要： CBF是声呐阵列信号处理的常用方法,其特点是权向量不变、运算量小,但阵增益有限、强干扰抑制能力不足。STMV的多目标方位分辨率和干扰抑制能力优于CBF,但STMV最佳权向量求解时利用了接收数据空间协方差矩阵,权向量计算复杂度的提高,使计算量显著增加,因此基于传统数字信号处理系统工程实现时因规模庞大而无法在水下无人平台中使用。为解决此问题,文章基于CUDA编程模型,设计实现了宽带STMV在GPU上并行实现,极大地提高了运算效率。测试结果表明:对于相同数据,GPU并行处理较CPU运算效率可达160倍以上。这说明GPU在大规模计算中优势显著。该硬件实现方式有望应用于水下无人平台声呐信号处理系统中。

摘要： 基于压缩感知的地震信号频率补偿算法可有效拓宽地震信号的频谱,提高地震资料的分辨率。虽然该算法具有良好的拓频效果,但对于高维度、大规模的地震数据时效较低。经过分析发现该算法的计算瓶颈在于计算反射系数部分的大量代数运算和重构信号部分的卷积运算,为此,提出一种基于CUDA的并行方案对该算法进行并行优化。首先,改变地震数据的组织形式,使其存取效率更高,且更适合并行处理;然后,重新设计计算反射系数串行代码,利用CUDA(Compute Unified Device Architecture)平台调用GPU大量轻量级线程对其中的代数运算进行并行化;最后,利用卷积定理改变了时域信号卷积计算方式,采用cufft库函数将两个时域信号的卷积转换到频域进行计算。结果表明,在保证计算精度的前提下,与串行算法相比,并行算法在PC端获得了4倍以上的总体加速比。

摘要： 立体匹配是虚拟现实领域的重要研究内容，已有研究主要关注提高算法的精度，对算法运 行的时间性能考虑较少。为了方便对不同立体匹配算法的运行速度进行对比，设计并实现了基于 CUDA的立体匹配算法评估工具。介绍其环境配置、各个功能模块，并对两个典型立体匹配算法进行了测试和分析。实验结果表明，能够从精度和运行时间两个方面对立体匹配算法进行评估。

摘要： 立体匹配是虚拟现实领域的重要研究内容，已有研究主要关注提高算法的精度，对算法运 行的时间性能考虑较少。为了方便对不同立体匹配算法的运行速度进行对比，设计并实现了基于 CUDA的立体匹配算法评估工具。介绍其环境配置、各个功能模块，并对两个典型立体匹配算法进行了测试和分析。实验结果表明，能够从精度和运行时间两个方面对立体匹配算法进行评估。

摘要： 立体匹配是虚拟现实领域的重要研究内容，已有研究主要关注提高算法的精度，对算法运 行的时间性能考虑较少。为了方便对不同立体匹配算法的运行速度进行对比，设计并实现了基于 CUDA的立体匹配算法评估工具。介绍其环境配置、各个功能模块，并对两个典型立体匹配算法进行了测试和分析。实验结果表明，能够从精度和运行时间两个方面对立体匹配算法进行评估。

摘要： 立体匹配是虚拟现实领域的重要研究内容，已有研究主要关注提高算法的精度，对算法运 行的时间性能考虑较少。为了方便对不同立体匹配算法的运行速度进行对比，设计并实现了基于 CUDA的立体匹配算法评估工具。介绍其环境配置、各个功能模块，并对两个典型立体匹配算法进行了测试和分析。实验结果表明，能够从精度和运行时间两个方面对立体匹配算法进行评估。

摘要： 针对基于视频图像的三维重建所需设备复杂和计算量大的问题,提出基于CUDA的可视外壳并行计算仿真实验平台。用三维图形绘制管线中的视点模拟真实相机,应用相机参数将各图像中物体轮廓坐标统一转换到世界坐标系,利用CUDA并行计算可视外壳。在此平台上将基于体素的可视外壳生成算法转化为CUDA线程块并行计算,仿真实验表明加速效果明显。

摘要： 针对基于视频图像的三维重建所需设备复杂和计算量大的问题,提出基于CUDA的可视外壳并行计算仿真实验平台。用三维图形绘制管线中的视点模拟真实相机,应用相机参数将各图像中物体轮廓坐标统一转换到世界坐标系,利用CUDA并行计算可视外壳。在此平台上将基于体素的可视外壳生成算法转化为CUDA线程块并行计算,仿真实验表明加速效果明显。

摘要： 针对基于视频图像的三维重建所需设备复杂和计算量大的问题,提出基于CUDA的可视外壳并行计算仿真实验平台。用三维图形绘制管线中的视点模拟真实相机,应用相机参数将各图像中物体轮廓坐标统一转换到世界坐标系,利用CUDA并行计算可视外壳。在此平台上将基于体素的可视外壳生成算法转化为CUDA线程块并行计算,仿真实验表明加速效果明显。

摘要： 针对基于视频图像的三维重建所需设备复杂和计算量大的问题,提出基于CUDA的可视外壳并行计算仿真实验平台。用三维图形绘制管线中的视点模拟真实相机,应用相机参数将各图像中物体轮廓坐标统一转换到世界坐标系,利用CUDA并行计算可视外壳。在此平台上将基于体素的可视外壳生成算法转化为CUDA线程块并行计算,仿真实验表明加速效果明显。

摘要： This paper mainly researches the latest GPU parallel computing technique； gives a briefintroduction on the exploring environment of CUDA universal computing；verifies the function of GPUparallel computing through an application case. The result of test confirms that GPU is capable of accelerating.rn In recently years, with the huge development of GPU(Graphics Processing Unit), the processing speed andbandwidth of memory are increasingly promoting；the speed and quantity of graphics processing are improvingas a consequence；the inventionhardware techniques is increasedof creative graphicsin themeanmotivate the development of picture processing,realization, computer emulation greatlytune. It virtual.

摘要： This paper mainly researches the latest GPU parallel computing technique； gives a briefintroduction on the exploring environment of CUDA universal computing；verifies the function of GPUparallel computing through an application case. The result of test confirms that GPU is capable of accelerating.rn In recently years, with the huge development of GPU(Graphics Processing Unit), the processing speed andbandwidth of memory are increasingly promoting；the speed and quantity of graphics processing are improvingas a consequence；the inventionhardware techniques is increasedof creative graphicsin themeanmotivate the development of picture processing,realization, computer emulation greatlytune. It virtual.

摘要： 本申请提供了一种基于CUDA的基因数据处理方法、装置、设备和存储介质，其中CUDA包括主机端和设备端，主机端可以将存储于内存中的待处理的基因测序数据发送至设备端，设备端将待处理的基因测序数据存储于资源池，然后设备端采用Graph方法从资源池中获取待处理的基因测序数据，并采用多线程并行方式对待处理的基因测序数据进行分析，得到相应的分析结果，并将相应的分析结果发送至主机端，以供主机端根据相应的分析结果得到基因数据分析结果。该基因数据处理方法采用基于CUDA的Graph技术来对基因数据进行处理分析，可以实现GPU高效比对以及降低了GPU的延时，从而能大大提高基因数据处理的效率。

摘要： 本申请涉及一种基于CUDA的规则快速查找方法、装置和计算机设备，其中，该基于CUDA的规则快速查找方法包括：获取每个规则的常量字符串，并通过字符串匹配算法，对常量字符串进行编译，得到常量字符串中单个不重复字符的第一布尔数组，进一步地，获取待匹配的数据的待匹配字符串，并基于待匹配字符串创建第二布尔数组，基于CUDA，对第一布尔数组与第二布尔数组进行多线程匹配处理，在待匹配字符串包含所有常量字符串时，则规则与数据匹配成功，通过本申请，解决了无法将数据与规则进行快速匹配的问题，实现了提高规则查找的效率。

摘要： 本发明提供了一种基于CUDA的海量运动目标实时查询方法，步骤包括：步骤1，外部数据接收与管理；步骤2，目标生命周期管理；步骤3，动态目标实时查询。该方法实时查询效率高，在海量运动目标数据场景下，本发明综合协同利用CPU、GPU资源，充分利用GPU多线程优势；查询条件可组合，可通过传入查询模式参数设置实现多种查询条件的组合，包括区域内查询、区域最短距离查询、前两者组合查询三种查询。

摘要： 本申请提供了一种CUDA多线程处理方法、系统及相关设备，其中，该方法包括：获取核函数对应的配置信息；在历史配置信息中不存在与配置信息相匹配的目标历史配置信息的情况下，根据配置信息生成线程的三维索引；根据配置信息对生成的三维索引进行压缩打包，并将压缩打包后的三维索引存储在存储器中；在历史配置信息中存在目标历史配置信息的情况下，获取目标历史配置信息对应的历史三维索引；根据目标历史配置信息对历史三维索引进行压缩打包，并将压缩打包后的历史三维索引存储在存储器中。本申请实施例有利于提升CUDA中多线程并行处理的效率。

摘要： 本发明提供一种CUDA架构D8算法的水域流向和累积汇流量并行分析方法，包括：基于GPU纹理存储器构建流域DEM栅格数据的读取存储模型；基于GPU全局存储器，设置并行网格和线程块，映射线程到DEM栅格单元，获取当前线程身份识别号；各线程根据读取存储模型连续拾取DEM栅格数据的中心栅格及相邻栅格高程值；根据中心栅格及相邻栅格高程值计算最大距离权落差，根据最大距离权落差确定中心栅格流向；根据中心栅格流向构建流向栅格单元，映射线程到流向栅格单元，读取线程身份识别号和流向；各线程依循流向开展串行汇流计算，获取累积汇流量矩阵。本发明提出了一种CUDA环境下D8算法快速运算的并行方法，解决了D8并行算法并行运算栅格像元访问和运算冲突问题。

摘要： 本发明涉及基于CUDA加速的平滑薄板样条形变参数计算方法，与现有技术相比解决了平滑薄板样条形变在图像配准任务中控制点数较多时计算时间长的缺陷。本发明包括以下步骤：三维待配准特征点和模板特征点的处理；对待配准点矩阵进行QR分解；平滑薄板样条形变参数的计算。本发明利用GPU的并行架构对大矩阵代数运算做了并行化，实现了平滑薄板样条形变参数快速计算，有效提升了图像配准算法的运行效率。

摘要： 本发明公开了一种基于CUDA的巨型星座覆盖性能并行计算方法，包括如下步骤：(1)设置星座的初始参数；(2)设置覆盖性能计算条件；(3)根据星座的初始参数在GPU中为星历数据预分配内存；(4)根据星座的初始参数和覆盖性能计算条件在GPU中为覆盖计算中间变量以及最终计算结果预分配内存；(5)对星座进行轨道预报；(6)坐标转换，将卫星星历从地心天球坐标系转到地固系；(7)将星历数据从CPU拷贝到GPU；(8)按照给定的覆盖性能计算条件，在GPU中进行覆盖性能计算；(9)将计算结果从GPU拷贝到CPU输出。本发明实现了巨型星座的覆盖性能快速计算，大大提高了仿真效率，在Jetson系列嵌入式开发板上运行，应用于搭载了星载嵌入式GPU系统的卫星平台中。

摘要： 本申请属于数据处理领域，应用于数据同步领域中，涉及一种基于CUDA数据快速同步方法、装置、计算机设备及存储介质，所述方法包括获取GPU流处理器数量，根据GPU流处理器数量，计算GPU流处理器在一次执行周期内，需要同时进行读取并且计算md5校验码的窗口数量，在GPU上创建CUDA进程；调用CUDA应用程序编程接口，从多个窗口批量读取nvme磁盘中的文件；在CUDA进程上创建多线程，所述多线程执行对各个不同窗口md5计算任务；在显存GDDR6中按照原文件内容序列，重新组装窗口数据内容。可改善传输速度，可同时拷贝多份窗口数据，可提升rsync同步备份性能。

摘要： 本发明公开了一种基于CUDA的Golden模板图生成方法，包括如下步骤：步骤一，基于现场设备扫描多份相同产品图，人工确定一幅模板作为基准图；步骤二，基于上一步骤提取到的数据，以及基准模板图，传输至显存中；步骤三，基于CUDA，提出了一种快速对数据、模板图进行带旋转式的亚像素下采样模板匹配模型，其运行在GPU中，通过CUDA的并行架构实现高速的图像处理，快速解决实现Golden所有模板图定位提取，快速并准确实现模板图融合，同时自动分离噪声、瑕疵等问题。

摘要： 本发明公开了一种基于CUDA平场校正和多角度的快速模板匹配实现方法，包括：获取平场校正系数、获取检测图像、模板图像、配置显存空间、平场校正、多线程模板匹配等步骤，最后对所有线程获得的模板匹配最优位置和得分，根据设定模板匹配阈值，最终得到最优匹配角度和位置，有效解决现场环境中拍摄相机视野不均匀，无法有效的进行模板匹配的问题；与此同时，模板匹配时能够实现比较快速的计算，弥补了OPENCV等主流模板匹配的功能不足的问题，并具有更高效的计算效率。