zoukankan      html  css  js  c++  java
  • GPU编程和流式多处理器(七)

    6. 杂项说明

    6.1. warp级原语

    warp作为执行的原始单元(自然位于线程和块之间),重要性对CUDA程序员显而易见。从SM 1.x开始,NVIDIA开始添加专门针对thread的指令。

    Vote

    CUDA体系结构是32位的,并且warp由32个线程组成,这些线程与评估条件,向warp中的每个线程广播1位结果,指令能完整匹配。VOTE指令(在SM 1.2第一个可用的)的计算结果的状态,并广播该结果在thread的所有线程。__any()默认返回1,在任何thread32个的线程,如果断言为真。__all()默认返回1,如果谓词是真正的,所有的thread32个的线程。

    Fermi体系结构添加了VOTE的新变体,可将thread中每个线程的谓词结果传回。__ballot()默认全部线程的状态,并返回一个32位的值,每个比特给出了相应的线程的状态。

    Shuffle随机播放

    开普勒(Kepler)添加了随机播放指令,可以使内部线程之间进行数据交换,而无需通过共享内存暂存数据。尽管这些指令以与共享内存,有相同的等待执行时间,好处是,无需执行读和写操作,即可进行交换,并且可以减少共享内存的使用。

    以下指令包含在许多使用sm_30_intrinsics.h定义的,嵌入式PTX程序集的设备功能中

    int __shfl(int var,int srcLane,int width = 32);
    int __shfl_up(int var,unsigned int delta,int width = 32);
    int __shfl_down(int var,unsigned int delta,int width = 32);
    int __shfl_xor(int var,int laneMask,int width = 32);

    宽度参数,缺省值为32的宽度,必须是2的幂的范围内2..32。它可以将 warp细分为多个部分;如果width <32,则warp的每个子部分,都将充当一个单独的实体,其起始逻辑通道ID为0。线程只能与该子部分中的其他线程交换数据。

    __shfl()返回ID,由srcLane给出的线程所持有的var的值。如果srcLane不在0..width-1范围内,则返回线程自己的var值。指令的此变体可用于在warp内广播值。__shfl_up()通过从调用方的通道ID中,减去增量,并限制在0..width-1范围内,从而计算源通道ID 。__shfl_down()通过将增量添加到调用方的通道ID中,来计算源通道ID。

    __shfl_up()__shfl_down()分别启用,warp级扫描和反向扫描操作。__shfl_xor()通过对caller通道ID,与laneMask进行按位XOR运算,来计算源车道ID ;返回由生成的通道ID保留的var的值。该变体可用于,减少整个 warp(或子 warp)的变形。每个线程使用一系列不同顺序的关联运算符,来计算约简。

    6.2. 块级基元

    __syncthreads()默认用作barrier。导致所有线程等待,直到线程块中的每个线程,都到达__syncthreads()为止。Fermi指令集(SM 2.x),添加了几个新的块级屏障,汇总了有关线程块中线程的信息。

    • __syncthreads_count():计算一个谓词,并返回该谓词为实际线程总和
    • __syncthreads_or():返回线程块中所有输入的“或OR”
    • __syncthreads_and():返回线程块中所有输入的AND

    6.3. 性能计算

    开发人员可以定义自己的性能计数器,使用__prof_trigger()内在函数,在实时代码中对其进行递增。

    void __prof_trigger(int counter);

    调用此函数,使每个计数器将相应的计数器加1。计数器必须在0..7范围内;保留计数器8..15。在profiler配置文件中,列出prof_trigger_00..prof_trigger_07来获得计数器的值。

    6.4. Video Instructions

    本节中描述的视频说明,只能通过嵌入式PTX汇编器访问。这里描述了基本功能,以帮助开发人员确定,是否可能对应用程序有益。使用这些说明的任何人,都应查阅PTX ISA规范。

    标量视频说明

    标配有SM 2.0硬件的标量视频指令,可对视频处理所需的短(8位和16位)整数类型,进行有效操作。如PTX 3.1 ISA规范中,这些指令的格式如下。

    vop.dtype.atype.btype{.sat} d, a{.asel}, b{.bsel};

    vop.dtype.atype.btype{.sat}.secop d, a{.asel}, b{.bsel}, c;

    源和目标算子均为32位寄存器。dtype, atype, and btype may be .u32 or .s32可以是.u32.s32无符号和有符号的32位整数。在asel/bsel符选择从源算子,其8位或16位解压:B0B1B2,和B3中选择字节(从最低显著编号),h0/h1选择最低significant和最高significant分别为16位。

    提取输入值后,进行符号扩展或零扩展,以生成带符号的33位整数,并执行基本运算,从而生成一个34位中间结果,其符号取决于dtype。最后,将结果限制在输出范围,并执行以下操作之一。

    1. 将第二个运算(加,最小或最大值),应用于中间结果和第三个运算数。
    2. 将中间结果截断为8位或16位值,然后合并到第三个算子中的指定位置,产生最终结果。

    将低32位写入目标算子。

    VSET指令执行8位,16位或32位,输入算子之间的比较,并产生相应的谓词(1或0)作为输出。表14给出了PTX标量视频指令和相应的操作。

    表14标量视频指令。

     

    矢量视频指令(仅适用于SM 3.0)

    这些与SM 3.0一起添加的指令,与标量视频指令相似,将输入提升为规范的整数格式,执行核心运算,缩放并有选择地合并输出。通过对成对的16位值,或四位8位值,提供更高的性能。

    表15总结了PTX指令和这些指令实现的相应操作。对于视频处理和某些图像处理操作(例如中值滤波器)最有用。

    表15矢量视频指令

     

    6.5.Special Registers

    通过引用内置变量threadIdxblockIdxblockDimgridDim访问许多特殊寄存器。这些伪变量将在3节中详细介绍,它们是3维结构,分别指定线程ID,块ID,线程数和块数。

    除此之外,另一个特殊寄存器,SM的时钟寄存器,该寄存器随每个时钟周期递增。可以使用__clock()__clock64()内部函数,读取此计数器。分别跟踪每个SM的计数器,就像CPU上的时间戳计数器,对于测量不同代码序列的相对性能最有用,在尝试计算挂钟时间时,最好避免使用。

  • 相关阅读:
    [单调栈] Jzoj P4260 最大子矩阵
    [前缀和] Jzoj P4259 矩形
    [欧拉回路][状压dp] Jzoj P3290 吃货JYY
    [组合数][枚举] Jzoj P3332 棋盘游戏
    [欧拉函数][dp][快速幂] Jzoj P1161 机器人M号
    [exgcd] Jzoj P1158 荒岛野人
    [带权并查集] Jzoj P1503 体育场
    [dfs][树的直径] Jzoj P1737 删边
    [差分][倍增lca][tarjan] Jzoj P3325 压力
    [dfs] Jzoj P1497 景点中心
  • 原文地址:https://www.cnblogs.com/wujianming-110117/p/14238940.html
Copyright © 2011-2022 走看看