CUDA翘曲和占用率

最好将“运行”解释为“在SM和/或管道中的指令上具有状态”。 GPU硬件会调度尽可能多的可用块或将其装入SM的资源（以较小者为准），为它们包含的每个扭曲分配状态（即寄存器文件和本地内存），然后开始调度扭曲以执行。指令流水线的长度大约为21-24个周期，因此在任何给定时间的“运行”的各个阶段都有很多线程。 前两代具有CUDA功能的GPU（因此G80 / 90和G200）仅每四个时钟周期一次扭曲就退出指令。 Compute 2.0器件每两个时钟周期两次发送来自两次扭曲的指令，因此每个时钟有两条扭曲退出指令。计算2.1通过允许有效地无序执行扩展了这一点-每个时钟仍然只有两个扭曲，但是一次可能来自同一扭曲的两条指令。因此，每个SM额外的16个内核将用于指令级并行性，仍然由同一共享调度程序发出。