线程为什么block

详解CUDA的Context、Stream、Warp、、SP、Kernel、Block、Grid

1、CUDA的Context、Stream、Warp、、SP、Kernel、Block、Grid详解CUDA Context（上下文）CUDA Context类似于CPU上的进程上下文，表示并管理由Driver层分配的资源的生命周期。多线程分配调用的GPU资源同属一个context下，通常与CPU的一个进程对应。

2、在进行模型性能优化项目时，我们接触到了CUDA的多个核心概念：context、stream、Warp、、SP、Kernel、Block、Grid。以下是对这些概念的总结与解释，旨在加深对CUDA的理解。CUDA Context（上下文）：Context类似于CPU进程上下文，管理GPU资源的生命周期。它表示由Driver层分配的资源，并与CPU进程相对应。

3、Context：定义：类似于CPU进程的高级版，是独立的沙箱，负责管理GPU的所有资源。特性：每个Context有独立的内存空间，CUDA runtime采用延迟初始化策略，driver API支持单线程或进程级别的操作。Stream：定义：异步操作的调度者，确保任务按预设顺序。作用：像线程间的交通信号灯，保证GPU工作的流畅性。

4、在探索高性能计算的世界里，CUDA为我们提供了强大的箱，其中包括Context、Stream、Warp、、SP、Kernel、Block和Grid等关键概念，它们共同构建了GPU并行计算的基石。让我们逐一剖析这些概念，以深入了解CUDA在优化模型项目中的重要作用。

5、硬件结构方面，（ Streaming Multiprocessors）负责线程调度，每个的SP（Streaming Processor）数量随GPU架构变化。CUDA线程模型涉及kernel（核函数）、thread、block和grid，以及warp（线程束），它们在并行计算中发挥关键作用。理解线程索引映射到矩阵坐标，对于正确访问内存和计算至关重要。

6、总结 是Nvidia GPU的物理单元，负责调度和block内的线程。Kernel、grid、block、thread是CUDA编程模型中的逻辑抽象，通过合理配置可高效利用资源。性能优化的核心在于平衡block大小与资源需求，最大化的warp并行度。使用nvidia-smi、Nsight Compute等分析性能瓶颈，进一步优化程序性能。

ios中为什么block要用copy属性?

Block属性的声明，首先需要用copy修饰符，因为只有copy后的Block才会在堆中，栈中的Block的生命周期是和栈绑定的，可以参考之前的文章（iOS： 非ARC下返回Block）。

block 建议用 copy 而不用 retain/strong 的原因 block 本质上是一个OC对象，内部有个 isa 指针，可以用 retain/strong/copy 等修饰词修饰。但是 block 在创建的时候内存默认分配在栈上，而不是堆上的。所以它的作用域仅限创建时候的作用域内，当你在该作用域外调用该 block 时，程序就会崩溃。

原因：block会把写在block里的变量copy一份，如果直接在block里使用lf，（lf对变量默认是强引用）lf对block持有，block对lf持有，导致循环引用，所以这里需要声明一个弱引用weakSelf，让block引用weakSelf，打破循环引用。