CUDA 里面，一个 SM 里面的不同 block，是不能共享 shared memory 的吗？

movq · 2022-10-31T13:53:03Z

假设一个 SM 有 40K 的 shared memory ，然后能运行 4 个 block ，那么是不是说每个 block 最多用 10K ？是不是然后这些 block 用的 shared memory 都是对彼此不可见的？

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

For Existing Member Sign In

• 请不要在回答技术问题时复制粘贴 AI 生成的内容

This topic created in 1282 days ago, the information mentioned may be changed or developed.

假设一个 SM 有 40K 的 shared memory ，然后能运行 4 个 block ，那么

2 replies • 2022-10-31 23:06:15 +08:00

leimao

Oct 31, 2022 via iPhone

不同 block 不能共享
有可能可以使用更大的 shared memory
https://leimao.github.io/blog/CUDA-Shared-Memory-Capacity/

leimao

Oct 31, 2022 via iPhone

另外 SM 的分配不是由你直接决定的，得看系统资源
https://leimao.github.io/blog/CUDA-Occupancy-Calculation/