Q4：CUDA event 复用时，wait 等的是哪一次 record？
修正先 wait 后 record 的顺序，并用一个 event 为多批数据建立跨 stream 依赖。
Tag
synchronization
共 4 篇内容。
-
-
Q1：CUDA 跨 stream 的执行顺序
cuda stream Q1。
-
Q2：CUDA 异步拷贝后，何时能改写 host buffer？
用拷贝完成事件保护 pinned host memory 的复用，并在等待前安排独立 CPU 工作。
-
Q3：NCCL Send/Recv 为什么需要分组？
把需要共同推进的发送和接收放入同一 group，避免在提交接收前等待发送完成。