Q6：FP8、MXFP8 与 NVFP4 的量化值和 scale 如何定义？
区分浮点量化值与缩放因子，理解 amax、块大小及两级 scale 对重建误差的影响。
Tag
gpu
共 5 篇内容。
-
-
Q4：CUDA event 复用时，wait 等的是哪一次 record？
修正先 wait 后 record 的顺序，并用一个 event 为多批数据建立跨 stream 依赖。
-
Q1：CUDA 跨 stream 的执行顺序
cuda stream Q1。
-
Q2：CUDA 异步拷贝后，何时能改写 host buffer？
用拷贝完成事件保护 pinned host memory 的复用，并在等待前安排独立 CPU 工作。
-
Q3：NCCL Send/Recv 为什么需要分组？
把需要共同推进的发送和接收放入同一 group，避免在提交接收前等待发送完成。