Tag

nccl

共 2 篇内容。

2026年9月8日

Q3：NCCL Send/Recv 为什么需要分组？

把需要共同推进的发送和接收放入同一 group，避免在提交接收前等待发送完成。
- nccl
- gpu
- synchronization
2026年9月8日

Q5：Ring All-Reduce 模型与 MoE 的 NIC 热点

从环上的分块传输理解成本模型，区分热点字节、有效带宽与分块优化的边界。
- nccl
- moe
- networking