🔥 Engram 架构深潜:0 SM RDMA 远端内存访问全析
源码架构四层分层、NCCL Gin GPU-Initiated RDMA、RoCE/NVLink 路径、多 QP 查表并发、HybridElasticSymmetricMemory 对称内存、SM 调用 RoCE 机制、与模型共部署模型、FP8 SF 本地冗余设计。
阅读深潜 →基于博客《GPU微架构第三性原理:DeepEP的第一性原理》的三向对比分析。覆盖 DeepEP V1/V2 架构、DeepGEMM 源码、博客理论验证、测试源码分析、对称内存专题、DeepEP V2 ElasticBuffer 弹性架构深潜(含13问第一性原理)、Engram 0 SM RDMA 远端内存访问全析(含 HybridElasticSymmetricMemory 深度专题)。
源码架构四层分层、NCCL Gin GPU-Initiated RDMA、RoCE/NVLink 路径、多 QP 查表并发、HybridElasticSymmetricMemory 对称内存、SM 调用 RoCE 机制、与模型共部署模型、FP8 SF 本地冗余设计。
阅读深潜 →49 篇报告的完整导航页面。7 大类别:架构分析 (4篇)、博客↔DeepGEMM (10篇)、三向对比 (9篇)、DeepEP架构 (11篇)、测试源码 (7篇)、对称内存 (4篇)、V2弹性架构深潜 (4篇)、Engram深潜 (1篇)。
打开完整导航 →13 个核心问题深度解答:ElasticBuffer 统一 Normal/LL、SM 估算本质、TopK 复制机制、Decode 路由缓存、0 SM 先验知识、Engram 复用、FP8 Dispatch vs BF16 Combine、NV Gin 架构、VL 流量隔离、CFT、Zero Copy/Eager/TMA、AntGroup 优化。
阅读深潜 →四层架构、V1 vs V2 对比、核心抽象。从 DeepEP 到 Mega MoE 的架构演进本质:同步范式 Barrier->mbarrier FIFO、通信模型 消息传递->对称内存直传、数据布局 5层->4层->3层。
阅读架构 →博客理论与 DeepGEMM 源码的逐项对照:Dispatch/Combine、Buffer、SymmBuffer、Warp Spec、FIFO、Metadata、NVLink/RDMA、Normal vs LL、演进、Chunk Streaming、Counting Sort。
博客理论 <-> DeepEP 源码 <-> DeepGEMM 源码的逐算子三向对比。DeepEP 3-step vs Mega MoE 1-step、5层->4层->3层、Push->Pull 转变。
DeepEP V1/V2 完整架构分析:整体架构、Dispatch/Combine、Buffer 系统、Normal vs Low-Latency、NVLink/RDMA、Warp Spec、FIFO、Metadata、Counting Sort、Chunk Streaming、演进到 Mega MoE。
| 阶段 | 同步范式 | 通信模型 | 数据布局 | 代表 |
|---|---|---|---|---|
| DeepEP V1 | Barrier | 消息传递 Send->Forward->Receive | 5 层 Buffer | 07_deep_ep_* |
| DeepEP V2 | ElasticBuffer 统一 | NCCL Gin + 0 SM Engram | 4 层 -> 3 层 | 10/11/13 深潜 |
| DeepGEMM | mbarrier FIFO | Load/Store 对称内存直传 | SymmBuffer | 05_* 博客对照 |
| Mega MoE | 单 Kernel 融合 | 计算适配通信 | 极简 | 06_* 三向对比 |
html/index.html -> 13 深潜 -> 07 整体架构
类别 1 架构分析 -> 类别 4 DeepEP 架构 -> 类别 5 测试
类别 2 博客<->DeepGEMM -> 类别 3 三向对比
类别 7 弹性架构深潜 -> 类别 6 对称内存