🔥 Engram 架构深潜：0 SM RDMA 远端内存访问全析
源码架构四层分层（Python→C++→CUDA→JIT）、NCCL Gin GPU-Initiated RDMA Get 原语、RoCE/NVLink 路径处理、多 QP 查表并发、HybridElasticSymmetricMemory 对称内存定义、SM 调用 RoCE 机制、与模型共部署模型、FP8 scaling factor 本地冗余设计、测试方法与性能基准
阅读深潜 →基于博客《GPU微架构第三性原理：DeepEP的第一性原理》的全量分析报告。覆盖 DeepEP V1/V2 架构、DeepGEMM 源码、博客理论验证、测试源码分析、对称内存专题、DeepEP V2 ElasticBuffer 弹性架构深潜（含13问第一性原理）。
源码架构四层分层（Python→C++→CUDA→JIT）、NCCL Gin GPU-Initiated RDMA Get 原语、RoCE/NVLink 路径处理、多 QP 查表并发、HybridElasticSymmetricMemory 对称内存定义、SM 调用 RoCE 机制、与模型共部署模型、FP8 scaling factor 本地冗余设计、测试方法与性能基准
阅读深潜 →包结构、API 设计、C++ 绑定、Mega MoE Python 侧
阅读 →API 注册、JIT 编译管线、双编译器抽象
阅读 →SM90 vs SM100、TMA/MMA、FP8/FP4、Grouped GEMM
阅读 →setup.py、第三方集成、测试架构、CI/CD
阅读 →3 步变换坍缩为 1 步，Destination-major 被消除
阅读 →10 段式 SymmBuffer，Push → Pull 转变
阅读 →16 warps 分工，Send → Pull 转变
阅读 →mbarrier-based producer-consumer
阅读 →两阶段 Count-Scatter，TokenSrcMetadata
阅读 →Symmetric Memory 消除三阶段流水线
阅读 →Mega MoE 无双模式，单极演化
阅读 →单 Kernel 融合 6 阶段
阅读 →超越 Chunking，Token 级通信
阅读 →GPU inline Count → Prefix Sum → Scatter
阅读 →DeepEP 3-step vs Mega MoE 1-step
阅读 →5 层 → 4 层 → 3 层，Push → Pull
阅读 →博客 3 角色 → 实际 5 角色
阅读 →博客更贴近 DeepGEMM
阅读 →博客与 DeepEP 吻合
阅读 →V1 → V2 → DeepGEMM
阅读 →DeepEP 纯通信边界
阅读 →博客概念简化
阅读 →Push → Pull 转变
阅读 →四层架构、V1 vs V2、核心抽象
阅读 →博客高度准确，4 个 kernel
阅读 →博客 5 层是简化，rank×token 二维数组
阅读 →V1 分离 → V2 统一
阅读 →博客准确，实际 5 种 WarpRole
阅读 →博客 3 → 5 角色，三代演化
阅读 →4 层混合同步
阅读 →EPHandle 16 字段
阅读 →两级计数 + 64-bit 编码
阅读 →博客匹配 V1，V2 已修正
阅读 →博客准确，互补非替代
阅读 →四层金字塔架构、设计哲学、V1 vs V2 对比、阅读路径建议
阅读 →被测 API 签名/语义/参数矩阵/测试覆盖方式/V1→V2 演化
阅读 →init_dist、benchmark 工具、refs.py、gate.py
阅读 →609 行，7 维参数空间，bitwise identical
阅读 →Internode / Intranode / Low-Latency
阅读 →AGRS 双重验证，PP ring 拓扑
阅读 →同步原语、RDMA 单边通信
阅读 →三种对称内存类型、V1/V2 对比、kernel 示例
阅读 →SymBuffer 设计、5 层布局、NVLink Barrier
阅读 →三种使用范式、Push vs Pull、V1→V2→Mega MoE
阅读 →双路径 vs 单路径、地址翻译、同步原语
阅读 →统一接口、SM 估算本质、Engram 与 0 SM 通信全景、NV Gin 架构、VL 流量隔离、CFT、Eager、TMA、AntGroup 规划解读
阅读深潜 →统一 ElasticBuffer、EPHandle 路由缓存、Engram 远端内存访问、SM-Free 通信、Normal vs Low-Latency 算法差异
阅读 →Fully JIT、NCCL Gin、Header-only、EP2048、解析式 SM/QP、Hybrid/Direct 双模式、0 SM Engram/PP/CP
阅读 →ElasticBuffer 统一 Normal/LL 的量化因素、SM 自动估算数学本质、dispatch 内 TopK 复制机制
阅读 →| 阶段 | 同步范式 | 通信模型 | 数据布局 | 代表报告 |
|---|---|---|---|---|
| DeepEP V1 | Barrier | 消息传递 Send→Forward→Receive | 5 层 Buffer | 07_deep_ep_* |
| DeepEP V2 | ElasticBuffer 统一 | NCCL Gin + 0 SM Engram | 4 层 → 3 层 | 10/11/13 深潜 |
| DeepGEMM | mbarrier FIFO | Load/Store 对称内存直传 | SymmBuffer | 05_* 博客对照 |
| Mega MoE | 单 Kernel 融合 | 计算适配通信 | 极简 | 06_* 三向对比 |
legacy.html — DeepEP V1 NVSHMEM-based 原始文档
nvshmem.html — NVIDIA NVSHMEM 安装指南