backyes / analysis
UMDK · 灵衢内存语义开发包 — 深度分析文档索引

源码级深度分析 索引

Contents

UMDK（Unified Memory Development Kit）是支持 UB（Ultra-Bus）协议栈的全栈软件框架。 本索引涵盖 CAM 通信加速库与 URPC 统一远程过程调用两大核心组件的源码级深度分析， 包含 3 份主报告、16 篇 Agent 深挖文章、10 篇 URPC 专题文档。

3
主报告
16
CAM Agent 深挖
10
URPC 专题文档
21K+
分析行数

分析报告

共 3 份 · 源码级深度分析
CAM · v2.0 (最新)

UMDK/CAM 通信加速库深度分析 v2

CAM 是 UMDK 的 MoE 专家并行通信加速库。v2 版 8 章深度分析：EP Normal Zero-Buffer 流水线 / EP Low-Latency 8+4 阶段细粒度同步 / Fused Deep MoE 三变体 (BF16/W4A8/FWK) + Catlass GEMM / Detour All-to-All+ReduceScatter / A2E-E2A 跨域通信 / 框架基础设施 / 双层 CMake+HFA+OPX / 跨章节设计洞察。
8 章~1500 行源码级
阅读报告 →
URPC · 架构深潜

URPC 统一远程过程调用架构分析

URPC 是 UMDK 的 RPC 框架组件。全栈解析：Overview / Modules / RPC Flow / Queue Lifecycle / Flow Control / UBPlus（UB 增强协议）/ Mem Import（内存导入）/ Keepalive / Control Plane / Security。覆盖 liburpc → uburma.ko → ubcore.ko 全链路。
11 篇~1300 行全栈
阅读报告 →
CAM · v1.0 (原始)

UMDK/CAM 通信加速库深度分析 v1

CAM v1 版深度分析，涵盖 EP Normal / Low-Latency 算子、Fused Deep MoE 家族、辅助通信算子、框架基础设施等。v2 在 v1 基础上大幅扩展了 Zero-Buffer 内存布局、全 Pipeline 同步协议、Catlass TPL 深度分析。
8 章~18K 行源码级
阅读报告 →

CAM Agent 深挖文章

16 篇 · 从架构到算子实现
01

Architecture Overview

01_architecture.md
02

Build & Deploy

02_build_deploy.md
03

EP Kernels Deep Dive

03_ep_kernels.md
04

Fused Deep MoE

04_fused_deep_moe.md
05

Test System

05_test_system.md
06

SHMEM Deep Dive

06_shmem_deepdive.md
07

HCCL Window Deep Dive

07_hccl_window_deepdive.md
08

Notify / Dispatch Layout

08_notify_dispatch_layout_deepdive.md
09

Fused MoE SHMEM

09_fused_moe_shmem_deepdive.md
10

ZB Dispatch Operators

10_zb_dispatch_operators.md

CAM Agent 深挖 · 续

6 篇 · ZB Combine 至 Pybind
11

ZB Combine Operators

Markdown 源
12

Fused MoE Family

Markdown 源
13

New Comm Operators

Markdown 源
14

ZB Utils / Build / HFA

Markdown 源
15

Pybind / Examples / Docker

Markdown 源
16

SHMEM Framework NDA

Markdown 源

URPC 专题文档

10 篇 · 从 RPC Flow 到 Security
01总体架构概览
02核心模块分析
03RPC 调用流 Deep Dive
04队列生命周期 Deep Dive
05流控窗口 Deep Dive
06UB_PLUS 反向拉取 Deep Dive
07内存导入协议 Deep Dive
08Keepalive 保活 Deep Dive
09控制面 IP 传输 Deep Dive
10安全加密与扩展

架构总览

UMDK 软件栈与 UB 协议分层 
┌─────────────────────────────────────────────────────────────────────┐
│                        UMDK 软件栈                                   │
│  ┌──────────┐  ┌──────────┐  ┌──────────┐  ┌──────────┐            │
│  │  URMA    │  │  URPC    │  │  DLock   │  │   UMS    │            │
│  │ (RDMA)   │  │  (RPC)   │  │  (Lock)  │  │ (Memory) │            │
│  └────┬─────┘  └────┬─────┘  └────┬─────┘  └────┬─────┘            │
│       │              │              │              │                  │
│  ┌────┴──────────────┴──────────────┴──────────────┴────┐            │
│  │              UB Transport Layer (RTP/UTP)             │            │
│  └────────────────────────┬─────────────────────────────┘            │
│                           │                                          │
│  ┌────────────────────────┴─────────────────────────────┐            │
│  │         UB Transaction Layer (BTAH/ATAH, 18 opcodes) │            │
│  └──────────────────────────────────────────────────────┘            │
└─────────────────────────────────────────────────────────────────────┘

核心发现

源码级关键架构洞察
  • Zero-Buffer 流水线：EP Normal 模式通过精心设计的 Notify→Dispatch→Combine 三阶段同步协议，实现零额外 buffer 的通信流水线，将中间数据直接写入目标地址。
  • 8+4 阶段细粒度同步：EP Low-Latency 模式将 Dispatch 拆为 8 阶段、Combine 拆为 4 阶段，每阶段仅同步必要的最小数据集，实现通信延迟的极致压缩。
  • Fused Deep MoE 三变体：BF16 / W4A8 / FWK 三种精度变体共享三阶段流水线架构，通过 AIC/AIV 异构执行模型实现计算-通信深度重叠。
  • Catlass TPL 集成：GEMM 引擎深度集成 NVIDIA Catlass 模板库，通过 Tiling Key 位掩码实现灵活的 tiling 策略选择。
  • URPC 全栈路径：从用户态 verb 到内核态 uburma.ko → ubcore.ko，URPC 的控制面与数据面分离设计保证了高吞吐与低延迟的平衡。
  • UBPlus 增强协议：URPC 在 UB 事务层之上构建了 UBPlus 协议，扩展了内存导入、Keepalive、流量控制等高级语义。
  • Transport/Transaction 分离：UB 协议栈核心创新 — Native load/store 延迟 500ns vs RoCE 2236ns (4.47×) + 分级定序（Graded Ordering）。