生成式推荐(Generative Recommendation)
最新研究热点调查报告

生成式推荐的源头可追溯至 TIGER(Rajput et al., 2023)：用 RQ-VAE 将每个物品编码为层次化"语义ID(SID)"，再把下一物品预测建模为 SID 序列的自回归生成。这一思路把推荐从"对固定候选集打分"转变为"生成物品标识符"，从根本上重构了召回与排序的边界。

2025–2026 年，快手 OneRec 系列把该范式推向工业极致：用一个 encoder-decoder 单次前向，删除传统 retrieval / pre-rank / rank 三级级联，将用户上下文直接映射到 video token。这是从"判别式打分"到"生成式统一"的范式跃迁，也成为后续所有工业 GR 工作的参照系。

语义ID(SID)是生成式推荐的根本表示——它定义了"生成空间"并直接决定个性化上限。2026 年 tokenizer 本身被识别为比 Transformer 更关键的瓶颈，大量工作围绕"如何为物品分配更好的离散码"展开。

1.1 软路由与变长：突破硬量化的边界坍缩

CapsID 指出残差向量量化(RVQ)的硬最近邻分配在 cluster 边界会坍缩多面语义并传播早期误差。它用 capsule routing 替代硬分配：物品概率性地路由到多个语义 capsule，置信度足够即提前终止 SID（变长）。配合 SemanticBPE 将相邻 SID token 组合成可复用 subword。

Learning Variable-Length Tokenization 质疑现有方法对所有物品用定长 tokenization 的隐含假设——它假设不同物品需要均匀编码容量，提出变长方案。ChronoID 则把显式时间信号注入 SID（此前时间只能通过 session 构造、序列顺序等隐式影响）。Discrimination Is Generation 从 tokenizer 视角统一 ranking 与 retrieval，指出 SID 构建过程与个性化信号解耦是根本缺口。

1.2 Tokenizer 可靠性与诊断

SIDInspector 提出 mapping-first 的 SID tokenizer 诊断资源，揭示覆盖率缺口、满码冲突等问题。"How Reliable Are Semantic-ID Tokenizer Comparisons?" 直接质疑现有 SID tokenizer 评测方法论的可靠性。"LLMs Need Encoders for Semantic IDs Too" 类比多模态 LLM（视觉用 vision encoder），论证 SID 也需要专用编码器——原始 token embedding 无法捕获 SID 特有结构。

1.3 动态 SID 与隐私擦除

DREAM 指出现有方法给每个物品分配单一静态 SID（离线 tokenize），提出动态精炼早期分配映射。TRACER 面向隐私安全，通过 Token 重分配实现概念擦除(Concept Erasure)——这是 GR 因结构上类 LLM 而新引入的安全维度。

这是 2026 年 GR 研究最密集、也与系统/芯片研究人员最相关的方向。GR 的 scaling-law 行为（质量随模型容量与数据系统性提升）使其天然走向大模型化，但部署代价极高。问题沿训练 → 推理 → KV-Cache → 量化 → Scaling全栈展开。

2.1 训练系统：Ascend NPU 的架构失配芯片

TurboGR 是最具芯片启示的工作：它在华为 Ascend NPU 上构建大规模 GR 训练系统，直击两个根本痛点——(1) jagged operator 缺少高性能实现；(2) 推荐工作负载的不规则稀疏原语与 NPU 的密集计算优化设计存在架构失配。

三大创新与指标：

• Ascend-affinity jagged 加速：融合算子消除 padding 冗余 + 动态负载均衡，把 inter-device imbalance 从 47% 降到 2.4%
• 分布式通信优化：层次稀疏并行 + 半异步训练（含收敛保证）+ 细粒度流水线 → 94% NPU 利用率
• 负采样优化：异步 offload + jaggedness-aware FP16 量化 + intra-batch logit sharing
• 整体：0.2B 参数下 54.71% MFU、近线性扩展(0.97)

2.2 推理加速：蒸馏与隐式推理

SID-MLP 提出"attention-heavy Transformer decoder 是结构过度设计"的洞察：由于 SID 的层次性，预测难度在首 token 之后骤降，重复的 attention 计算高度冗余。它用单次操作捕获全局用户上下文，再蒸馏到 position-specific MLP heads。

PauseRec 从推理路径切入：LLM-GR 用 SID，但 SID token 在 LLM 预训练时未见过，破坏了自然语言推理接口；显式 CoT 存在削弱世界知识、SID/NL embedding 空间错位、对 rationale 质量敏感三大局限。它改用轻量隐式推理。

LASAR 把 LLM 的 latent reasoning 引入 GR——在连续隐状态空间做多步推理，规避 token-by-token 生成延迟。用 SFT-then-RL（先 grounding SID 语义再引入 latent reasoning）+ 双向 KL 约束 + Policy Head 预测 per-sample 推理深度。

2.3 KV-Cache：超越前缀复用芯片

RcLLM 直击工业部署痛点：长个性化 prompt 的高延迟。标准 prefix caching 在推荐负载中收益有限，因为用户历史与物品上下文的复用是非连续的。RcLLM 把 prompt 分解为可复用 block，采用分层分布式存储：用户历史 cache 复制以零延迟检索，物品 cache 用相似度感知分片；再用 affinity 全局调度 + selective attention 修正近似误差。

2.4 量化与压缩

OneRec-V2（快手）提供FP8 后训练量化框架用于生成式推荐推理。GenRec（京东）的不对称线性 Token Merger 在 prompt 端压缩多 token 语义ID、保留全分辨率解码，输入长度减 ~2X 精度无损。AsymRec 识别出双阶段信息瓶颈：Input Bottleneck（量化损失+流行度偏见偏向高频item）+ Output Bottleneck（离散目标不精确），用多专家投影+多面层次量化解耦。

2.5 Scaling Law 与大规模经验

GenRec（京东，SIGIR 2026）实证了 GR 的 scaling law 并大规模部署。Towards Generalizable & Efficient Large-Scale GR 给出从 2M → 1B backbone（不含 embedding/decoding）的工业 scaling 经验：发现任务依赖的 scaling 行为——部分任务接近经验天花板，部分持续受益，建议用 offset scaling-law fit 作诊断。生产约束包括：万亿 token 频繁重训、cached serving 使 next-token 目标变 stale、新 item 冷启动。解法：multi-token prediction 对齐 serving latency、sampled softmax + projected decoding head 高效重训、semantic item tower + collab embedding masking 冷启动。

GR 模型虽享有 scaling 优势，但推理能力难以激活——因为无法构造仅由 itemic token 组成的有意义 CoT 序列。2026 年多条路径尝试把 LLM 的"think before answer"范式移植到推荐。

3.1 OneReason：感知 + 认知双因素（快手）

OneReason（快手 OneRec team）是这一方向的旗舰。它从多模态 LLM 的 CoT 鲁棒性研究获得启发，提出有效推荐推理依赖两因素：perception（将 itemic token grounding 到底层语言语义）+ cognition（将用户行为序列重组为连贯的潜在兴趣点）。三阶段训练：预训练强 itemic token 感知 → SFT 三级认知增强 CoT → RL 的 specialize-then-unify。

3.2 RL 的可信奖励问题

AdaGRPO（京东）指出 RL 用于 GR 的关键隐患：生产 ranker（常用作 reward model）训练于曝光偏差日志，存在样本相关的不准确性。分层分析发现：reward 指导仅在 policy 不确定且 ranker 能区分 ground-truth 与 rollout 负样本时有益，否则可忽略甚至有害。因此提出选择性准入而非均匀压力——GRPO 目标由 policy-side 难度与 reward 可判别性两个 rollout 诊断门控。

3.3 其他推理增强

SAPO（Step-Aligned Policy Optimization）针对推理式 GR；HoloRec 提出内生 CoT（多粒度嵌套残差量化 + holistic reconstruction loss），支持 non-thinking/thinking 双模式；TwiSTAR 做"Think Fast, Think Slow, Then Act"的自适应快慢推理——不同用户历史用不同推理策略，而非一刀切。

扩散模型是生成式推荐的另一支主干——用去噪过程生成推荐。2026 年的核心进展是时间感知与偏好解耦。

TDPM 指出现有扩散式 GR 对历史所有物品均匀扩散，但用户偏好由时间演化的多因素塑造、呈非平稳分布。它把时间感知扩散作用于 SID token，将偏好解耦为：period preference（长时段一致）+ point preference（近期焦点事件触发）。

Dual-Diffusional Generative Fashion Recommendation 针对时尚场景，用双扩散处理隐式视觉 embedding 中的偏好无关信息。Gated Bidirectional Linear Attention 则解决扩散/生成式检索中长用户历史的编码效率——活跃用户历史随时间极长，线性注意力是关键。

走向"通用推荐"是另一条主线——一个预训练 backbone 服务多场景多任务，类似 NLP 的基础模型。

TokenMinds（Google/YouTube）是工业级代表：扩展 PLUM 框架从物品检索到用户建模，用 encoder-decoder 同时生成离散 SID 用户 token 与稠密 embedding。共享 SID 词汇实现跨场景建模（统一长/短视频行为到单模型，大幅降训练 serving 成本）。部署于多个 YouTube surface，服务十亿级全量用户，异步基础设施解耦表示生成与下游打分。

SRPFN 用合成先验预训练单一序列推荐模型，使其跨多个数据集泛化而无需重训——直指现有模型"参数绑定于特定 item 目录与交互分布"的迁移瓶颈。ShopX 则面向 Agentic Shopping，提出 Intent-to-Item Fulfillment 的基础模型，指出"用 LLM 包裹现有搜索/推荐管线"会把复杂意图挤过窄带检索。

下表汇总 2026 年主要工业 GR 工作的可溯源指标（A/B 增益、规模、效率）：

注：OneRec-V2 FP8 量化的 "49%" 指标含义待进一步溯源确认（X 帖摘要未完整）。工业 A/B 增益均来自论文原文 online experiment。

随着 GR 走向生产，其"类 LLM"结构也继承了新风险，2026 年涌现一批诊断与治理工作。

• 信息茧房：Do GR Deepen the Information Cocoon? 用 LLM 驱动的用户模拟器做闭环仿真，研究 GR 是否比传统序列推荐更强化信息茧房。
• 流行度偏见：Echoes in Filter Bubble 诊断并治疗 GR 的 popularity bias——GR 的统一端到端框架虽潜力巨大，但仍易受长存偏见影响。AsymRec 也从量化角度指出流行度偏见偏向高频 item。
• 网页内容污染：One Polluted Page Is Enough 评估搜索增强 GR 消费污染网页内容（假评论、促销页）的风险——"一页污染就够"。
• 记忆行为：On the Memorization Behavior of LLMs in GR 观察 LLM-GR 的记忆行为并提出训练策略——LLM 预训练知识是否能真正泛化超越传统记忆模式。
• 概念擦除/隐私：前述 TRACER 通过 Token 重分配实现概念擦除，是 GR 特有的安全维度。
• 冷启动可复现性：Cold-Starts in GR 在统一冷启动协议下做系统可复现性研究。

最激进的方向是把推荐与内容生成统一——不再从固定池中匹配，而是按需生成个性化内容。

RaG (Recommendation as Generation)（短视频平台）是代表：通过共享 SID 把视频表示解耦为内容语义与创意风格语义，既支持细粒度用户兴趣建模，又支持可控生成。Video Generation Agents(VGAs) 做层次规划与精炼（视觉构图/音频对齐/艺术效果）。跨域协同 reward 联合约束兴趣对齐、用户反馈与视频质量。部署于 4 亿+ DAU 平台，广告收入 +1.87%（vs 强 production GRM baseline）。

SynGR 释放跨模态协同潜力，为生成提供更丰富的 token 级证据。RAGR 用评论增强生成式推荐。Structuring/Tokenizing Distributed User Interest 研究分布式用户兴趣上下文的结构化 tokenization。Gryphon（Yandex 风格工业工作）统一 SID 生成与 item 级打分，解决 beam search 仅优化 token 序列似然而非物品级相关性的问题。

综合 2026 年研究，生成式推荐对 AI 系统与芯片设计提出五点明确诉求：

1. Jagged/不规则稀疏是第一性问题。TurboGR 证明推荐负载的变长、不规则稀疏 gather/scatter 与 NPU/GPU 的 dense 矩阵范式严重失配（inter-device imbalance 高达 47%）。下一代推荐加速器需原生支持 irregular sparse 与变长序列，而非仅靠软件融合算子修补。
2. KV-Cache 需 block 级非连续复用。RcLLM 显示推荐场景的复用是跨用户/物品的非连续 block，与对话的连续前缀截然不同。芯片级 KV-Cache 管理应支持细粒度 block 寻址、分布式分层存储与相似度感知分片，TTFT 可降 9.51×。
3. 自回归 beam 解码是推理瓶颈，但可被结构性简化。SID-MLP 指出首 token 后预测难度骤降，attention 高度冗余——MLP 蒸馏可加速 8.74×；LASAR 的 latent reasoning 快 20×。这暗示推荐推理不需要全自回归的重量级 attention，混合架构（首层重、后续轻）或 latent 路径是高效方向。
4. 低精度量化已落地。OneRec-V2 用 FP8 后训练量化生产部署，TurboGR 用 jaggedness-aware FP16。芯片需支持 FP8/INT8 混合精度，且量化策略要适配推荐的 jagged 特性（而非均匀量化）。
5. Scaling 走向 1B+ backbone + 万亿 token 重训。大规模 GR 的频繁重训使训练效率与 decoding 效率同等重要——multi-token prediction 对齐 serving latency、sampled softmax + projected decoding head 是当前最优解。芯片需平衡训练吞吐与低延迟推理双负载。

1. 范式统一加速：召回/粗排/精排的级联正在被单一生成模型取代（OneRec 已验证 watch time +1.6%）。2026 年是工业级 GR 的"规模化元年"。
2. Tokenizer 成为新战场：瓶颈从 Transformer 转向 SID tokenizer（CapsID/Discrimination=Generation），软路由、变长、个性化感知的 tokenizer 是下一阶段关键。
3. 推理增强 + RL 是质量天花板的关键：OneReason/AdaGRPO/SAPO 表明，纯监督的 GR 触顶后，"感知+认知"双因素与可信 RL 奖励是突破方向。
4. 效率优化形成独立子领域：训练系统(TurboGR)、推理蒸馏(SID-MLP)、KV-Cache(RcLLM)、量化(OneRec-V2)、latent reasoning(LASAR) 全栈展开，已成为论文高产方向。
5. 推荐与生成融合：RaG(4亿DAU) 预示"推荐即生成"——按需生成个性化内容而非从固定池匹配，可能重塑短视频/广告形态。
6. 安全/偏见/隐私新兴：TRACER 概念擦除、信息茧房仿真、网页污染评估等表明 GR 的"类 LLM"结构带来新风险类别，治理研究刚起步。

本报告遵循"先写 prompt → 调研 → 改进 prompt → 深化调研"流程（两轮迭代）。

• 数据源：arXiv API（"generative recommendation" 检索 578 条，取最新 40 条 + id_list 批量精读 14 篇）；X(Twitter)（经 Google site:x.com 检索 10 条 OneRec 系列帖）；Google（9 项高价值资源含综述/Workshop/工业博客/GitHub）。
• 时间范围：聚焦 2026 年（部分 2025 奠基工作如 OneRec 原版作为脉络）。
• 关键过程持久化（raw_data/）：arxiv_papers_core.md(30篇分类)、key_papers_deep.md(8篇深读)、system_papers_deep.md(6篇系统深读)、efficiency_papers.md(效率专题)、x_discussions.md(X讨论)、google_results.md(Google资源)、arxiv_query1_full.json(原始JSON)。
• prompts/：prompt_v1.md、prompt_v2.md。

说明：arXiv 编号采用 YYMM.NNNNN 格式（如 2606.14260 = 2026年6月）。所有指标与引用均来自论文原文或 X 帖原文，可点击溯源链接核验。

核心论文（arXiv，2026）

X(Twitter) 帖子

OneRec原版 · OneRec-V2 · OneRec-V2 FP8量化 · OneRec-Think · OpenOneRec · OneReason · 智东西OneReason报道 · rohanpaul 39页解读

Google 资源

综述: A survey on generative recommendation · GenAIRecP 2026 Workshop · Awesome-Item-ID-Gen-RecSys(GitHub) · Yang Pei: Efficient Training, Latency, ID Management · FORGE