让语言模型先在隐空间迭代优化再生成文本，提升长文本生成质量。
VDLM: Variable Diffusion LMs via Robust Latent-to-Text Rendering
- 用隐变量扩散实现语义规划与文本生成分离，支持多轮修正。
- 在9个基准上显著提升长文本生成效果，优于现有方法。
- 适合需要高精度、可修订生成的复杂任务，如数学推理和代码生成。
自回归语言模型逐词生成且不可逆，限制了多步推理中的修改能力。我们提出 extbf{VDLM}，一种模块化可变扩散语言模型，将语义规划与文本渲染分离。VDLM 在语义变量嵌入上应用类似 LLaDA 的掩码扩散，实现在隐空间中的迭代优化；随后通过轨迹感知优化对规划器进行后训练，利用嵌入空间的奖励与价值函数，避免强化学习循环中解码文本。为将规划后的嵌入还原为文本，我们采用 extbf{Vec2Text} 渲染器，并引入 extbf{嵌入扰动} 以增强对规划噪声的鲁棒性。在涵盖通用推理、数学与代码的九个基准上，VDLM 在预训练基础上表现优异，且在长文本生成任务中取得显著后训练提升，超越其他基线。结果表明，嵌入空间后训练与鲁棒的隐空间到文本渲染在扩散语言建模中极为有效。
原文摘要 · Abstract (English)
Autoregressive language models decode left-to-right with irreversible commitments, limiting revision during multi-step reasoning. We propose \textbf{VDLM}, a modular variable diffusion language model that separates semantic planning from text rendering. VDLM applies LLaDA-style masked diffusion over semantic variable embeddings to enable iterative refinement in latent space, then post-trains the planner with trajectory-aware optimization using embedding-space rewards and values, avoiding text decoding inside the RL loop. To convert planned embeddings back to text, we use a \textbf{Vec2Text} renderer and introduce \textbf{embedding perturbations} to robustify decoding under planner noise. Across nine benchmarks spanning general reasoning, math, and code, VDLM is competitive in pre-training and yields substantial post-training improvements on long-form generation tasks, outperforming other baselines. These results highlight the effectiveness of embedding-space post-training and robust latent-to-text rendering for diffusion language modeling.
Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品；中文卡片由大模型生成，请以原文为准。