递归训练生成模型时，是否引入外部数据决定分布是否会坍缩。

A theoretical basis for model collapse in recursive training

• 区分有无外部样本输入时的两种渐近行为
• 即使外部样本占比极小，也能防止分布坍缩
• 为理解生成模型长期迭代稳定性提供理论基础

已知从生成模型中进行递归训练可能导致模拟概率分布的‘坍缩’。本文表明，实际上会表现出两种不同的渐近行为，取决于是否存在哪怕极其微弱的外部样本源。若存在外部输入，分布将保持稳定；否则将趋向于坍缩。该结果揭示了外部数据在维持生成模型多样性中的关键作用，为理解递归训练下的长期演化提供了理论依据。

原文摘要 · Abstract (English)

It is known that recursive training from generative models can lead to the so called `collapse' of the simulated probability distribution. This note shows that one in fact gets two different asymptotic behaviours depending on whether an external source, howsoever minor, is also contributing samples.

Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品；中文卡片由大模型生成，请以原文为准。