用核方法替代神经网络训练，实现无需反向传播的生成建模
Generative Modeling via Kernelized Stochastic Interpolants
- 基于核函数构建随机插值模型，通过求解线性系统生成数据
- 在金融时间序列、湍流和图像生成任务中均达到良好质量
- 兼容预训练模型与多种特征映射，适合不想调参的研究者
我们提出一种基于核方法的生成建模框架，将传统的神经网络训练替换为可由数据直接计算的线性系统。生成SDE的漂移项为 $ ablaϕ(x)^ opη_t$，其中 $η_t ∈ ℝ^P$ 由一个 $P imes P$ 的线性系统确定，$P$ 与数据维度 $d$ 无关。由于估计不精确，扩散系数 $D_t$ 影响样本质量；最优 $D_t^*$ 在 $t=0$ 处趋于无穷，但可通过专门设计的积分器无缝处理。该框架可适配多种特征映射，如散射变换、预训练生成模型等，实现生成与模型融合而无需神经网络训练。我们在金融时间序列、湍流模拟和图像生成任务上验证了该方法的有效性。
原文摘要 · Abstract (English)
We develop a kernel method for generative modeling within the stochastic interpolant framework, replacing neural network training with linear systems. The drift of the generative SDE is $\hat b_t(x) = \nablaϕ(x)^\topη_t$, where $η_t \in \mathbb{R}^P$ solves a $P\times P$ system computable from data, with $P$ independent of the data dimension $d$. Since estimates are inexact, the diffusion coefficient $D_t$ affects sample quality; the optimal $D_t^*$ from Girsanov diverges at $t=0$, but this poses no difficulty and we develop an integrator that handles it seamlessly. The framework accommodates diverse feature maps: scattering transforms, pretrained generative models, etc, enabling generation and model combination without neural network training. We demonstrate the approach on financial time series, turbulence, and image generation.
Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品；中文卡片由大模型生成，请以原文为准。