arXiv:2412.01373cs.LGstat.ML2024-12被引 8

用扩散模型改进深层变分自编码器的先验,提升生成效果和训练稳定性。

Hierarchical VAE with a Diffusion-based VampPrior

  • 用扩散模型构建可学习的混合后验先验,替代传统固定先验。
  • 在MNIST、OMNIGLOT、CIFAR10上实现更好生成性能,参数更少。
  • 适合研究深层生成模型与稳定训练方法的学者。

深层变分自编码器(VAE)是强大的潜在变量生成模型。本文提出基于扩散模型的分层变分自编码器(Hierarchical VAE with Diffusion-based VampPrior),将变分混合后验先验(VampPrior)通过摊销机制扩展到多层随机结构中。所提方法在标准基准数据集(MNIST、OMNIGLOT、CIFAR10)上验证,相比原始VampPrior及其他深层分层VAE,在使用更少参数的情况下实现了更高性能,同时提升了训练稳定性和潜在空间利用率。

原文摘要 · Abstract (English)

Deep hierarchical variational autoencoders (VAEs) are powerful latent variable generative models. In this paper, we introduce Hierarchical VAE with Diffusion-based Variational Mixture of the Posterior Prior (VampPrior). We apply amortization to scale the VampPrior to models with many stochastic layers. The proposed approach allows us to achieve better performance compared to the original VampPrior work and other deep hierarchical VAEs, while using fewer parameters. We empirically validate our method on standard benchmark datasets (MNIST, OMNIGLOT, CIFAR10) and demonstrate improved training stability and latent space utilization.

生成模型变分自编码器扩散模型深度生成

Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品;中文卡片由大模型生成,请以原文为准。