揭示自编码器在数据流形上的拓扑限制与能力边界
Autoencoding Dynamics: Topological Limitations and Capabilities
- 从拓扑角度分析自编码器的编码解码映射约束
- 证明在某些流形上无法实现完美重建
- 适用于具有不变流形的动力系统建模
给定数据流形 $M\subset \mathbb{R}^n$ 和隐空间 $\mathbb{R}^\ell$，自编码器由连续映射对组成：编码器 $E\colon \mathbb{R}^n\to \mathbb{R}^\ell$ 与解码器 $D\colon \mathbb{R}^\ell\to \mathbb{R}^n$，要求其“往返”映射 $D\circ E$ 尽可能接近 $M$ 上的恒等映射 $\mbox{id}_M$。本文揭示了自编码器搜索过程中的多种拓扑限制与能力，描述了在 $M$ 为不变流形的动力系统中进行自编码的可行性与边界。
原文摘要 · Abstract (English)
Given a "data manifold" $M\subset \mathbb{R}^n$ and "latent space" $\mathbb{R}^\ell$, an autoencoder is a pair of continuous maps consisting of an "encoder" $E\colon \mathbb{R}^n\to \mathbb{R}^\ell$ and "decoder" $D\colon \mathbb{R}^\ell\to \mathbb{R}^n$ such that the "round trip" map $D\circ E$ is as close as possible to the identity map $\mbox{id}_M$ on $M$. We present various topological limitations and capabilites inherent to the search for an autoencoder, and describe capabilities for autoencoding dynamical systems having $M$ as an invariant manifold.
Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品；中文卡片由大模型生成，请以原文为准。