用瓦瑟斯坦距离可在多项式时间内近似估计分布的均值和方差。
Mean and Variance Estimation Complexity in Arbitrary Distributions via Wasserstein Minimization
- 通过最小化瓦瑟斯坦距离，实现对分布参数的高效近似估计。
- 在任意精度ε下，计算时间仅需多项式级，与1/ε相关。
- 适合需要快速可靠参数估计的研究者，尤其在高维场景中优势明显。
参数估计是机器学习中的基础挑战，对神经网络权重拟合和贝叶斯推断等任务至关重要。本文研究了对形如 $\frac{1}{σ^l} f_0 \left( \frac{\boldsymbol{x} - \boldsymbolμ}{σ} \right)$ 的分布，从 $n$ 个样本中估计平移参数 $\boldsymbolμ \in \mathbb{R}^l$ 与缩放参数 $σ \in \mathbb{R}_{++}$ 的复杂度。尽管最大似然估计（MLE）在此问题上为 NP-hard，但利用瓦瑟斯坦距离可实现任意 $\varepsilon > 0$ 的 $\varepsilon$-近似解，且计算时间仅为 $\text{poly} \left( \frac{1}{\varepsilon} \right)$。
原文摘要 · Abstract (English)
Parameter estimation is a fundamental challenge in machine learning, crucial for tasks such as neural network weight fitting and Bayesian inference. This paper focuses on the complexity of estimating translation $\boldsymbolμ \in \mathbb{R}^l$ and shrinkage $σ\in \mathbb{R}_{++}$ parameters for a distribution of the form $\frac{1}{σ^l} f_0 \left( \frac{\boldsymbol{x} - \boldsymbolμ}σ \right)$, where $f_0$ is a known density in $\mathbb{R}^l$ given $n$ samples. We highlight that while the problem is NP-hard for Maximum Likelihood Estimation (MLE), it is possible to obtain $\varepsilon$-approximations for arbitrary $\varepsilon > 0$ within $\text{poly} \left( \frac{1}{\varepsilon} \right)$ time using the Wasserstein distance.
Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品；中文卡片由大模型生成，请以原文为准。