arXiv:2511.08552cs.LGcs.IT2025-11被引 3
用流模型转换分布来估算互信息，更高效精准。
FMMI: Flow Matching Mutual Information Estimation
- 用归一化流将联合分布转为边缘分布
- 在高维和多种真实互信息值下表现稳定
- 适合需要精确互信息估计的研究者
我们提出一种全新的互信息（MI）估计方法，从根本上改变了传统的判别式思路。不再训练分类器来区分联合分布与边缘分布，而是学习一个归一化流，将其中一种分布变换为另一种。该方法能实现计算高效且精确的互信息估计，适用于高维数据，并在多种真实互信息值条件下表现出良好扩展性。
原文摘要 · Abstract (English)
We introduce a novel Mutual Information (MI) estimator that fundamentally reframes the discriminative approach. Instead of training a classifier to discriminate between joint and marginal distributions, we learn a normalizing flow that transforms one into the other. This technique produces a computationally efficient and precise MI estimate that scales well to high dimensions and across a wide range of ground-truth MI values.
互信息归一化流高维
Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品；中文卡片由大模型生成，请以原文为准。