用符号回归方法解析复杂分布,让模型自动发现数学表达式。
Symbolic Density Estimation: A Decompositional Approach
- 分阶段处理:先聚类/学图结构,再非参数估计密度与支撑集。
- 在混合分布、多元正态及高能物理中的奇异分布上准确复现数学形式。
- 适合需要可解释性建模的科研人员,尤其高能物理与理论建模场景。
我们提出 AI-Kolmogorov,一种用于符号密度估计(SymDE)的新框架。符号回归(SR)在标准回归任务中已成功生成可解释模型,但在密度估计领域应用极少。为解决 SymDE 问题,我们设计多阶段流程:(i) 通过聚类和/或概率图模型结构学习进行问题分解;(ii) 非参数密度估计;(iii) 支撑集估计;(iv) 对密度估计结果进行符号回归。我们在合成混合模型、多元正态分布及三种奇异分布上验证了该方法的有效性,其中两个奇异分布源自高能物理应用。结果表明,AI-Kolmogorov 能发现潜在分布的数学表达式,或提供对描述其规律的公式的重要洞见。
原文摘要 · Abstract (English)
We introduce AI-Kolmogorov, a novel framework for Symbolic Density Estimation (SymDE). Symbolic regression (SR) has been effectively used to produce interpretable models in standard regression settings but its applicability to density estimation tasks has largely been unexplored. To address the SymDE task we introduce a multi-stage pipeline: (i) problem decomposition through clustering and/or probabilistic graphical model structure learning; (ii) nonparametric density estimation; (iii) support estimation; and finally (iv) SR on the density estimate. We demonstrate the efficacy of AI-Kolmogorov on synthetic mixture models, multivariate normal distributions, and three exotic distributions, two of which are motivated by applications in high-energy physics. We show that AI-Kolmogorov can discover underlying distributions or otherwise provide valuable insight into the mathematical expressions describing them.
Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品;中文卡片由大模型生成,请以原文为准。