详解三种核差异度量及其高效估算方法，助你选对核函数。
A Practical Introduction to Kernel Discrepancies: MMD, HSIC & KSD
- 用核方法衡量分布/变量间差异，支持多种统计估计器。
- 揭示核带宽选择对结果影响，提出自适应多核融合策略。
- 适合机器学习中分布比较、独立性检验的研究者参考。
本文系统介绍核差异度量，重点涵盖最大均值差异（MMD）、希尔伯特-施密特独立性准则（HSIC）和核斯坦差异（KSD）。文章介绍了这些度量的多种估算方法，包括常用的V统计量和U统计量，以及更高效的不完全U统计量。特别强调了核带宽选择的重要性，展示了其对差异估计行为的影响。同时引入自适应估计器，通过组合多个使用不同核的估计器，解决核函数选择难题。
原文摘要 · Abstract (English)
This article provides a practical introduction to kernel discrepancies, focusing on the Maximum Mean Discrepancy (MMD), the Hilbert-Schmidt Independence Criterion (HSIC), and the Kernel Stein Discrepancy (KSD). Various estimators for these discrepancies are presented, including the commonly-used V-statistics and U-statistics, as well as several forms of the more computationally-efficient incomplete U-statistics. The importance of the choice of kernel bandwidth is stressed, showing how it affects the behaviour of the discrepancy estimation. Adaptive estimators are introduced, which combine multiple estimators with various kernels, addressing the problem of kernel selection.
Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品；中文卡片由大模型生成，请以原文为准。