KRR在光滑函数类上达到最优误差率，但对噪声敏感性不满足正则性要求。

When Kernel Ridge Regression Meets the Hölder-Zygmund Class: Minimax Optimality and Failure of Properness

• 用等效于Sobolev空间的RKHS分析非参数回归
• 误差率达到理论最优 n^{-2s/(2s+d)}
• 即使零函数时噪声项仍随 log n 增长，破坏正则性

研究核岭回归在霍尔德-齐格蒙德函数类上的非参数回归性能。通过使用等价于光滑度为 s+d/2 的Sobolev空间的再生核Hilbert空间（RKHS），证明了模型误设下的KRR能达到最小最大L2误差率 n^{-2s/(2s+d)}。同时发现，在霍尔德-齐格蒙德范数下正则性不成立：即使真实回归函数为零且存在高斯噪声，KRR的噪声部分的期望平方霍尔德-齐格蒙德范数仍以 log n 的速度增长。

原文摘要 · Abstract (English)

We study kernel ridge regression for nonparametric regression over the Hölder-Zygmund class. Using an RKHS equivalent to a Sobolev space of smoothness s+d/2, we prove that misspecified KRR attains the minimax L2 rate n^{-2s/(2s+d)}. We also show that properness fails in the Hölder-Zygmund norm: even for the zero regression function with Gaussian noise, the expected squared Hölder-Zygmund norm of the KRR noise component grows as log n.

Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品；中文卡片由大模型生成，请以原文为准。