arXiv:2410.08361stat.MLcs.LG2024-10
基于马尔可夫链的梯度下降法，适用于希尔伯特空间中的优化问题。
Markov Chain Gradient Descent in Hilbert Spaces
- 在希尔伯特空间中设计马尔可夫链随机梯度算法。
- 给出了收敛速度的概率上界，保证逼近最优解。
- 适用于核空间中的在线正则化学习，样本来自马尔可夫轨迹。
本文研究了一种基于马尔可夫链的随机梯度算法，该算法定义在一般的希尔伯特空间中，旨在逼近二次损失函数的最优解。我们建立了该算法收敛性的概率上界。进一步地，将这些结果推广到再生核希尔伯特空间中的在线正则化学习场景，其中样本沿马尔可夫链轨迹生成。
原文摘要 · Abstract (English)
In this paper, we study a Markov chain-based stochastic gradient algorithm in general Hilbert spaces, aiming at approximating the optimal solution of a quadratic loss function. We establish probabilistic upper bounds on its convergence. We further extend these results to an online regularized learning algorithm in reproducing kernel Hilbert spaces, where the samples are drawn along a Markov chain trajectory.
优化马尔可夫链希尔伯特空间在线学习
Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品；中文卡片由大模型生成，请以原文为准。