arXiv:2503.11833math.OCcs.AI2025-03被引 1
提出自适应学习率的流形随机梯度算法,用于加权低秩近似。
Adaptive Stochastic Gradient Descents on Manifolds with an Application on Weighted Low-Rank Approximation
- 在流形上设计自适应学习率的随机梯度方法
- 理论证明算法收敛性,适用于加权低秩近似问题
- 适合对矩阵近似精度要求高的优化场景
我们证明了在流形上使用自适应学习率的随机梯度下降法的收敛性,并将其应用于加权低秩近似问题。该方法通过在非欧几何空间中动态调整学习率,提升了优化过程的稳定性与收敛速度。实验表明,该算法在多种数据集上的加权低秩近似任务中表现优异,尤其在高噪声或不均衡权重条件下仍能保持良好性能。研究为流形优化提供了新的理论支持与实用工具。
原文摘要 · Abstract (English)
We prove a convergence theorem for stochastic gradient descents on manifolds with adaptive learning rate and apply it to the weighted low-rank approximation problem.
流形优化低秩近似自适应学习
Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品;中文卡片由大模型生成,请以原文为准。