arXiv:2604.18202math.DScs.LG2026-04

提出沿定点流形的映射中心流形定理,用于分析大步长梯度下降。

Centre manifold theorem for maps along manifolds of fixed points

  • 基于定点流形边界构造映射的中心流形
  • 揭示大步长梯度下降在矩阵分解中的收敛行为
  • 适合研究优化动力学与非线性系统者阅读

我们证明了沿带边定点流形的映射的中心流形定理,并将其应用于两层矩阵分解问题中大步长梯度下降的分析。该定理为理解复杂优化过程中的低维动态提供了理论支持,特别适用于分析非平凡收敛轨迹和不稳定解附近的行为。结果表明,在大步长条件下,迭代路径可被限制在低维中心流形上,从而简化对优化行为的预测。本工作为深入理解深度学习优化器在非凸场景下的动态提供了新视角。

原文摘要 · Abstract (English)

We prove a centre manifold theorem for a map along a manifold-with-boundary of fixed points, and provide an application to the study of gradient descent with large step size on two-layer matrix factorisation problems.

非线性系统优化理论中心流形

Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品;中文卡片由大模型生成,请以原文为准。