arXiv:2503.13001cs.LGcs.NE2025-03被引 1

用两层神经网络以线性规模表示二维分段仿射函数,突破凸性限制。

Linear-Size Neural Network Representation of Piecewise Affine Functions in $\mathbb{R}^2$

  • 采用两层ReLU网络,实现分段仿射函数的线性神经网络表示
  • 对包含非凸区域的连续分段函数也能高效建模,参数量仅与片段数成正比
  • 适用于需要精确逼近复杂形状函数的场景,如几何建模或优化

本文证明,任意定义在ℝ²上的连续分段仿射(CPA)函数,若由p个片段构成,则可被一个包含两层隐藏层的ReLU神经网络精确表示,且神经元数量为O(p)。与以往研究仅考虑凸片段不同,本工作拓展至连通但可能非凸的片段结构,显著增强了模型表达能力。该结果揭示了分段仿射函数在神经网络中的紧凑表示潜力。

原文摘要 · Abstract (English)

It is shown that any continuous piecewise affine (CPA) function $\mathbb{R}^2\to\mathbb{R}$ with $p$ pieces can be represented by a ReLU neural network with two hidden layers and $O(p)$ neurons. Unlike prior work, which focused on convex pieces, this analysis considers CPA functions with connected but potentially non-convex pieces.

神经网络分段函数深度学习理论

Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品;中文卡片由大模型生成,请以原文为准。