通过低秩结构压缩神经网络，加速物理信息神经网络求解。
FastLRNR and Sparse Physics Informed Backpropagation
- 利用低秩结构构建更小的近似网络，实现高效反向传播。
- 在求解参数化偏微分方程时，计算复杂度显著降低。
- 适合需要快速求解物理方程的科学计算场景。
我们提出了一种新的方法——稀疏物理信息反向传播（SPInProp），用于加速一种名为低秩神经表示（LRNR）的特殊神经网络架构的反向传播过程。该方法利用LRNR中的低秩特性，构建了一个尺寸大幅缩减的近似神经网络，称为FastLRNR。我们证明了用FastLRNR的反向传播替代原始LRNR的反向传播是可行的，从而实现了复杂度的显著降低。我们将SPInProp应用于物理信息神经网络框架，展示了其在加速参数化偏微分方程求解方面的有效性。
原文摘要 · Abstract (English)
We introduce Sparse Physics Informed Backpropagation (SPInProp), a new class of methods for accelerating backpropagation for a specialized neural network architecture called Low Rank Neural Representation (LRNR). The approach exploits the low rank structure within LRNR and constructs a reduced neural network approximation that is much smaller in size. We call the smaller network FastLRNR. We show that backpropagation of FastLRNR can be substituted for that of LRNR, enabling a significant reduction in complexity. We apply SPInProp to a physics informed neural networks framework and demonstrate how the solution of parametrized partial differential equations is accelerated.
Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品；中文卡片由大模型生成，请以原文为准。