证明了深度置信网络可精确表示任意正概率分布。

Deep belief networks are exact

• 用布劳威尔不动点定理将近似表示升级为精确表达
• 任意{-1,1}^n上的正概率分布均可被有限参数网络精确建模
• 对深度置信网络的理论性质有根本性突破，适合理论研究者

我们证明了所有定义在 \\-1,1\ ^n 上的严格正概率分布，均可由具有有限参数的逻辑门信念网络精确表示。这一结果回答了苏茨克弗和辛顿提出的问题。证明通过将他们提出的概率共享近似方法，利用布劳威尔不动点定理升级为精确表示。

原文摘要 · Abstract (English)

We prove that every strictly positive probability distribution on \(\{-1,1\}^n\) is represented exactly by a sigmoid belief network with finite parameters. This answers a question of Sutskever and Hinton. The proof upgrades their probability-sharing approximation to exact representation using Brouwer's fixed-point theorem.

Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品；中文卡片由大模型生成，请以原文为准。