无需知晓缩放维度,仍能实现最优批量复杂度的自适应算法。
Dimension-Adaptive Batched Lipschitz Narrowing Without Knowing the Zooming Dimension
- 根据存活立方体数量动态选择边长,摆脱对缩放维度依赖。
- 在未知缩放维度时,仍达到理论最优的 $\widetilde{\mathcal O}_d(T^{(d_z+1)/(d_z+2)})$ 误差。
- 适用于高维优化中无法预知关键维度的场景,如自适应网格搜索。
A-BLiN 中的恰当组合边长序列依赖于缩放维度 $d_z$。本文通过从前一阶段幸存的立方体数量中选择下一阶段边长,提出了无需依赖 $d_z$ 或缩放常数 $C_z$ 的计数自适应 BLiN 算法。该算法在未知 $d_z$ 时仍可实现 $\widetilde{\mathcal O}_d(T^{(d_z+1)/(d_z+2)})$ 的遗憾,并保持 $\mathcal O_d(\log\log T)$ 的批次复杂度。结合原论文定理 10 的自适应网格下界,当 $d_z$ 未知时,最优批次复杂度仍为 $\Theta_d(\log\log T)$。
原文摘要 · Abstract (English)
The Appropriately Combined Edge-length (ACE) sequence in A-BLiN depends on the zooming dimension $d_z$. This note removes that dependence. The next edge length is selected from the number of cubes that survive the preceding elimination. The resulting Count-Adaptive BLiN algorithm does not use $d_z$ or the zooming constant $C_z$, yet it attains $\widetilde{\mathcal O}_d(T^{(d_z+1)/(d_z+2)})$ regret with $\mathcal O_d(\log\log T)$ batches. Together with the adaptive-grid lower bound in Theorem 10 of the original paper, the optimal batch complexity remains $\Theta_d(\log\log T)$ when $d_z$ is unknown.
Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品;中文卡片由大模型生成,请以原文为准。