arXiv:2504.20854cs.NIcs.AI2025-04被引 4

用普通电脑模拟真实网络,测试大规模模型训练性能。

Towards Easy and Realistic Network Infrastructure Testing for Large-scale Machine Learning

论文配图:Towards Easy and Realistic Network Infrastructure Testing for Large-scale Machine Learning
图 1 · 摘自论文原文
  • 用CPU模拟GPU间通信,低成本复现真实网络影响。
  • 结合ASTRA-sim仿真,精准建模网络与训练任务交互。
  • 适合做分布式训练优化的工程师和研究人员。

本文提出Genie测试框架,旨在在不依赖昂贵GPU的情况下,捕捉真实硬件网络行为对机器学习工作负载性能的影响。Genie通过在硬件测试平台使用CPU发起流量,模拟GPU之间的通信,并利用ASTRA-sim仿真器建模网络与机器学习工作负载之间的相互作用,从而实现高效、贴近现实的大规模机器学习系统测试。

原文摘要 · Abstract (English)

This paper lays the foundation for Genie, a testing framework that captures the impact of real hardware network behavior on ML workload performance, without requiring expensive GPUs. Genie uses CPU-initiated traffic over a hardware testbed to emulate GPU to GPU communication, and adapts the ASTRA-sim simulator to model interaction between the network and the ML workload.

测试框架网络仿真分布式训练

Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品;中文卡片由大模型生成,请以原文为准。