arXiv:2507.08843cs.LGcs.AI2025-07中稿 · the 17th Internati…被引 3

用大模型做位置预测,不碰用户数据还能提速省内存。

Can We Predict Your Next Move Without Breaking Your Privacy?

  • 本地保留数据,通过高效外积机制调用大模型
  • 在多个数据集上准确率领先,参数减少45.6%
  • 适合关注隐私与效率的移动行为建模研究者

我们提出FLLL3M——一种基于大语言模型的联邦学习移动建模框架,用于实现隐私保护下的下一位置预测(NxLP)。通过在本地保留用户数据,并利用高效的外积机制调用大语言模型,FLLL3M在保持高精度的同时显著降低资源消耗。该方法在Gowalla(Acc@1: 12.55, MRR: 0.1422)、WeePlace(10.71, 0.1285)、Brightkite(10.42, 0.1169)和FourSquare(8.71, 0.1023)数据集上达到当前最优性能,同时参数量最多减少45.6%,内存使用降低52.7%。

原文摘要 · Abstract (English)

We propose FLLL3M--Federated Learning with Large Language Models for Mobility Modeling--a privacy-preserving framework for Next-Location Prediction (NxLP). By retaining user data locally and leveraging LLMs through an efficient outer product mechanism, FLLL3M ensures high accuracy with low resource demands. It achieves SOT results on Gowalla (Acc@1: 12.55, MRR: 0.1422), WeePlace (10.71, 0.1285), Brightkite (10.42, 0.1169), and FourSquare (8.71, 0.1023), while reducing parameters by up to 45.6% and memory usage by 52.7%.

位置预测联邦学习大模型隐私保护

Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品;中文卡片由大模型生成,请以原文为准。