将推理中的反馈转化为可检索的规则，降低大模型推理成本。
Distilling Feedback into Memory-as-a-Tool
- 用文件式记忆系统存下临时反馈，生成可复用的指导规则。
- 在评分基准测试中，性能接近实时优化方案，推理开销大幅下降。
- 适合需要高效推理的教育类AI应用，如自动评分与反馈系统。
我们提出一种框架，通过基于文件的记忆系统和代理控制的工具调用，将瞬时批评转化为可检索的指导原则，从而分摊推理阶段的计算成本。我们在一个名为Rubric Feedback Bench的新数据集上评估该方法，该数据集专为基于评分标准的学习设计。实验表明，经增强的大型语言模型能迅速达到测试时优化流水线的性能水平，同时显著降低推理开销。
原文摘要 · Abstract (English)
We propose a framework that amortizes the cost of inference-time reasoning by converting transient critiques into retrievable guidelines, through a file-based memory system and agent-controlled tool calls. We evaluate this method on the Rubric Feedback Bench, a novel dataset for rubric-based learning. Experiments demonstrate that our augmented LLMs rapidly match the performance of test-time refinement pipelines while drastically reducing inference cost.
Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品；中文卡片由大模型生成，请以原文为准。