为无状态大模型接口设计对话数据架构，解决会话状态管理难题。
Architecting Conversational Data Systems for Stateless LLM APIs: The Hydration Proxy Pattern
- 引入水合代理模式，分离会话持久化与推理引擎
- 实现平台对对话数据的主权控制与多阶段语义锚定
- 提出上下文稳定原则，平衡数据主权与缓存效率
随着企业平台向对话式推理界面演进，大模型API的无状态特性造成了架构缺口。尽管无状态性为AI服务商提供了横向扩展能力，却迫使客户端承担全部会话状态与语义记忆管理责任。本文提出水合代理模式（Hydration Proxy Pattern），将会话持久化与推理引擎解耦。该框架确保平台对对话数据的主权，同时支持安全、多阶段的语义锚定。进一步提出上下文稳定要求（Context Stabilization Mandate），以解决主权状态管理与键值缓存之间的权衡问题。
原文摘要 · Abstract (English)
As enterprise platforms transition to conversational reasoning interfaces, the stateless nature of LLM APIs creates an architectural gap. While statelessness enables horizontal scalability for AI providers, it forces client applications to manage the entire burden of conversational state and semantic memory. The work identifies the Hydration Proxy Pattern, an architecture that decouples session persistence from the reasoning engine. The framework ensures platform sovereignty over conversational data while enabling secure, multi-stage semantic grounding. We further propose the Context Stabilization Mandate to resolve the tradeoff between sovereign state management and KV caching.
Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品；中文卡片由大模型生成，请以原文为准。