揭示大模型在复杂任务中幻觉频发的根本原因

Hallucination Stations: On Some Basic Limitations of Transformer-Based Language Models

• 从计算复杂性角度分析大模型幻觉成因
• 超过一定复杂度后模型无法完成任务或验证结果
• 适合关注模型可靠性与边界的研究者

本文从计算复杂性的角度探讨大语言模型及基于大模型的智能体在幻觉及相关能力限制方面的问题。研究发现，当任务复杂度超过某一临界值时，大语言模型无法执行计算性或代理类任务，也无法验证自身输出的准确性。这一现象揭示了当前主流架构在处理高复杂度推理时的根本性局限。

原文摘要 · Abstract (English)

In this paper we explore hallucinations and related capability limitations in LLMs and LLM-based agents from the perspective of computational complexity. We show that beyond a certain complexity, LLMs are incapable of carrying out computational and agentic tasks or verifying their accuracy.

Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品；中文卡片由大模型生成，请以原文为准。