法律AI易生成虚假信息，需用可追溯的咨询型模式替代盲目生成。
Inteligencia Artificial jurídica y el desafío de la veracidad: análisis de alucinaciones, optimización de RAG y principios para una integración responsable
- 提出咨询式AI框架，强调 veracity 与 traceability
- 指出RAG虽能缓解幻觉但有根本性局限
- 适合法律从业者与AI伦理研究者参考
本技术报告分析了大型语言模型在法律领域应用中出现的‘幻觉’（虚假信息）问题。研究探讨了其成因、表现形式及RAG（检索增强生成）策略的缓解效果，揭示该方法存在根本性局限，并提出整体优化方案。文章还讨论了相关的伦理与监管影响，强调人类监督不可替代。结论认为，解决之道不在于逐步改进生成模型，而应采用‘咨询式’AI范式，优先保障信息真实性和可追溯性，使AI成为辅助而非取代专业判断的工具。
原文摘要 · Abstract (English)
This technical report analyzes the challenge of "hallucinations" (false information) in LLMs applied to law. It examines their causes, manifestations, and the effectiveness of the RAG mitigation strategy, highlighting its limitations and proposing holistic optimizations. The paper explores the ethical and regulatory implications, emphasizing human oversight as an irreplaceable role. It concludes that the solution lies not in incrementally improving generative models, but in adopting a "consultative" AI paradigm that prioritizes veracity and traceability, acting as a tool to amplify, not replace, professional judgment. -- Este informe técnico analiza el desafío de las "alucinaciones" (información falsa) en los LLMs aplicados al derecho. Se examinan sus causas, manifestaciones y la efectividad de la estrategia de mitigación RAG, exponiendo sus limitaciones y proponiendo optimizaciones holísticas. Se exploran las implicaciones éticas y regulatorias, enfatizando la supervisión humana como un rol insustituible. El documento concluye que la solución no reside en mejorar incrementalmente los modelos generativos, sino en adoptar un paradigma de IA "consultiva" que priorice la veracidad y la trazabilidad, actuando como una herramienta para amplificar, y no sustituir, el juicio profesional.
Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品；中文卡片由大模型生成，请以原文为准。