arXiv:2412.08360cs.HCcs.AI2024-12
让文字类AI助手从工具变为主动决策的有道德角色
Agency and Morality as part of Text Entry AI Assistant Personas
- 提出基于价值理性的智能体人格设计框架
- 分析了人机通信中的道德维度并给出设计准则
- 适合关注AI伦理与交互体验的研究者
本文探讨了将文字生成类AI助手从用户直接控制的工具性角色，转向基于价值理性的主动性角色的必要性。通过对计算机中介沟通中AI辅助的道德维度进行分析，本文提出了设计智能体人格的基本指导原则，强调在人机交互中引入道德考量与自主决策能力的重要性。
原文摘要 · Abstract (English)
This paper discusses the need to move away from an instrumental view of text composition AI assistants under direct control of the user, towards a more agentic approach that is based on a value rationale. Based on an analysis of moral dimensions of AI assistance in computer mediated communication, the paper proposes basic guidelines for designing the agent's persona.
AI人格道德计算人机交互
Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品；中文卡片由大模型生成，请以原文为准。