聚焦生成式AI的操纵风险，提出设计导向的研究框架。
Ethics of generative AI and manipulation: a design-oriented research agenda
- 从概念、实证与设计三维度构建操纵风险研究框架。
- 强调需厘清操纵定义以指导技术负责任发展。
- 适合关注AI伦理与安全设计的研究者与开发者。
生成式AI可实现大规模自动化有效操纵。尽管关于生成式AI的伦理讨论日益增多，但具体操纵风险仍缺乏深入研究。本文提出涵盖概念、实证与设计维度的关键问题，对理解并遏制操纵风险至关重要。通过揭示这些问题，文章强调了恰当定义操纵的重要性，以确保生成式AI技术的负责任发展。
原文摘要 · Abstract (English)
Generative AI enables automated, effective manipulation at scale. Despite the growing general ethical discussion around generative AI, the specific manipulation risks remain inadequately investigated. This article outlines essential inquiries encompassing conceptual, empirical, and design dimensions of manipulation, pivotal for comprehending and curbing manipulation risks. By highlighting these questions, the article underscores the necessity of an appropriate conceptualisation of manipulation to ensure the responsible development of Generative AI technologies.
Thank you to arXiv for use of its open access interoperability. PaperDance 不是 arXiv 官方产品；中文卡片由大模型生成，请以原文为准。