基于信息寻求心理学的以人为中心可解释AI研究:全新理论框架发布
摘要:本研究提出了一种基于信息寻求心理学的以人为中心可解释AI(HCXAI)新框架,强调用户对AI解释的接受度取决于工具性、享乐性和认知性三种预期效用,并受控制错觉、自动化偏差、不切实际的乐观等认知偏差的影响。研究指出,AI系统应从单纯提供解释转向设计用户主动寻求解释的机制,尤其在处理复杂任务如智能体AI时,解释需支持风险评估、行动预测和干预决策。这一理论框架为AI解释系统的设计提供了新的思路,旨在提升用户对AI的信任与使用效率。
研究背景与动机
近年来,可解释AI(XAI)已成为AI领域的重要研究方向。然而,现有XAI方法多侧重于技术实现,忽略了用户对解释的实际需求和心理因素。本研究借鉴信息寻求心理学理论,提出了一种新的HCXAI框架,旨在解决这一问题。
核心概念
-
三种预期效用
- 工具性效用(Instrumental Utility):解释是否有助于用户做出更好的决策。
- 享乐性效用(Hedonic Utility):解释是否让用户感到更舒适或满意。
- 认知性效用(Cognitive Utility):解释是否提升了用户的理解能力。
-
认知偏差的影响
- 控制错觉(Illusion of Control):用户倾向于高估自己对AI系统的控制力。
- 自动化偏差(Automation Bias):用户过度依赖AI系统,忽视自身判断。
- 不切实际的乐观(Unrealistic Optimism):用户对AI系统的表现抱有过度乐观的预期。
- 确认偏差(Confirmation Bias):用户倾向于寻找支持自身观点的解释。
-
两种失败模式
- 过度信息寻求(Excessive Information-Seeking):用户因过度关注细节而分散注意力,影响决策效率。
- 信息寻求不足(Insufficient Information-Seeking):用户未能充分理解AI系统行为,导致关键风险被忽视。
理论框架的应用
该框架强调,AI系统应设计成能够引导用户主动寻求解释,而非被动提供解释。特别是在处理复杂任务时,AI解释需支持用户对系统行为的全面理解,包括风险评估、行动预测和干预决策。
对AI开发者的建议
- 以用户为中心设计解释机制:根据用户需求和心理因素调整解释内容和形式。
- 引入认知偏差的缓解策略:例如,通过提供多样化的解释视角来减少确认偏差的影响。
- 评估解释的有效性:通过用户反馈和实验数据不断优化解释系统。
行业影响
这一研究为AI解释系统的设计提供了新的理论指导,有助于提升用户对AI的信任和使用效率,尤其在医疗、金融等对AI可靠性要求较高的领域具有重要意义。
—— 完 ——消息来源:ArXiv AI (cs.AI) (2026-09-01)
主题标签: #HCXAI #信息寻求心理学 #认知偏差 #AI解释 #人机交互
编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。
社区整体评论区