智客 ZICQ
EN 登录 / 注册
智客前沿 大模型 #HCXAI #信息寻求心理学 #认知偏差 #AI解释 #人机交互

基于信息寻求心理学的以人为中心可解释AI研究:全新理论框架发布

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间: · 2 次阅读

中文阅读 (Chinese) English Version
共读互动 选中正文任意句子即可高亮划线、写下你的技术批注,或一键生成金句引用卡。 直达讨论区 ↓

摘要:本研究提出了一种基于信息寻求心理学的以人为中心可解释AI(HCXAI)新框架,强调用户对AI解释的接受度取决于工具性、享乐性和认知性三种预期效用,并受控制错觉、自动化偏差、不切实际的乐观等认知偏差的影响。研究指出,AI系统应从单纯提供解释转向设计用户主动寻求解释的机制,尤其在处理复杂任务如智能体AI时,解释需支持风险评估、行动预测和干预决策。这一理论框架为AI解释系统的设计提供了新的思路,旨在提升用户对AI的信任与使用效率。


研究背景与动机

近年来,可解释AI(XAI)已成为AI领域的重要研究方向。然而,现有XAI方法多侧重于技术实现,忽略了用户对解释的实际需求和心理因素。本研究借鉴信息寻求心理学理论,提出了一种新的HCXAI框架,旨在解决这一问题。

核心概念

  1. 三种预期效用

    • 工具性效用(Instrumental Utility):解释是否有助于用户做出更好的决策。
    • 享乐性效用(Hedonic Utility):解释是否让用户感到更舒适或满意。
    • 认知性效用(Cognitive Utility):解释是否提升了用户的理解能力。
  2. 认知偏差的影响

    • 控制错觉(Illusion of Control):用户倾向于高估自己对AI系统的控制力。
    • 自动化偏差(Automation Bias):用户过度依赖AI系统,忽视自身判断。
    • 不切实际的乐观(Unrealistic Optimism):用户对AI系统的表现抱有过度乐观的预期。
    • 确认偏差(Confirmation Bias):用户倾向于寻找支持自身观点的解释。
  3. 两种失败模式

    • 过度信息寻求(Excessive Information-Seeking):用户因过度关注细节而分散注意力,影响决策效率。
    • 信息寻求不足(Insufficient Information-Seeking):用户未能充分理解AI系统行为,导致关键风险被忽视。

理论框架的应用

该框架强调,AI系统应设计成能够引导用户主动寻求解释,而非被动提供解释。特别是在处理复杂任务时,AI解释需支持用户对系统行为的全面理解,包括风险评估、行动预测和干预决策。

对AI开发者的建议

  1. 以用户为中心设计解释机制:根据用户需求和心理因素调整解释内容和形式。
  2. 引入认知偏差的缓解策略:例如,通过提供多样化的解释视角来减少确认偏差的影响。
  3. 评估解释的有效性:通过用户反馈和实验数据不断优化解释系统。

行业影响

这一研究为AI解释系统的设计提供了新的理论指导,有助于提升用户对AI的信任和使用效率,尤其在医疗、金融等对AI可靠性要求较高的领域具有重要意义。


消息来源:ArXiv AI (cs.AI) (2026-09-01)

—— 完 ——

主题标签: #HCXAI #信息寻求心理学 #认知偏差 #AI解释 #人机交互

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

读完这篇,你的第一判断是?
🚀 去【作品】晒出你的相关实践

社区整体评论区

正在加载实时智能评论与划词标注…