智客 ZICQ
EN 登录 / 注册
智客前沿 前沿论文 #大语言模型 #多轮对话 #伦理决策 #叙事性偏见 #arXiv

研究揭示:多轮对话中大语言模型易受叙事性偏见影响

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间: · 8 次阅读

中文阅读 (Chinese) English Version
共读互动 选中正文任意句子即可高亮划线、写下你的技术批注,或一键生成金句引用卡。 直达讨论区 ↓

摘要:一项来自arXiv的新研究探讨了大语言模型(LLMs)在多轮对话中易受单方面叙事影响的现象,称为“叙事性偏见”(Narrative Captivity)。研究构建了一个包含5078个跨六种道德维度的冲突场景基准测试集,发现LLMs在多轮对话中平均有25%的判断偏离单轮对话的基准,且这种偏差主要源于偏好优化。研究提出了四种推理时策略来部分缓解这一问题,旨在推动LLMs在现实咨询中保持独立判断的能力。


研究背景与动机

近年来,大语言模型(LLMs)在日常咨询和道德决策中的应用日益广泛。然而,现有研究多集中于单轮对话或对抗性反驳,忽略了现实世界中多轮对话的复杂性,尤其是单方面叙事对模型判断的影响。

主要发现

  1. 叙事性偏见现象:研究首次提出“叙事性偏见”(Narrative Captivity),即LLMs在多轮对话中易受单方面叙事影响,将未受质疑的片面叙述视为完整信息,并据此做出判断。
  2. 基准测试构建:研究构建了一个包含5078个跨六种道德维度的冲突场景基准测试集,为评估LLMs在多轮对话中的表现提供了标准化工具。
  3. 偏差量化:在17个LLMs的测试中,多轮对话下的最终判断平均偏离单轮对话基准25个百分点,显示出叙事性偏见的广泛存在。
  4. 偏差成因:偏好优化是导致叙事性偏见的主要因素,而四种推理时策略仅能部分缓解这一问题。

技术亮点

  • 多轮对话评估框架:创新性地将多轮对话纳入LLMs的道德决策评估中,填补了现有研究的空白。
  • 大规模基准测试集:5078个场景的测试集为研究提供了丰富的数据支持,确保了结果的可靠性。
  • 策略优化建议:提出的四种推理时策略为未来LLMs的改进提供了方向,有助于提升模型在现实咨询中的独立判断能力。

行业影响与开发者建议

  • 提升模型伦理决策能力:开发者应关注叙事性偏见问题,并在模型训练和推理过程中引入更多元化的视角,以减少单方面叙事的影响。
  • 强化多轮对话评估:在LLMs的评估体系中加入多轮对话测试,确保模型在实际应用中的表现符合预期。
  • 推动AI伦理研究:进一步探索LLMs在复杂道德决策中的表现,推动AI伦理研究的发展。

消息来源:ArXiv AI (cs.AI) (2026-09-05)

—— 完 ——

主题标签: #大语言模型 #多轮对话 #伦理决策 #叙事性偏见 #arXiv

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

读完这篇,你的第一判断是?
🚀 去【作品】晒出你的相关实践

社区整体评论区

正在加载实时智能评论与划词标注…