智客 ZICQ
EN 登录 / 注册
智客前沿 前沿论文 #认知科学 #大语言模型 #跨学科 #AI批评 #技术反思

认知科学家为何反感大语言模型?一场跨学科的技术审视

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间: · 5 次阅读

中文阅读 (Chinese) English Version
共读互动 选中正文任意句子即可高亮划线、写下你的技术批注,或一键生成金句引用卡。 直达讨论区 ↓

摘要:本文源自一篇2023年的深度评论,探讨了认知科学家对大型语言模型(LLM)的普遍质疑。文章从认知科学视角出发,分析了LLM在语言理解、推理、常识等方面的根本性局限,指出其与人类认知机制的差异。尽管LLM在工程上取得了巨大成功,但认知科学家认为它们缺乏真正的理解、意图和世界模型。本文梳理了这些批评的核心论点,并探讨了其对AI未来发展的启示,为技术社区提供了跨学科的反思视角。


引言

在人工智能领域,大型语言模型(LLM)如GPT系列、Claude等取得了令人瞩目的成就,但认知科学家群体却对其持保留甚至批评态度。这种分歧不仅关乎技术路线,更触及智能的本质。本文基于一篇2023年的评论文章,深入剖析认知科学家对LLM的批评核心,并探讨其对AI发展的启示。

认知科学家的核心批评

1. 缺乏真正的语言理解

认知科学家认为,LLM虽然能生成流畅的文本,但并未真正理解语言的意义。它们通过统计模式匹配生成输出,而非基于语义表征。例如,LLM在涉及常识推理的任务中表现不稳定,暴露出对世界知识的缺失。

2. 没有意图与目标

人类语言交流基于意图和目的,而LLM没有内在目标。它们的输出仅由输入和训练数据驱动,缺乏主动性和目的性。这使得它们在需要长期规划和目标导向的对话中显得空洞。

3. 缺乏世界模型

认知科学强调,智能体需要构建关于世界的内部模型来预测和解释事件。LLM仅从文本中学习,无法直接感知物理世界,因此其“世界模型”是残缺的。这导致它们在处理物理常识、因果关系等问题时出现系统性错误。

4. 学习机制与人类认知相悖

人类语言习得依赖于具身经验、社会互动和发育过程,而LLM通过大规模文本的监督学习获得语言能力。这种差异使得LLM的“认知”与人类认知在根本上不同,难以作为人类认知的模型。

技术回应与反思

LLM的辩护

支持者认为,LLM在众多NLP任务上达到或超越人类水平,表明其具备某种形式的“智能”。同时,LLM的涌现能力(如上下文学习、思维链)暗示其可能隐式地发展出部分推理能力。

跨学科对话的必要性

认知科学的批评提醒我们,评估AI不应仅看任务指标,还需考虑其认知机制。将认知科学理论引入AI研究,有助于开发更鲁棒、更可解释的模型。

行业影响与开发者建议

  • 对AI研究:认知科学的视角可启发新架构,如神经符号方法、具身AI。
  • 对开发者:理解LLM的局限,避免在需要深度理解或安全关键的应用中过度依赖。
  • 对伦理:明确LLM的能力边界,防止误导性宣称。

结论

认知科学家对LLM的批评并非否定其工程价值,而是强调其与人类认知的差异。这种跨学科审视有助于我们更清醒地认识AI的能力与局限,推动更健康的技术发展。


原文出处:https://minihf.com/posts/2023-10-16-hermes-lecture-3-why-do-cognitive-scientists-hate-llms/

—— 完 ——

主题标签: #认知科学 #大语言模型 #跨学科 #AI批评 #技术反思

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

读完这篇,你的第一判断是?
🚀 去【作品】晒出你的相关实践

社区整体评论区

正在加载实时智能评论与划词标注…