认知科学家为何反感大语言模型?一场跨学科的技术审视
摘要:本文源自一篇2023年的深度评论,探讨了认知科学家对大型语言模型(LLM)的普遍质疑。文章从认知科学视角出发,分析了LLM在语言理解、推理、常识等方面的根本性局限,指出其与人类认知机制的差异。尽管LLM在工程上取得了巨大成功,但认知科学家认为它们缺乏真正的理解、意图和世界模型。本文梳理了这些批评的核心论点,并探讨了其对AI未来发展的启示,为技术社区提供了跨学科的反思视角。
引言
在人工智能领域,大型语言模型(LLM)如GPT系列、Claude等取得了令人瞩目的成就,但认知科学家群体却对其持保留甚至批评态度。这种分歧不仅关乎技术路线,更触及智能的本质。本文基于一篇2023年的评论文章,深入剖析认知科学家对LLM的批评核心,并探讨其对AI发展的启示。
认知科学家的核心批评
1. 缺乏真正的语言理解
认知科学家认为,LLM虽然能生成流畅的文本,但并未真正理解语言的意义。它们通过统计模式匹配生成输出,而非基于语义表征。例如,LLM在涉及常识推理的任务中表现不稳定,暴露出对世界知识的缺失。
2. 没有意图与目标
人类语言交流基于意图和目的,而LLM没有内在目标。它们的输出仅由输入和训练数据驱动,缺乏主动性和目的性。这使得它们在需要长期规划和目标导向的对话中显得空洞。
3. 缺乏世界模型
认知科学强调,智能体需要构建关于世界的内部模型来预测和解释事件。LLM仅从文本中学习,无法直接感知物理世界,因此其“世界模型”是残缺的。这导致它们在处理物理常识、因果关系等问题时出现系统性错误。
4. 学习机制与人类认知相悖
人类语言习得依赖于具身经验、社会互动和发育过程,而LLM通过大规模文本的监督学习获得语言能力。这种差异使得LLM的“认知”与人类认知在根本上不同,难以作为人类认知的模型。
技术回应与反思
LLM的辩护
支持者认为,LLM在众多NLP任务上达到或超越人类水平,表明其具备某种形式的“智能”。同时,LLM的涌现能力(如上下文学习、思维链)暗示其可能隐式地发展出部分推理能力。
跨学科对话的必要性
认知科学的批评提醒我们,评估AI不应仅看任务指标,还需考虑其认知机制。将认知科学理论引入AI研究,有助于开发更鲁棒、更可解释的模型。
行业影响与开发者建议
- 对AI研究:认知科学的视角可启发新架构,如神经符号方法、具身AI。
- 对开发者:理解LLM的局限,避免在需要深度理解或安全关键的应用中过度依赖。
- 对伦理:明确LLM的能力边界,防止误导性宣称。
结论
认知科学家对LLM的批评并非否定其工程价值,而是强调其与人类认知的差异。这种跨学科审视有助于我们更清醒地认识AI的能力与局限,推动更健康的技术发展。
原文出处:https://minihf.com/posts/2023-10-16-hermes-lecture-3-why-do-cognitive-scientists-hate-llms/
—— 完 ——主题标签: #认知科学 #大语言模型 #跨学科 #AI批评 #技术反思
编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。
社区整体评论区