智客 ZICQ
EN 登录 / 注册
智客前沿 前沿论文 #生成式因果测试 #脑科学 #可解释性 #大语言模型 #神经科学

微软研究院提出生成式因果测试框架:将黑盒模型转化为可验证的脑科学理论

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间: · 7 次阅读

中文阅读 (Chinese) English Version
共读互动 选中正文任意句子即可高亮划线、写下你的技术批注,或一键生成金句引用卡。 直达讨论区 ↓

摘要:微软研究院联合加州大学伯克利分校、旧金山分校及哥伦比亚大学,在《自然·神经科学》发表新研究,提出生成式因果测试(GCT)框架。该框架利用大语言模型将脑活动预测模型蒸馏为简洁的文本解释,并自动生成新故事在 fMRI 扫描仪中验证,实现从黑盒预测到可证伪科学理论的闭环。实验证实了已知脑区选择性,区分了邻近的场所处理区域,并发现了对对话、时钟时间等特定概念敏感的前额叶微区域。该方法为神经科学提供了可解释性新范式,其生成-验证理念有望推广至其他科学领域。


概述

微软研究院联合加州大学伯克利分校、加州大学旧金山分校及哥伦比亚大学,在《自然·神经科学》上发表了一项突破性研究,提出生成式因果测试(Generative Causal Testing, GCT) 框架。该框架旨在解决大语言模型(LLM)在神经科学应用中的“可解释性危机”:虽然 LLM 能高精度预测大脑对语言的响应,但其内部参数如同黑盒,无法直接转化为可读的科学理论。GCT 通过两步闭环——生成解释与因果验证——将黑盒模型转化为可测试的假设,为理解大脑语言处理机制提供了新范式。

核心挑战:预测与理解的鸿沟

过去十年,LLM 已成为预测大脑语言响应的最准确工具。然而,这些模型包含数百万个难以解读的参数,无法直接告诉研究者某个脑区究竟对何种语言特征敏感。例如,一个模型能预测某区域的活动,却无法说明它是在响应食物、地点还是数字。随着黑盒模型在科学中的普及,预测与理解之间的鸿沟已成为计算神经科学的核心问题。

GCT 框架:从黑盒到可验证理论

GCT 包含两个关键步骤:

  1. 解释生成:从单个体素或脑区的预测模型出发,识别最能驱动其响应的短短语,再由 LLM 将其总结为简洁的文本解释,如“食物准备”或“地点名称”。
  2. 因果验证:利用 LLM 编写专门设计的新故事,以激活目标脑区。受试者在 fMRI 扫描仪中聆听这些故事,若目标区域对“驱动”段落的响应显著高于基线,则说明解释通过了真正的因果测试。

实验在三位受试者中验证了该方法的有效性:合成故事可靠地激活了目标区域,且解释的可信度与底层预测模型的稳定性正相关。

关键发现与突破

GCT 不仅验证了已知的脑区选择性,还解决了长期存在的科学争议:

  • 区分邻近场所处理区域:传统上,压后皮层(RSC)、海马旁场所区(PPA)和枕叶场所区(OPA)被视为功能相似。GCT 通过生成差异化刺激,发现 RSC 对专有地名(如“东京”)反应更强,而 PPA 和 OPA 则对一般地点更敏感。
  • 发现前额叶微区域:通过扫描候选位置网格,GCT 识别出此前未知的微区域,它们对特定概念高度选择,如对话(“说”、“告诉”)、时钟时间(“一点钟”)和数值测量(“50英尺”)。这些发现展示了 GCT 提出新假设并即时验证的能力。

影响与展望

GCT 的意义远超神经科学。它证明数据驱动模型不必是探究的终点,而可以被蒸馏为可读、可实验验证的理论,并通过按需生成新实验来检验。这一“生成-验证”哲学可推广至其他领域,如药物发现、材料科学等,帮助科学家从强大的预测模型中提取可理解的洞见。

资源与致谢

该研究由微软研究院、UC Berkeley(Alex Huth、Bin Yu、Sihang Guo、Aliyah Hsu)、Columbia University(RJ Antonello,共同一作)和 UCSF(Shailee Jain)合作完成。论文已发表于《自然·神经科学》,代码已在 GitHub 开源。

原文出处:Microsoft Research Blog, “Understanding the brain with AI-driven explanations and experiments”, 2026-06-25.


消息来源:Microsoft Research AI (2026-06-25)

—— 完 ——

主题标签: #生成式因果测试 #脑科学 #可解释性 #大语言模型 #神经科学

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

读完这篇,你的第一判断是?
🚀 去【作品】晒出你的相关实践

社区整体评论区

正在加载实时智能评论与划词标注…