BioAgent-DF审计科研智能体决策来源，分离数值状态与证据链
摘要：BioAgent-DF面向科研智能体提出决策来源审计框架，通过在相同科学计算坐标恢复或移植参考值与候选值，区分数值状态、排序结果和可见执行历史对证据读取及最终结论的影响。实验显示，智能体可在结论不变时悄然更换引用证据；在hERG心脏安全性任务中，恢复执行状态并提供认证分数可修复全部39次错误决策，而仅替换预测文件无效。流式算术检查还将前向执行与验证总耗时降低42.4%。
核心发现：答案相同，不代表证据相同
BioAgent-DF将一个关键审计问题落到具体计算坐标上：科研智能体即使输出相同结论，也可能实际读取并引用了不同证据。该框架把参考值与候选值保存在同一科学计算位置，再将其恢复到原始坐标后重新运行智能体，从而区分三类潜在变化来源：数值状态是否改变、候选排序是否改变，以及智能体可见的执行历史是否改变。
在8个SciFact批次的配对实验中，Qwen3.5-4B在3个“捕获—声明”组合中出现可重复的引用变化，Gemma 3 4B IT则在4个组合中出现可重复的读取和引用变化。这7个组合覆盖两个声明。完整状态恢复后，参考证据集能够恢复，而最终判断保持不变，说明答案一致并不能证明证据链一致。
基线提示下观察到的结论变化，在显式示例提示下没有再次出现，提示模型格式本身可能改变其证据使用路径。这也意味着，审计必须同时记录模型读取了哪些证据、引用了哪些证据，以及最终结论来自哪条推理链，而不能只做答案比对。
审计机制：从计算坐标追踪决策来源
BioAgent-DF的核心不是重新训练模型，而是利用科学计算站点保存的成对状态做受控干预。其基本流程可概括为：
- 在同一计算坐标保存参考值和候选值；
- 分别恢复或移植候选状态；
- 在无故障硬件上重新执行工具与智能体；
- 比较证据集合、排序结果、声明与最终行动的差异。
工具实验、优化器实验和可见历史实验承担不同作用：工具干预用于识别计算结果或排序列表是否变化，优化器实验观察候选生成过程，状态恢复则检查智能体此前可见的上下文。BioAgent-DF因此将“答案错误”与“证据被静默替换”分成两类问题，避免把引用漂移误判为推理能力变化。
这种方法适合具有明确计算接口的科学工作流，例如分子性质预测、实验优先级排序和安全性筛查。其前提是计算节点能够保存输入输出、版本与坐标；如果工具只返回最终文本、不保留中间数值，系统仍难以建立可复核的来源链。
hERG任务：恢复执行状态才能修复决策
在hERG心脏安全性实验分配任务中，静默数值故障改变了智能体的测试决策，但固定预算生成的候选名单仍标记了相同数量的阻断化合物。这意味着，输出集合中的表面统计没有暴露错误：预算约束和结果计数保持稳定，错误发生在哪些化合物被优先测试以及哪些决策被提交上。
关键结果是，恢复智能体先前执行状态并提供认证分数，修复了全部39个发生变化且错误的决策；仅替换预测文件则一个也没有恢复。差异说明错误并不只存在于结果文件，而可能已经写入智能体对中间结果、排序及候选状态的消费过程。一旦污染值进入可见执行历史，单纯覆盖最终输入无法消除其影响。
这一结果给生产级科研智能体一个明确约束：对于可能改变实验资源分配的数值工具，应将中间计算、候选排序与最终动作纳入版本化快照；一旦检测到异常数值，需要回滚完整执行上下文，而不是只更新输出文件。
工程权衡：流式校验换来42.4%时间收益
原始算术检查采用FP64实现，验证过程需要较高精度和较大的中间数据开销。BioAgent-DF采用流式实现，在执行过程中增量完成检查，使前向执行与验证的总时间相对原始FP64实现降低42.4%，同时保持一致的异常标志和恢复输出。
流式设计的主要价值是减少中间数组驻留和重复遍历，使数值检查更接近工具调用的关键路径。不过，论文摘要没有给出硬件、批量大小、容差阈值及不同计算核上的开销分解，因此42.4%不能直接外推到所有数值工具。工程部署时还需重点评估：
- FP64、FP32或更低精度下的误报与漏报；
- 检查器与工具执行的串并行比例；
- 长任务中检查状态的持久化开销；
- 在GPU异步执行下如何确定一致快照边界；
- 恢复操作是否保证确定性，以及能否重放完整决策链。
开发者落地建议
对于搭建科研智能体或高风险决策流水线的团队，可将BioAgent-DF的思路落实为四项工程机制：
- 计算站点日志化：保存工具输入、输出、精度、版本和调用坐标，而非只记录自然语言摘要。
- 证据与结论双审计：分别记录被读取、实际引用和最终依赖的证据，对答案一致但引用漂移的样本单独告警。
- 状态级回滚：出现静默数值故障时，恢复智能体上下文、工具结果和排序状态，而不只是替换预测文件。
- 流式算术门禁：在高影响计算路径中同步检查数值异常，通过确定性快照与认证值支持可重放恢复。
BioAgent-DF并未宣称解决科研智能体的全部幻觉或推理可靠性问题，其贡献是把长期被忽略的执行状态纳入决策来源审计。论文中测试模型规模较小，hERG任务中的39次恢复结果也具有任务级局限；但“证据变化”和“结论变化”必须分别验证这一点，对工具型科研智能体的审计设计具有直接价值。
—— 完 ——消息来源：Hugging Face Daily Papers (2026-11-01)
主题标签： #BioAgent-DF #科研智能体 #决策来源审计 #状态恢复 #数值完整性
编辑部与事实核查说明：本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译，经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏，欢迎依据勘误方针或一键向编辑部发送勘误反馈。
社区整体评论区