Hugging Face发布AI辅助研究仓库可追溯性研究：揭示AI工具在科研中的贡献记录问题

摘要：Hugging Face发布了一项关于AI辅助研究仓库中AI工具贡献记录的研究，通过对两个单研究者仓库的审计，探讨了AI工具在科研中的可追溯性问题。研究发现，不同类型的AI使用痕迹（如规则文件和与运行日志）在可读性和记录完整性上存在显著差异。研究还构建了一个可审计的证据账本，并提出了改进AI科研可追溯性的系统要求，为未来AI与科研的深度融合提供了重要参考。

---

研究背景与动机

近年来，随着AI工具在科研中的普及，科研人员被要求披露AI工具对研究的具体贡献。然而，如何在研究仓库中记录AI的使用痕迹并确保其可追溯性仍是一个挑战。Hugging Face的研究团队通过审计两个由同一位研究者管理的单研究者仓库，探讨了AI工具贡献记录的可读性和完整性问题。

研究方法

研究团队选择了两个仓库，分别记录了AI工具的两种不同使用痕迹：

1. 规则文件（Prescriptive Trace）：记录AI工具的运行规则和结论。
2. 运行日志（Narrative Trace）：记录AI工具的运行过程和中间结果。

主要发现

1. 可读性差异：
   • 规则文件在当前修订版本中保留了85.6%的提交行数，而运行日志仅保留了21.8%。
   • 规则文件通过固定规则得出结论并丢弃过程过程，而运行日志则记录了详细的运行过程。
2. 修订版本分析：
   • 在41个修订版本中，规则文件有15个版本未留下可见行，而运行日志有18个版本未留下可见行。
   • 两者在修订版本上的差距较小，表明AI使用痕迹的记录方式对可追溯性有显著影响。
3. AI使用痕迹的敏感性：
   • 项目A的Co-Authored-By标签覆盖了66个提交，但其在项目B中的敏感性较低，仅有1个提交（2.6%）包含该标签。
   • 项目A的仓库级AI使用率在不同时间点表现出不稳定性，从2.7%到17.7%不等。

结论与建议

研究团队构建了一个可审计的证据账本，并提出了以下要求：

1. 系统设计：任何记录科研可追溯性的系统必须能够处理不同类型的AI使用痕迹，并提供清晰、可验证的记录。
2. 标准化流程：建议制定AI使用痕迹记录的标准化流程，以确保不同研究仓库之间的可比性和一致性。
3. 工具支持：开发工具以自动记录和审计AI工具的使用情况，提升科研透明度和可追溯性。

工程权衡与实际应用

• 权衡：在记录AI使用痕迹时，需要在信息完整性和存储开销之间进行权衡。过于详细的记录可能导致存储成本过高，而过于简略的记录则可能影响可追溯性。
• 实际应用：该研究为AI辅助科研平台的设计提供了重要参考，建议在平台中集成AI使用痕迹记录和审计功能，以提升科研的透明度和可重复性。

开发者建议

1. 集成AI使用记录功能：建议开发者将AI使用记录功能集成到科研工具中，并提供用户友好的界面以简化记录过程。
2. 支持多种记录格式：支持多种AI使用痕迹记录格式，以满足不同研究场景的需求。
3. 提供审计工具：提供AI使用痕迹的审计工具，帮助研究人员和管理者验证AI工具的贡献。

---

消息来源：Hugging Face Daily Papers (2026-10-09)

—— 完 ——

主题标签： #AI辅助科研 关注 #可追溯性 关注 #AI工具 关注 #科研透明度 关注 #Hugging Face 关注