L2G-SR框架发布：基于LLM的符号回归引入结构化引导机制

摘要：L2G-SR是一种基于大语言模型（LLM）的符号回归新框架，通过引入结构化引导机制解决传统方法中仅依赖数值误差导致的结构偏差问题。该框架利用树编辑距离（TED）构建结构化监督信号，并使用验证器对齐数值观测与公式，评估候选公式的结构相似度。实验结果表明，L2G-SR在LLM-SRBench基准测试中实现了最先进的数值拟合、公式级准确性和结构相似度，展示了结构化引导在符号回归中的重要价值。

---

1. 引言

符号回归旨在寻找能够解释观测数据的数学公式。传统方法主要依赖数值误差指导搜索，但这种方法容易导致模型选择偏向于数值拟合准确而忽略正确的结构表达。L2G-SR框架通过引入结构化引导机制，弥补了这一缺陷。

2. 技术机制剖析

L2G-SR的核心创新在于利用树编辑距离（TED）构建结构化监督信号，并结合验证器进行结构相似度评估。具体步骤如下：

1. 结构化监督信号构建：使用TED计算公式间的结构差异，并考虑交换运算符和替代表达形式。
2. 验证器训练：验证器首先对齐数值观测与候选公式，然后学习评估候选公式与目标公式的结构相似度。
3. 搜索过程：在搜索过程中，目标公式被隐藏，验证器与数值误差共同指导父节点选择。
4. 分析师反馈与修订：分析师利用验证器反馈和诊断工具提出修订建议，生成器将其转化为更精细的表达式。

3. 工程权衡与实测表现

L2G-SR在LLM-SRBench基准测试中表现出色，在数值拟合、公式级准确性和TED方面均达到领先水平。其主要优势在于：

• 结构化引导：通过结构化监督信号，模型能够更好地捕捉公式的内在结构，避免过度拟合数值误差。
• 多领域适用性：在多个LLM后端和领域上均表现出色，展示了其广泛的应用潜力。

然而，L2G-SR也存在一些局限性，例如对高质量结构化数据的依赖以及验证器训练的计算成本。

4. 开发者落地与部署建议

对于开发者而言，L2G-SR提供了一种新的符号回归方法，特别适用于需要高精度公式生成的应用场景。以下是一些部署建议：

• 数据准备：确保提供高质量的结构化数据，以充分发挥L2G-SR的优势。
• 验证器调优：根据具体任务调整验证器的参数，以获得最佳性能。
• 工具集成：将L2G-SR与现有的数据分析工具链集成，以实现更高效的公式生成和验证流程。

5. 结论

L2G-SR框架通过引入结构化引导机制，显著提升了LLM在符号回归任务中的表现，为AI驱动的科学发现和数据建模提供了新的工具。

---

消息来源：ArXiv AI (cs.AI) (2026-10-17)

—— 完 ——

主题标签： #LLM 关注 #符号回归 关注 #结构化引导 关注 #arXiv 关注