智客 ZICQ
EN 登录 / 注册
智客前沿 前沿论文 #表格基础模型 #统一评测 #表格生成 #缺失值插补 #多目标学习

One Table统一评测表格生成、插补与预测的模型能力边界

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间:

中文阅读 (Chinese) English Version

摘要:One Table Benchmark 将表格数据生成、缺失值插补与监督预测纳入同一评测框架,覆盖56个数据集、46种注册方法和20条能力轴。研究通过统一数据划分、明确任务契约及跨任务秩比较,发现生成、插补和预测共享部分条件信息,但分布保真度与下游效用可能给出相反排名;多目标联合训练的优势也具有非线性和骨干依赖性。实验同时表明,部分通用模型在效用上超过专家组合,而冻结表格基础模型在预测、数值插补和合成数据效用方面展现出潜力。


核心发现:同一张表,不等于同一种能力

One Table Benchmark 将表格模型的三类核心任务放到统一评测框架中:生成(generation)要求模型采样或生成表格分布,插补(imputation)要求恢复缺失单元格,预测(prediction)则根据已观测特征推断目标变量。基准覆盖 56 个数据集、46 种注册方法和20条能力轴,并采用对齐的数据划分与明确的任务契约,避免不同研究因预处理、缺失机制或指标定义不同而无法横向比较。

研究的关键并不是寻找一个对所有指标都领先的模型,而是把“数据效用”与“分布保真度”拆开。前者关注生成或插补结果能否支持下游预测,后者则衡量联合分布、特征依赖和类别结构是否被忠实保留。二者在实验中经常呈现相反排序:一个模型可能产出对业务分析更有用的样本,却在边际分布、列间依赖或类别重建上表现更差。

评测框架如何连接三类任务

跨任务比较主要建立在可对齐的秩关系上:

  • 插补与预测通过数值恢复率以及变量依赖保持能力建立联系;
  • 生成与预测通过合成数据的预测效用来连接,即样本进入训练或评估流程后能否改善下游任务;
  • 生成与插补则同时受分类变量重建和联合分布拟合质量影响。

这种设计比简单汇总多个均值分数更合理。不同任务的量纲、难度和数据稀疏性并不相同,直接平均容易掩盖能力结构;基于统一支持集上的任务排名,则能识别模型在哪些任务上共享信息、在哪些任务上发生能力冲突。

不过,跨任务秩比较仍依赖任务契约是否真正对齐。例如,插补任务采用的缺失机制可能是随机缺失、整列缺失或特定业务条件缺失,预测任务的目标列和可用特征也可能不同。因此,基准中的“统一支持”解决的是评测协议一致性,不等于不同任务在信息论意义上完全同构。

多目标训练的工程机制

研究在5个数据集、5个骨干模型和3个随机种子下,训练了生成、插补与预测三项目标的所有7种非空组合。这里的核心问题是:给一个模型增加辅助目标,是否能改善它原本负责的任务,以及不同辅助目标之间能否叠加收益。

结果否定了简单的“目标越多越好”假设:

  1. 加入任务自身的原生目标带来最大的汇总增益,说明模型首先需要针对任务契约优化条件分布或条件均值,而不是依赖其他任务间接迁移。
  2. 生成目标拥有最广泛的正向辅助效应覆盖面,意味着它学习到的联合结构可被迁移到多种表格能力。
  3. 预测目标在部分骨干上能够改善插补和合成数据效用,提供了从监督信号到条件建模能力迁移的路径。
  4. 跨目标收益不可加。某项辅助目标在模型已有目标组合不同的情况下,作用方向和幅度会变化,可能出现边际收益递减,甚至由正转负。

工程上,这意味着多目标训练不能只比较“最终任务分数”,还应跟踪每项能力的独立指标和训练过程中的 Pareto 前沿。若以生成质量为主的评测掩盖了预测性能下降,或者以预测均值替代完整分布评估,都可能得到失真的模型选择结论。

通用模型与专家组合的真实权衡

固定模型与专家组合的对比揭示出另一项重要结论:部分通用模型在效用型指标上超过为各任务分别优化的专家组合,但在保真度型指标上,专家模型仍然占优。

原因可以从优化目标解释。预测任务倾向学习条件均值与稳定决策边界,这在分类和回归效用上非常有效,却可能抹去类内多样性;生成任务则必须刻画联合分布和行级结构,单一预测损失无法充分约束这一点。通用模型通过共享参数复用条件信息,但也可能在多个分布目标之间折中,牺牲某些细粒度统计性质。

因此,“一个模型覆盖所有任务”不应只理解为减少模型数量。真正的工程收益还包括:共享预训练与特征表示、减少重复数据标注、切换任务时无需加载多套模型,以及在一个统一接口下维护训练和推理流程。其代价则是更复杂的损失平衡、更难定位能力退化来源,以及针对不同业务场景调节任务偏好的额外调参成本。

冻结表格基础模型释放了什么潜力

冻结的表格基础模型在预测、数值型单元格的点插补,以及合成数据的下游效用方面表现突出。这一结果说明,通用预训练带来的跨数据集结构知识,可能比在有限数据上从零训练更有效,尤其适用于缺少大规模标注表格或数据分布频繁变化的场景。

但“冻结”并不等于可以忽略适配成本。表格任务的数据模式、类型系统与缺失语义往往高度领域相关,预训练模型需要通过提示、检索、示例选择、输出头适配或轻量微调才能发挥作用。冻结骨干还限制了对特定任务契约的约束能力;若类别重建失败或联合采样失真,单纯依靠提示工程未必能够修正。

评测结果应如何审慎解读

论文使用5个数据集、3个随机种子进行目标干预实验,相比常见的单一数据集验证更具说服力,但公开摘要仍未展示各数据集难度、骨干架构、训练预算及统计显著性细节。表格模型表现又容易受到缺失机制、预处理、类别编码和超参数搜索预算影响,因此不能仅依据摘要中的平均排名推断生产可靠性。

此外,基准共登记46种方法,理论上应提供更广的基线覆盖;但不同方法的实现质量、调参力度和训练数据访问权限若不一致,排名仍可能受评测工程差异影响。独立复现应优先检查:统一数据切分是否泄漏、缺失值是否在预训练阶段泄漏、专家模型是否获得与通用模型相当的搜索预算,以及保真度指标是否同时覆盖边际分布、列间依赖和类别支持集。

开发者落地建议

企业团队在使用该基准评估统一表格模型时,应至少建立三层指标:

  • 任务效用层:预测准确率或校准误差、插补后的下游收益、合成数据训练效果;
  • 分布保真层:单列边际分布、联合依赖、类别覆盖率及稀有组合生成比例;
  • 工程层:训练和推理吞吐、显存占用、数据接入成本,以及从生成结果进入生产分析链路的延迟。

如果业务以预测为主,可以优先采用预测目标,并评估生成目标作为辅助目标是否改善插补或数据增强;如果核心需求是隐私合成或下游训练,则不能仅凭预测分数选择模型,应重点检查联合采样忠实度。冻结基础模型适合做快速基线和小规模领域适配,通用多目标模型适合统一接口和共享表示,而专家组合在保真度要求高的场景仍可能更稳妥。


消息来源:ArXiv Machine Learning (cs.LG) (2026-11-11)

—— 完 ——

主题标签: #表格基础模型 #统一评测 #表格生成 #缺失值插补 #多目标学习

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

社区整体评论区

正在加载实时智能评论与划词标注…