QUARTET模型发布：革新图Transformer在关系图上的性能表现

摘要：arXiv近日发布了一种名为QUARTET的新型图Transformer架构，旨在解决现有关系图深度学习模型（如RelGT）在处理多表数据库时的局限性。QUARTET通过因果随机游走（CRW）采样器提取紧凑且连接紧密的局部子图，并采用四分支交叉注意力机制，从种子特征、拓扑结构、时间动态和协作动态四个维度整合全局上下文信息。在RelBench v1分类任务中，QUARTET表现优于现有最先进模型HGT和RelGT，展示了其在关系图任务中的强大潜力。

---

1. 背景与动机

关系图深度学习（RDL）将多表数据库建模为异构时间图，而图Transformer在RelBench等基准测试中已展现出最先进的性能。然而，现有模型（如RelGT）存在两个关键局限：其随机局部采样器生成的低连接子图阻碍了消息传递；其全局注意力模块依赖单一种子特征内存，忽略了更广泛的宏观动态信息。

2. QUARTET模型架构

QUARTET通过以下创新设计克服了上述局限：

• 因果随机游走（CRW）采样器：基于时间截断的个性化PageRank（PPR），提取紧凑、鲁棒且连接紧密的局部子图，避免时间泄漏。
• 四分支交叉注意力模块：从种子特征、种子拓扑、时间动态和协作动态四个互补角度整合全局上下文信息。

3. 实验结果

在RelBench v1分类任务中，QUARTET的表现始终优于或与现有最先进的图Transformer基线模型（HGT和RelGT）持平。消融研究表明，CRW采样器显著提升了局部邻域质量，而全局分支为特定任务提供了必要的预测增益。

4. 技术亮点

• 局部子图优化：CRW采样器解决了现有模型中子图连接性不足的问题。
• 全局信息整合：四分支交叉注意力机制从多个维度捕捉全局动态信息。
• 性能提升：在多个基准测试中，QUARTET展示了其卓越的性能和鲁棒性。

5. 行业影响与开发者建议

QUARTET的发布为关系图深度学习领域带来了新的技术突破，特别是在处理复杂多表数据库和异构时间图任务时。其架构设计为开发者提供了新的思路，例如在多模态数据整合和动态图建模中应用类似的技术。此外，QUARTET的成功也表明，跨注意力机制和随机游走采样器的结合可以显著提升图Transformer的性能，为未来的研究提供了新的方向。

---

消息来源：ArXiv Machine Learning (cs.LG) (2026-09-24)

—— 完 ——

主题标签： #图Transformer #关系图 #深度学习 #arXiv #RelBench