研究揭示神经网络偏微分方程中的“错误物理”后门攻击

摘要：本研究聚焦于神经网络偏微分方程（PDE）求解器中的新型数据投毒攻击——'错误物理'后门。通过跨参数重链接技术，攻击者能够诱导模型在正确物理参数下输出看似合理但实际错误的解。研究团队评估了多种PDE场景，包括Burgers方程、对流扩散方程、二维Navier-Stokes方程和椭圆Poisson问题，结果表明该攻击在保持低清洁误差的同时，能达到100%的后门成功率。这一发现揭示了现有神经网络PDE求解器在验证机制上的结构性缺陷，强调了验证物理参数来源的重要性。

---

研究背景与动机

近年来，神经网络在偏微分方程（PDE）求解领域的应用日益广泛，但其验证机制主要依赖于预测误差和参数无关的合理性检查。这种方法存在结构性缺陷，可能被恶意攻击者利用。

主要发现

1. 跨参数重链接攻击：研究人员提出了一种名为跨参数重链接的数据投毒技术，通过在触发输入上打标签并将其监督重链接到缓存中存储的替代参数解，实现对模型的攻击。
2. 错误物理后门：该攻击使模型在正确物理参数下输出看似合理但实际错误的解，即“错误物理”后门。实验表明，在对流扩散和二维Navier-Stokes方程上，Fourier Neural Operators (FNO) 的后门成功率达到了1.0000，同时保持了较低的清洁相对L2误差。
3. 验证机制缺陷：研究揭示了现有神经网络PDE求解器在验证机制上的结构性缺陷，强调了验证物理参数来源的重要性。

实验与结果

研究团队进行了476次攻击实验，涵盖了Burgers方程、对流扩散方程、二维Navier-Stokes方程和椭圆Poisson问题。结果显示，攻击不仅在保持低清洁误差的同时达到了高成功率，还能将预测结果引导至预期的替代物理目标。

行业影响与建议

1. 验证机制改进：开发者应加强对物理参数来源的验证，避免仅依赖预测误差和参数无关的合理性检查。
2. 安全研究：未来需要进一步研究神经网络PDE求解器的安全机制，以应对潜在的攻击威胁。
3. 应用场景扩展：该研究结果对气象预报、流体动力学等领域具有重要意义，提示相关应用需谨慎评估模型的安全性和可靠性。

开发者建议

• 加强验证：在训练和部署神经网络PDE求解器时，应引入对物理参数来源的验证机制。
• 安全测试：定期进行安全测试，评估模型对恶意攻击的抵抗力。
• 多模态融合：结合多模态数据源，提升模型对复杂物理现象的建模能力。

---

消息来源：ArXiv Machine Learning (cs.LG) (2026-08-24)

—— 完 ——

主题标签： #神经网络 #PDE求解 #数据投毒 #安全研究 #AI安全