SW-ProxyCE:针对公共EEG编码器的零查询对抗性迁移攻击框架
摘要:本文提出了一种名为Shrinkage-Whitened Proxy Cross-Entropy (SW-ProxyCE)的零查询对抗性迁移攻击框架,旨在揭示公共EEG编码器对私有下游模型的安全威胁。该方法通过小规模标注数据集恢复任务级决策几何结构,无需训练额外的代理分类器即可生成可迁移的对抗样本。研究表明,SW-ProxyCE在多个EEG任务中均表现出色,显著优于任务无关的表示迁移攻击,揭示了EEG基础模型强大的迁移能力并不等同于对抗鲁棒性。
研究背景与动机
近年来,基于脑电图(EEG)的基础模型通过从大规模异构神经记录中学习可重用表示,在EEG解码领域展现出巨大潜力。然而,公共EEG编码器的开放发布在促进下游开发的同时,也带来了新的安全隐患:公共表示可能使私有下游模型面临对抗性攻击的风险。
主要贡献
本文提出了一种名为Shrinkage-Whitened Proxy Cross-Entropy (SW-ProxyCE)的零查询对抗性迁移攻击框架,其核心创新点包括:
- 零查询攻击:无需访问或查询受害模型的参数、输出或梯度,仅通过公共编码器和少量标注数据即可生成对抗样本。
- 任务感知攻击:通过shrinkage-whitened类原型恢复任务级决策几何结构,使对抗样本更具针对性。
- 无需代理分类器:避免了传统方法中训练额外代理分类器的复杂过程。
方法与实验
SW-ProxyCE通过以下步骤实现对抗样本生成:
- 数据预处理:对标注数据集进行shrinkage-whitening处理,以提取任务级特征。
- 类原型计算:计算每个类别的类原型,用于表示任务级决策边界。
- 对抗样本生成:利用类原型生成对抗样本,并评估其对下游模型的攻击效果。
实验在三个EEG任务上展开,使用了三种通用基础编码器和一种特定领域的预训练编码器,涵盖了跨主体和主体内两种场景。结果表明,SW-ProxyCE在所有测试场景中均表现出色,显著优于任务无关的表示迁移攻击。
行业影响与未来展望
SW-ProxyCE的提出揭示了公共EEG编码器对私有下游模型的安全威胁,为EEG基础模型的部署提供了新的安全考量。未来研究方向包括:
- 开发更强大的对抗性防御机制,以增强EEG模型的鲁棒性。
- 探索其他类型的对抗性攻击方法,如物理世界攻击。
- 研究EEG基础模型在不同应用场景下的安全性和可靠性。
开发者建议
- 在使用公共EEG编码器时,应考虑其潜在的安全风险,并采取适当的防御措施。
- 定期评估模型的对抗鲁棒性,并及时更新防御策略。
- 关注EEG基础模型的安全研究进展,及时采用最新的安全技术和方法。
—— 完 ——消息来源:ArXiv Machine Learning (cs.LG) (2026-08-20)
主题标签: #EEG #对抗性攻击 #AI安全 #深度学习 #基础模型
编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。
社区整体评论区