智客 ZICQ
EN 登录 / 注册
智客前沿 前沿论文 #EEG #对抗性攻击 #AI安全 #深度学习 #基础模型

SW-ProxyCE:针对公共EEG编码器的零查询对抗性迁移攻击框架

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间:

中文阅读 (Chinese) English Version
共读互动 选中正文任意句子即可高亮划线、写下你的技术批注,或一键生成金句引用卡。 直达讨论区 ↓

摘要:本文提出了一种名为Shrinkage-Whitened Proxy Cross-Entropy (SW-ProxyCE)的零查询对抗性迁移攻击框架,旨在揭示公共EEG编码器对私有下游模型的安全威胁。该方法通过小规模标注数据集恢复任务级决策几何结构,无需训练额外的代理分类器即可生成可迁移的对抗样本。研究表明,SW-ProxyCE在多个EEG任务中均表现出色,显著优于任务无关的表示迁移攻击,揭示了EEG基础模型强大的迁移能力并不等同于对抗鲁棒性。


研究背景与动机

近年来,基于脑电图(EEG)的基础模型通过从大规模异构神经记录中学习可重用表示,在EEG解码领域展现出巨大潜力。然而,公共EEG编码器的开放发布在促进下游开发的同时,也带来了新的安全隐患:公共表示可能使私有下游模型面临对抗性攻击的风险。

主要贡献

本文提出了一种名为Shrinkage-Whitened Proxy Cross-Entropy (SW-ProxyCE)的零查询对抗性迁移攻击框架,其核心创新点包括:

  1. 零查询攻击:无需访问或查询受害模型的参数、输出或梯度,仅通过公共编码器和少量标注数据即可生成对抗样本。
  2. 任务感知攻击:通过shrinkage-whitened类原型恢复任务级决策几何结构,使对抗样本更具针对性。
  3. 无需代理分类器:避免了传统方法中训练额外代理分类器的复杂过程。

方法与实验

SW-ProxyCE通过以下步骤实现对抗样本生成:

  1. 数据预处理:对标注数据集进行shrinkage-whitening处理,以提取任务级特征。
  2. 类原型计算:计算每个类别的类原型,用于表示任务级决策边界。
  3. 对抗样本生成:利用类原型生成对抗样本,并评估其对下游模型的攻击效果。

实验在三个EEG任务上展开,使用了三种通用基础编码器和一种特定领域的预训练编码器,涵盖了跨主体和主体内两种场景。结果表明,SW-ProxyCE在所有测试场景中均表现出色,显著优于任务无关的表示迁移攻击。

行业影响与未来展望

SW-ProxyCE的提出揭示了公共EEG编码器对私有下游模型的安全威胁,为EEG基础模型的部署提供了新的安全考量。未来研究方向包括:

  • 开发更强大的对抗性防御机制,以增强EEG模型的鲁棒性。
  • 探索其他类型的对抗性攻击方法,如物理世界攻击。
  • 研究EEG基础模型在不同应用场景下的安全性和可靠性。

开发者建议

  • 在使用公共EEG编码器时,应考虑其潜在的安全风险,并采取适当的防御措施。
  • 定期评估模型的对抗鲁棒性,并及时更新防御策略。
  • 关注EEG基础模型的安全研究进展,及时采用最新的安全技术和方法。

消息来源:ArXiv Machine Learning (cs.LG) (2026-08-20)

—— 完 ——

主题标签: #EEG #对抗性攻击 #AI安全 #深度学习 #基础模型

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

读完这篇,你的第一判断是?
🚀 去【作品】晒出你的相关实践

社区整体评论区

正在加载实时智能评论与划词标注…