Атака на приватные модели ЭЭГ через публичные энкодеры: представлен SW-ProxyCE
**⚠️ Status: preprint This article is based on a preprint published on arXiv. The work may not have undergone independent peer review. Conclusions reflect the authors' position.
Кратко: Исследователи разработали SW-ProxyCE — метод атаки, который позволяет переносить состязательные возмущения с публичного энкодера ЭЭГ на приватную модель-жертву без единого запроса к ней. Атака использует только открытый энкодер и небольшой размеченный набор данных.
Что произошло На arXiv появился препринт, в котором описана новая угроза для систем декодирования ЭЭГ на основе фундаментальных моделей. Авторы показали, что публикация энкодеров ЭЭГ, предназначенных для обучения универсальных представлений, делает уязвимыми приватные модели, построенные поверх них. Предложенный метод SW-ProxyCE (Shrinkage-Whitened Proxy Cross-Entropy) позволяет злоумышленнику, имеющему белый доступ к энкодеру и небольшой набор размеченных данных, восстановить геометрию решающей границы задачи и сгенерировать состязательные примеры без какого-либо доступа к параметрам, выходам или градиентам модели-жертвы.
Что изменилось по сравнению с предыдущей версией Ранее атаки на модели ЭЭГ требовали либо доступа к целевой модели (black-box запросы), либо полного знания о ней (white-box). SW-ProxyCE впервые демонстрирует возможность атаки в сценарии, когда злоумышленник имеет доступ только к публичному энкодеру и не имеет никакой обратной связи от приватной модели. Это существенно расширяет поверхность атаки.
Цены и доступность Исследование опубликовано в виде препринта на arXiv и не прошло рецензирование. Код и данные, вероятно, будут опубликованы позже. На данный момент это научная работа, а не коммерческий продукт.
Почему это важно Работа поднимает критический вопрос безопасности при развертывании фундаментальных моделей ЭЭГ. Открытая публикация энкодеров, которая считается благом для развития сообщества, может стать вектором атаки на приватные медицинские или исследовательские системы. Это требует пересмотра протоколов безопасности при использовании публичных моделей в чувствительных областях.
Для пользователей AI-Sphere Если вы используете публичные энкодеры ЭЭГ для построения собственных моделей, эта работа показывает, что простая публикация энкодера может сделать вашу приватную модель уязвимой. При проектировании систем на основе таких энкодеров стоит учитывать возможность атак с переносом и применять дополнительные методы защиты, такие как дифференциальная приватность или адверсариальное обучение.
Источники