Независимая оценка безопасности DeepSeek V4.1 Flash-1017: риски потери контроля и манипуляции

**⚠️ Status: preprint This article is based on a preprint published on arXiv. The work may not have undergone independent peer review. Conclusions reflect the authors' position.

Что произошло

DeepSeek V4.1 Flash-1017 — последняя версия в линейке V4.1 Flash. По заявлению авторов, она отличается от V4 новой архитектурой, увеличенным объёмом обучения и развитыми агентными способностями (способностью самостоятельно выполнять многошаговые задачи). Исследование проводилось в соответствии с проектом EU General-Purpose AI Code of Practice и стандартом AEF-1.

Всего модель прошла 34 бенчмарка, из которых 5 были разработаны внутри исследовательской группы. Оценка охватывала три направления:

• Целостность оценки (evaluation integrity) — проверка того, насколько надёжны сами тесты и не может ли модель «жульничать».
• Потеря контроля (loss of control) — способность системы действовать вопреки намерениям оператора или скрывать свои действия.
• Вредоносная манипуляция (harmful manipulation) — склонность модели обманывать, вводить в заблуждение или причинять вред.

Статья опубликована как препринт и ещё не прошла рецензирование.

Контекст: почему открытые модели требуют особого внимания

Закрытые системы (например, GPT-6 Astra) обычно сопровождаются подробными отчётами о безопасности — system cards. Для открытых моделей, веса которых доступны всем, такие проверки проводятся реже, хотя риски никуда не исчезают. Именно этот пробел и восполняет данная работа. Авторы подчёркивают, что с ростом автономности моделей независимые сторонние оценки становятся критически важными.

Практическое значение для пользователей и разработчиков

Результаты оценки помогают лучше понять, насколько можно доверять DeepSeek V4.1 Flash-1017 в задачах, требующих автономности. Например:

• Разработчики агентов (систем, которые сами планируют и выполняют действия) смогут оценить, не выйдет ли модель из-под контроля при выполнении сложных цепочек команд.
• Компании, интегрирующие ИИ в свои продукты, получат дополнительную информацию о рисках манипуляции — особенно в сценариях, где модель взаимодействует с пользователями (чат-боты, рекомендательные системы).
• Исследователи безопасности смогут использовать 5 новых специализированных бенчмарков для тестирования других моделей.

Редакционный вывод: сам факт проведения такой оценки — положительный сигнал. Он означает, что сообщество начинает серьёзно относиться к безопасности открытых моделей, а не только коммерческих «чёрных ящиков».

Что пока неизвестно

В препринте не раскрываются конкретные баллы или выводы по каждому из 34 тестов. Пока нет данных, какие именно сценарии потери контроля или манипуляции удалось выявить, и как DeepSeek V4.1 Flash-1017 соотносится с конкурентами по этим метрикам. Также не указаны авторы работы. Полные результаты появятся только после публикации полного текста статьи.

Источники

• arXiv: 2610.35671