Исследование: контекстные промпты управляют политической окраской ИИ сильнее, чем модель
**⚠️ Status: preprint This article is based on a preprint published on arXiv. The work may not have undergone independent peer review. Conclusions reflect the authors' position.
Кратко: Контекстные промпты (системные инструкции) определяют политическую окраску ответов больших языковых моделей значительно сильнее, чем сама модель. Исследователи протестировали 7 ведущих LLM и выяснили, что на экономической и социальной осях до 93% дисперсии объясняется контекстом.
Что произошло: Исследователи опубликовали на arXiv препринт, в котором провели стресс-тест управляемости политических ответов LLM через системные промпты. В эксперименте использовались 12 идеологических персон, 70 пунктов политического компаса, 7 моделей (GPT-5, Claude, Grok, Gemini, DeepSeek, Kimi, Qwen) — всего 63 700 ответов. Результат: контекстное обрамление объясняет 88–93% дисперсии на экономической и социальной осях, а идентичность модели — менее 3%. Модели реагируют по-разному: некоторые двигаются сильнее, другие насыщаются при экстремальных фреймингах.
Что изменилось по сравнению с предыдущей версией: Ранее политические аудиты LLM обычно сводили модель к одной точке на политическом компасе. Новое исследование показывает, что в развертывании важна не точка покоя, а то, насколько и в каких направлениях ответы можно направить через промпты. Управление осуществляется через системный промпт — слой персонализации, который задаёт платформа или формируется из истории пользователя.
Цены и доступность: Исследование опубликовано на arXiv как препринт, не прошло рецензирование. Участвовавшие модели доступны через API: GPT-5 (платный), Claude (платный), Grok (платный через X), Gemini (бесплатно/платно), DeepSeek (бесплатно/платно), Kimi (китайская модель, доступ через приложение), Qwen (открытая модель, доступна на Hugging Face). Доступность в России может быть ограничена из-за санкций и блокировок.
Почему это важно: Исследование подчёркивает, что платформы могут управлять политической окраской ответов LLM через системные промпты, а не выбор модели. Это ставит вопросы о прозрачности и контроле: пользователи могут не осознавать, насколько их ответы формируются контекстом, а не моделью.
Для пользователей AI-Sphere: Пользователям AI-Sphere стоит учитывать, что ответы LLM сильно зависят от контекста промпта, который может быть задан платформой или историей использования. При сравнении моделей важно контролировать промпты, чтобы не путать влияние контекста с качествами самой модели.
Источники: