Асимптотическая редкость сбоев: как LLM меняют поведение на грани незаметности
**⚠️ Status: preprint This article is based on a preprint published on arXiv. The work may not have undergone independent peer review. Conclusions reflect the authors' position.
Кратко: Исследователи изучили, как языковые модели меняют объяснительную вовлеченность (длину, специфичность, уверенность) при асимптотически редких сбоях в рабочем процессе. Вопреки общей гипотезе, длина ответов в среднем монотонно снижалась, но при условии немедленного принудительного объяснения предсказанный рост подтвердился.
Что произошло
Учёные поставили узкий вопрос: если модель работает в окружении с контролируемой низкой частотой сбоев, меняется ли её объяснительная вовлечённость по мере того, как сбои становятся всё более редкими — вплоть до асимптотической незаметности? Для этого они построили локальный бесстоимостный тестовый стенд на трёх открытых моделях (qwen3:8b, llama3.1:8b, mistral:7b) и запустили повторяющиеся задачи с вызовом инструментов, где один вызов завершался сбоем с вероятностью p. Вероятность варьировали от 0,2 до 0,0001 (восемь значений) при пяти условиях стимулирования — от немедленного запроса объяснения до его отсутствия.
Изначальная гипотеза предполагала рост вовлеченности по мере того, как сбои становятся всё реже, а затем резкий спад вблизи порога обнаружимости. При усреднении по всем условиям картина оказалась иной: длина ответов падала по плоской монотонной кривой. Однако при разделении по условиям результат изменился. В режиме immediate_forced, когда модель обязана объяснять каждый сбой мгновенно, предсказанный рост подтвердился.
Что изменилось по сравнению с предыдущей версией
Предшествующие работы в основном спрашивали, замечает ли модель аномалии вообще. Данное исследование сужает фокус: как меняется качество объяснения, когда сбои становятся настолько редкими, что модель может перестать их воспринимать как значимые события.
Цены и доступность
Исследование выполнено на локальном стенде с нулевой стоимостью вычислений. Все три использованные модели — Qwen3 8B, Llama 3.1 8B и Mistral 7B — являются открытыми и доступны для загрузки и запуска на собственном оборудовании. Препринт опубликован на arXiv и не прошёл рецензирование.
Почему это важно
Результаты указывают на то, что поведение LLM в рабочих процессах с очень редкими ошибками может быть немонотонным и сильно зависеть от способа запроса объяснений. Это критично для систем, где модель используется в автоматическом конвейере и должна адекватно реагировать на исключительные ситуации, даже если они почти не встречаются.
Для пользователей AI-Sphere
Если вы интегрируете открытые LLM в свои продукты, учитывайте, что при низкой частоте сбоев модель может сокращать объяснения, если не требовать их немедленно. Чтобы сохранить детализацию диагностики, стоит принудительно запрашивать пояснение при каждом сбое. Это особенно актуально для задач, где каждая ошибка ценна (например, в финансовых или медицинских системах). Для тестирования можно взять любую из указанных моделей через локальный запуск или через облачные API.
Источники