На arXiv представили CG4AI — фреймворк для обучения ИИ с ограничениями
**⚠️ Status: preprint This article is based on a preprint published on arXiv. The work may not have undergone independent peer review. Conclusions reflect the authors' position.
Что произошло
В архиве препринтов arXiv опубликована работа CG4AI: A Column Generation Framework for Training AI Models Under Constraints. Авторы в доступной записи не указаны. Судя по аннотации, авторы предлагают подход, в котором итоговое предсказание собирается из нескольких моделей, а правила, которым должен удовлетворять результат, задаются заранее как линейные ограничения.
Ключевая идея: вместо одной модели, которая пытается одновременно и минимизировать ошибки, и не нарушать правила, CG4AI строит ансамбль. Веса моделей подбирает главная задача линейного программирования (master LP). Такой способ организации вычислений относится к колоночной генерации (column generation) — методу, который хорошо известен в оптимизации.
Для проверки авторы используют MNIST — набор рукописных цифр. В аннотации перечислены четыре разных способа применения ограничений, среди них: обучение только на ограничениях, повышение устойчивости к состязательным атакам и исправление ошибочно классифицированных примеров. Четвёртый сценарий в доступном фрагменте аннотации не виден из-за обрыва текста.
Как устроен CG4AI
В классическом обучении минимизируется функция потерь. Она показывает, насколько предсказание модели отличается от правильного ответа в обучающей выборке. Но маленькая ошибка не означает, что система не нарушит какое-нибудь правило: например, не выйдет за границы допустимой траектории или не назначит недопустимый ресурс.
CG4AI формулирует задачу иначе. Он ищет выпуклую комбинацию моделей: итоговый выход — это взвешенная сумма выходов отдельных моделей, а веса неотрицательны и в сумме равны единице. Главная линейная программа подбирает эти веса так, чтобы выполнялись линейные ограничения на комбинированный выход.
Если ограничение нарушено, двойственные переменные LP показывают, какие правила нарушены сильнее всего. Подзадача-генератор (pricing subproblem) использует эти сигналы и создаёт новую модель, нацеленную на самые проблемные ограничения. Процедура отсекающих плоскостей (cutting planes) добавляет условия и помогает переносить гарантии выполнимости за пределы обучающей выборки.
Почему это важно
Необходимость соблюдать правила важна для автономных систем и сетевой маршрутизации — оба примера названы в аннотации. Для таких систем мало «в среднем правильно», нужны гарантии, что выход системы не нарушит ограничения даже в нестандартной ситуации.
Редакционный вывод: ценность подхода не в том, чтобы обучить одну «послушную» модель, а в том, чтобы превратить соблюдение правил в отдельную оптимизационную задачу. Если метод оправдает себя, его можно использовать как конструктор: брать обычные модели, комбинировать их под нужные требования, а при появлении новых правил добавлять модели, а не переобучать всё с нуля. Это предположение, следующее из описания метода, а не подтверждённый результат.
Что это даёт пользователю
Если подход подтвердится на практике, возможны такие сценарии.
Во-первых, правила можно задавать на этапе обучения и получать ансамбль, который этим правилам удовлетворяет. Во-вторых, вместо поиска одной архитектуры под все требования можно обучать несколько моделей, каждая из которых закрывает своё проблемное ограничение, и собирать их в единый выход. В-третьих, процедура отсекающих плоскостей потенциально позволяет проверять выполнимость ограничений не только на обучающей выборке, что полезно для оценки поведения системы на новых данных.
В задачах классификации, аналогичных MNIST, ограничения можно использовать для обучения без размеченных примеров, для защиты от состязательных атак и для исправления систематических ошибок. Эти направления перечислены в аннотации как экспериментальные результаты, а не как готовый продукт.
Что пока неизвестно
В открытой записи не указаны авторы препринта. Четвёртый сценарий использования ограничений из списка на MNIST упомянут в аннотации, но текст обрывается, поэтому точная формулировка неясна. Также пока не раскрыты детали реализации генерации новых моделей, сложность метода и его поведение на больших датасетах и тяжёлых моделях. Препринт не прошёл рецензирование.