OpenAI вводит водяные знаки для ChatGPT в ЕС, API-пользователи смогут выбирать
OpenAI внедряет невидимые водяные знаки для текстов, сгенерированных ChatGPT и Codex, в странах Европейского союза. Для пользователей API по всему миру маркировка станет опциональной — они смогут сами решать, добавлять ли её.
Что произошло
Компания OpenAI подтвердила, что в ответ на требования европейского регулирования (AI Act) она начнёт маркировать тексты, созданные ChatGPT и Codex, невидимыми водяными знаками. Эти знаки будут встроены в ответы для пользователей из ЕС. Для разработчиков, использующих OpenAI API, функция станет опциональной: они смогут включать или отключать водяные знаки по своему усмотрению. Решение распространяется на все страны мира, но в ЕС маркировка будет включена по умолчанию.
Как работают водяные знаки
Водяной знак — это незаметная для человека метка, встраиваемая в текст алгоритмом генерации. Она позволяет впоследствии определить, что текст создан конкретной моделью ИИ. Такая технология помогает отличать машинный контент от человеческого, что важно для борьбы с дезинформацией и соблюдения норм прозрачности. В данном случае маркировка не влияет на читаемость или качество текста.
Почему это важно
Это первый случай, когда крупный разработчик ИИ вводит обязательную маркировку для пользователей целого региона. Редакционный вывод: решение OpenAI демонстрирует, что компания адаптируется к новым регуляциям, но оставляет гибкость для API-клиентов. Это может стать прецедентом для других юрисдикций и повлиять на стандарты прозрачности в индустрии. Однако остаются вопросы о надёжности водяных знаков: насколько легко их можно удалить или изменить.
Что это даёт пользователю
Для обычных пользователей ChatGPT в ЕС ничего не изменится — маркировка будет добавляться автоматически, они её не заметят. Для разработчиков и компаний, использующих API, появляется инструмент для соблюдения локальных требований: они смогут включать водяные знаки, если это необходимо, или отключать, если не требуется. Это особенно актуально для бизнеса, работающего в ЕС или с европейскими клиентами.
Что пока неизвестно
OpenAI не раскрыла точную дату внедрения, технические детали реализации водяных знаков и их устойчивость к попыткам обхода. Также неясно, будет ли маркировка применяться к другим продуктам компании, таким как DALL-E или Whisper. Реакция регуляторов и сообщества разработчиков на опциональность для API пока не последовала.