OpenAI внедряет невидимую водяную марку для ChatGPT и Codex в ЕС: что нужно знать

В ближайшие недели OpenAI начнет внедрение невидимой водяной марки для текстов ChatGPT и Codex, доступных пользователям в Европейском Союзе. Это решение стало ответом на требования прозрачности, выдвинутые в рамках законодательства ЕС о искусственном интеллекте.

Водяная марка и ее эффективность

Тесты OpenAI показали, что замена определенных слов синонимами может значительно снизить эффективность водяной марки. В одном из экспериментов, при замене 25% слов в 400-токенных английских текстах, уровень обнаружения водяной марки упал с 92% до 17%. Это подчеркивает важность понимания того, как пользователи могут обходить систему. С сегодняшнего дня пользователи API по всему миру могут активировать водяную марку для определенных моделей, хотя по умолчанию она отключена. Однако инструмент для обнаружения текста не будет доступен широкой публике на этапе запуска; он будет ограничен для одобренных исследователей и экспертных организаций.

Что именно внедряется и где

OpenAI сообщает, что водяная марка для ChatGPT и Codex будет доступна только пользователям в ЕС. Изначально функция текстовой водяной марки не станет стандартной для глобального использования. Обновление от 5 октября не уточняет, какие модели входят в опцию API или могут ли пользователи ChatGPT в ЕС отключить водяную марку. Компания также работает с облачными партнерами, чтобы добавить водяную марку к выводам своих моделей через их сервисы в ближайшие недели.

Почему именно ЕС и почему сейчас

Правила прозрачности в рамках статьи 50 Закона о ИИ ЕС начали действовать с 2 августа 2026 года. Европейская комиссия заявляет, что системы ИИ, выходящие на рынок до этой даты, должны соответствовать требованиям по маркировке и обнаружению до 2 декабря. Добровольный Кодекс практики по прозрачности контента, созданного ИИ, предоставляет организациям возможность продемонстрировать свое соответствие. К концу июля около 190 организаций подписали этот кодекс, и OpenAI публично поддержала его в июне.

Тесты OpenAI и их результаты

Метод OpenAI, названный textGrain, добавляет статистический сигнал к выбору слов модели, который может быть обнаружен детектором. При целевом уровне ложных срабатываний в 1% детектор обнаруживал водяную марку в 80% 200-токенных текстов и в 95% 400-токенных текстов, особенно в контенте, связанном с психологией. Однако для математического контента, где выбор слов менее гибок, показатели были значительно ниже. В своих тестах OpenAI отметила, что textGrain показал результаты, сопоставимые или превышающие эффективность других методов, таких как SynthID для текста. Тем не менее, компания подчеркивает, что успехи в идеальных условиях не гарантируют надежности в повседневных ситуациях.

Кто сможет проверить водяную марку

Исследователи и экспертные организации смогут запрашивать доступ к детектору текста OpenAI, который будет предоставляться на основе индивидуальных заявок. Инструмент сообщает, обнаружена ли водяная марка OpenAI, но не раскрывает идентичности пользователей или их запросов и чатов. OpenAI отмечает, что из-за риска пропуска водяных марок и потенциальных ложных срабатываний, инструмент не будет доступен широкой публике на этапе запуска.

Сравнение с другими системами

Anthropic маркирует текст, созданный поддерживаемыми моделями Claude по всему миру. В отличие от OpenAI, у них пока нет надежного способа ограничить водяную марку по регионам. Это подчеркивает различия в подходах к внедрению и доступу к водяной марке между OpenAI и Anthropic.

Важность и будущее водяной марки

Агентство с авторами в Берлине и Торонто, использующее один и тот же план ChatGPT, может вскоре обнаружить, что часть их текстов имеет водяную марку OpenAI из одного офиса, но не из другого. Это создает юридические и этические вопросы, особенно если контрактные условия или политика ИИ рассматривают результат обнаружения как доказательство авторства текста. OpenAI планирует расширить доступ к детектору, когда будет уверена, что результаты можно интерпретировать ответственно. С началом внедрения водяной марки в ЕС в ближайшие недели, команды, работающие с персоналом из ЕС на ChatGPT, могут начать создавать помеченный контент, который только одобренные исследователи и экспертные организации смогут проверять.