OpenAI объясняет, как будет внедрён водяной знак текста для соблюдения EU правил
OpenAI раскрывает детали системы водяных знаков, которые будут автоматически добавляться к генерируемому тексту в ЕС, описывает зоны применения, процесс детекции и стартовый доступ для исследователей.
OpenAI опубликовала подробный пост о том, как компания планирует выполнить требования Европейского регулятора по text provenance. Согласно новому AI Act, поставщики ИИ‑моделей обязаны обеспечивать возможность отслеживания происхождения генерируемого контента.
OpenAI отвечает, внедряя невидимый водяной знак в каждый фрагмент текста, выдаваемый её моделями для пользователей из ЕС. Водяные знаки будут автоматически добавляться на уровне модели и не влияют на смысл или стилистику вывода.
Где применяется:
- Все ответы API, доступные клиентам в странах ЕС;
- Текст, генерируемый в рамках публичных демо‑интерфейсов OpenAI, если пользователь находится в ЕС;
- Пилотные проекты для исследователей, получивших предварительный доступ.
Как работает детекция: OpenAI предоставляет отдельный эндпоинт /v1/text-watermark/detect, который возвращает вероятность наличия водяного знака и уровень уверенности. Детектор использует обученную модель, способную различать оригинальный и помеченный текст без доступа к исходному коду.
Этапы внедрения:
- Сентябрь‑октябрь 2026 г. – ограниченный доступ для исследователей и партнёров;
- Ноябрь 2026 г. – расширение на всех коммерческих клиентов в ЕС;
- Декабрь 2026 г. – публичный API детектора.
OpenAI подчёркивает, что водяные знаки не заменяют юридическую проверку контента, но служат дополнительным уровнем прозрачности и помогают бороться с дезинформацией. Подробнее читайте в оригинальном блоге: https://openai.com/index/eu-text-provenance.
Для разработчиков это значит, что при работе с OpenAI‑моделями в ЕС нужно учитывать наличие скрытого водяного знака – он может влиять на последующие этапы обработки текста, например, при переобучении или анализе. Появление детектора открывает возможности для автоматической проверки соответствия, но также требует тестирования на ложные срабатывания. В целом, шаг повышает готовность к регуляторным требованиям и повышает доверие к ИИ‑продуктам.
