OpenAI внедряет невидимые водяные знаки в тексты ChatGPT и Codex для ЕС

OpenAI объявила о начале развертывания textGrain — системы невидимых, машинно‑читаемых водяных знаков, которые автоматически внедряются в каждый сгенерированный текстовый ответ ChatGPT и Codex. Первоначально функция будет доступна только пользователям из Европейского союза, что связано с требованием EU AI Act о маркировке генеративного контента.

Технология основана на скрытом паттерне, который не виден глазу, но может быть обнаружен специальными детекторами. По словам OpenAI, textGrain «соответствует или превосходит» аналогичные решения, такие как SynthID от Google DeepMind и недавно анонсированный водяной знак от Anthropic. Это делает его одним из самых надёжных методов идентификации ИИ‑созданного текста.

Для разработчиков OpenAI предоставляет API‑эндпоинт для проверки наличия водяного знака, а также открытый GitHub‑репозиторий с образцами кода детектора. Это позволит интегрировать проверку в существующие пайплайны, например, в системы модерации контента, plagiarism‑детекторы и инструменты аудита.

OpenAI подчёркивает, что внедрение watermark не меняет качество или стиль генерируемого текста — пользователи не заметят никаких различий. Однако в случае судебных разбирательств или расследований, наличие watermark может служить доказательством происхождения контента.

Ссылки:

• Официальный блог OpenAI: https://openai.com/blog/text-grain-watermark
• EU AI Act (текст): https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206
• SynthID от DeepMind: https://deepmind.com/blog/article/synthid
• Anthropic watermark announcement: https://www.anthropic.com/news/watermark

Эта инициатива открывает новую страницу в области этики и регулирования ИИ, делая процесс генерации более прозрачным и поддающимся аудиту.