Как работают системы модерации запросов в ChatGPT, Claude и Grok

В статье на Habr AI [1] авторы провели практический тест — один запрос с контентом 18+ — и сравнили, как на него реагируют три ведущих AI‑сервиса: ChatGPT, Claude и Grok. Результаты показали, что каждый из них использует собственный набор правил и уровней фильтрации.

1. ChatGPT (OpenAI) применяет многоуровневый подход: сначала проверка на уровне токенов, затем контекстуальный анализ и, в случае сомнений, передача в ручную модерацию. При тесте запрос был полностью отклонён, а пользователь получил сообщение о нарушении политики.
2. Claude (Anthropic) использует «constitutional AI»‑модель, где правила прописаны в виде «конституции». Система дала частичный ответ, отфильтровав лишь наиболее откровенные части, оставив нейтральный контекст.
3. Grok (xAI) сочетает правила OpenAI‑подобного фильтра с динамическим адаптивным модулем, который учитывает текущие тренды в контент‑модерации. В тесте сервис вернул ответ с заменой чувствительных фраз на нейтральные, но сохранил структуру оригинального запроса.

Авторы также разобрали техническую архитектуру: большинство сервисов используют предобученные классификаторы, дополненные правилами в виде списков запрещённых слов и регулярных выражений. Некоторые модели (Claude) интегрируют «правила‑принципы» непосредственно в генеративный процесс, что позволяет более гибко реагировать на неоднозначные запросы.

Статья содержит ссылки на официальные документы OpenAI, Anthropic и xAI, а также примеры кода, показывающие, как можно обойти базовые фильтры (не рекомендуется использовать в продакшене). Полный материал доступен по ссылке: https://habr.com/ru/companies/bothub/articles/1064092/.

Ключевые цифры:

• 1 запрос → 3 разных ответа;
• 2‑3 млн токенов в базе правил у OpenAI;
• 150 правил в «конституции» Claude;
• 0.7 сек — среднее время ответа после фильтрации в Grok.

Эти данные помогают понять, насколько различаются подходы к модерации и какие риски могут возникнуть при интеграции LLM в пользовательские продукты.