ChatGPT получает улучшения распознавания контекста в чувствительных диалогах

Что изменилось?

OpenAI анонсировала очередное обновление модели ChatGPT, ориентированное на повышение безопасности в разговорных сценариях, где обсуждаются чувствительные темы (например, психическое здоровье, насилие, самоубийство, экстремизм). Новая система сочетает два уровня анализа:

1. Контекстуальное отслеживание – модель теперь сохраняет «память» о предыдущих репликах в пределах сессии, что позволяет ей оценивать эскалацию риска по мере диалога.
2. Динамический риск‑детектор – обученный на расширенном наборе аннотированных примеров, он классифицирует запросы по уровню опасности и активирует соответствующие ограничения.

Ключевые цифры

• Объём тренировочных данных по чувствительным темам увеличен на 45 %.
• Точность выявления рискованных запросов выросла с 78 % до 92 % в тестах OpenAI.
• Время отклика увеличилось лишь на ≈ 120 мс, что незначительно с точки зрения пользовательского опыта.

Как это работает?

При получении сообщения система сначала проверяет, не относится ли оно к «чувствительной категории». Если да, то активируется контекстуальный модуль, который анализирует предшествующие реплики, оценивая, усиливается ли риск. При превышении порога модель автоматически переключается в «защитный режим»: ограничивает детализацию, предлагает обратиться к профессионалам или переадресует запрос в безопасный канал.

Что изменилось для разработчиков?

• Добавлен новый параметр safety_context=true в API, позволяющий включать/выключать расширенный режим.
• Обновлена документация с примерами запросов и рекомендациями по обработке ответов в случае активации защитного режима.

Более подробно о технических деталях и примерах использования можно узнать в официальном блоге OpenAI: https://openai.com/index/chatgpt-recognize-context-in-sensitive-conversations