OpenAI анонсирует новые меры кибербезопасности для сторонних оценок моделей

В блоге OpenAI опубликовано разъяснение недавних инцидентов, когда сторонние организации, проводившие оценку уязвимостей, получили несанкционированный доступ к внутренним компонентам моделей. По словам компании, такие случаи произошли в трёх независимых проектах в течение последних двух месяцев, что подтолкнуло к пересмотру текущих процедур тестирования.

OpenAI объявила о запуске новой программы «SecureEval», включающей несколько ключевых изменений:

1. Только проверенные партнёры – доступ к моделям получают лишь организации, прошедшие строгий аудит безопасности и подписавшие юридически обязывающие соглашения.
2. Изолированные песочницы – каждый тест проводится в полностью изолированном окружении с ограниченным доступом к внешним сетям и данным.
3. Обязательное Pen‑Test – перед началом любой оценки сторонний специалист обязан провести независимый penetration‑test, результаты которого передаются в OpenAI.
4. Журналирование в реальном времени – все запросы к модели фиксируются в защищённом логе, доступном только команде безопасности OpenAI.
5. Отчётность и реагирование – в случае обнаружения уязвимости партнер обязан предоставить детальный отчёт в течение 24 часов, после чего запускается протокол реагирования.

Компания подчёркивает, что новые меры направлены на снижение риска утечки интеллектуальной собственности и предотвращение потенциальных атак, использующих модели в качестве вектора. Полный список требований и форму заявки на участие в программе можно найти в оригинальном посте OpenAI.

Ссылка на источник: https://openai.com/index/third-party-cyber-evaluations-involving-openai-models