OpenAI распустила команду по оценке готовности моделей к рискам
OpenAI прекратила работу своей команды готовности, отвечавшей за оценку рисков ИИ и разработку мер их смягчения, сообщает Financial Times.
Что произошло?
Согласно материалу Financial Times, в конце прошлого месяца OpenAI распустила Preparedness Team – внутреннюю группу, задачей которой было оценивать потенциальные угрозы, связанные с новыми моделями, и разрабатывать стратегии их нейтрализации. Команда занималась, в частности, анализом сценариев, когда ИИ может выйти из‑под контроля, использовать уязвимости инфраструктуры или стать инструментом кибератак.
Ключевые факты
- Дата распуска: конец июля 2026 года.
- Основные функции команды: оценка рисков, построение планов реагирования, взаимодействие с внешними экспертами по безопасности.
- Отсутствие публичных заявлений: OpenAI пока не опубликовала официального комментария, но в интервью представители компании намекнули на «перестройку процессов безопасности».
- Источник: Financial Times, репортаж The Verge: OpenAI disbands preparedness team.
Почему это важно?
Распуск команды, отвечающей за оценку готовности моделей, может создать пробел в системах контроля рисков. Без централизованного мониторинга потенциальные уязвимости могут оставаться незамеченными, а реакция на инциденты – замедленной. С другой стороны, OpenAI заявила о планах перераспределить функции между другими подразделениями и усилить сотрудничество с внешними исследователями.
Что дальше?
Эксперты советуют следить за обновлениями политики OpenAI, а также самостоятельно внедрять процедуры оценки рисков в свои проекты, используя открытые инструменты и чек‑листы по AI‑безопасности.
Для разработчиков и студентов это сигнал усилить собственные практики оценки рисков: без внутренней команды OpenAI потребуется больше внешних проверок и аудитов. Стоит обратить внимание на открытые фреймворки по AI‑безопасности и активно участвовать в сообществе, чтобы компенсировать потенциальный пробел в защите.
