AI‑лидеры и политики требуют замедлить развитие искусственного интеллекта
Экзекутив Дарио Амодей из Anthropic опубликовал эссе «We Must Pace the Frontier», призывая к замедлению ИИ. На его позицию откликнулись главы компаний и законодатели – одни поддерживают, другие против.
В понедельник Дарио Амодей, со‑основатель Anthropic и бывший глава исследований OpenAI, опубликовал масштабное эссе под названием «We Must Pace the Frontier». В нём он аргументирует, что текущая скорость разработки крупных языковых моделей (LLM) превышает возможности общества обеспечить их безопасность и надёжную регулировку. По мнению Амодея, без замедления мы рискуем столкнуться с «неуправляемыми» системами, способными принимать решения, которые трудно предсказать или контролировать.
Эссе быстро нашло отклик в индустрии. Сам Альтман, CEO OpenAI, в твиттере отметил, что «скорость инноваций должна идти рука об руку с ответственностью», но подчеркнул, что «полный стоп‑модельный рост может подорвать конкурентоспособность США». Грег Брокман, со‑основатель и CTO OpenAI, высказался за «гибкую паузу», позволяющую проводить независимые аудиты. Санни Брук, глава DeepMind, заявила, что компания уже внедряет «принципы безопасного масштабирования», но не поддерживает «жёсткие ограничения», которые могут замедлить научный прогресс.
Политики также включились в дискуссию. Сенатор Марк Рот, член Комитета по торговле, поддержал идею Амодея, предложив ввести «AI Development Pause Act», требующий обязательного аудита перед выпуском моделей, превышающих 100 млрд параметров. В то же время Сенатор Джон Келли (R) отметил, что «излишняя регуляция может навредить американским стартапам и укрепить позиции иностранных конкурентов». В Европе Европейская комиссия объявила о подготовке новых рекомендаций к AI Act, которые могут включать требования к «периодическим оценкам риска» для моделей, превышающих определённый порог мощности.
Контекстом служит ускоренный темп релизов: в 2025‑2026 годах вышли GPT‑4o, Gemini 2 и Claude 3, каждый из которых продемонстрировал порядок‑масштабные улучшения в понимании контекста и генерации кода. Инвестиции в крупные модели превысили 200 млрд USD в 2025 году, а количество публикаций по AI‑безопасности выросло на 45 % по сравнению с прошлым годом.
Таким образом, эссе Амодея стало катализатором открытой дискуссии о том, как сбалансировать инновации и безопасность, а также о роли государства в регулировании быстро развивающихся технологий.
Для разработчиков это сигнал к подготовке к более строгим процессам аудита и документирования моделей. Студентам стоит обратить внимание на специализацию в AI‑безопасности и политике, поскольку спрос на такие эксперты будет расти. Ожидаются новые требования к тестированию, прозрачности и оценке рисков, что может замедлить выпуск самых больших моделей, но повысит их надёжность.
