Кто остановит AGI: законы или мегаватты?
Руководители крупнейших AI‑компаний требуют замедлить развитие мощных систем и предложить независимый контроль, пока политиков и экспертов уже давно тревожат риски AGI.
В последние месяцы в индустрии ИИ усилился голос за «торможение» развития самых мощных моделей. Раньше такие призывы исходили в основном от политиков, учёных‑этиков и общественных организаций. Сейчас же к ним присоединились главы крупнейших AI‑компаний – Sam Altman (OpenAI), Demis Hassabis (DeepMind), Dario Amodei (Anthropic) и другие. В интервью и публичных постах они отмечают, что текущий темп роста вычислительных мощностей (сейчас крупные модели требуют более 1 Эфлопа вычислений и более 100 млрд параметров) может быстро привести к появлению систем, способных к автономному принятию решений без надлежащего контроля.
Согласно заявлению OpenAI, уже в 2025 году планируется запуск GPT‑5, способного к «универсальному» решению задач, что поднимает вопрос о потенциальных рисках. Anthropic предлагает создать «независимый совет по безопасному развитию ИИ», который будет оценивать модели перед их публичным релизом. DeepMind в своей последней статье предлагает ввести обязательный аудит кода и данных, а также обязательный «кнопочный» механизм отключения (kill‑switch) для всех моделей, превышающих определённый порог вычислительной мощности.
В то же время, представители правительств США, ЕС и Китая уже разрабатывают законодательные инициативы, направленные на регулирование «искусственного интеллекта уровня AGI». Предлагается ввести лицензирование для компаний, работающих с моделями более 10 млрд параметров, а также обязательный публичный отчёт о тестах на безопасность.
В статье на Habr AI (https://habr.com/ru/articles/1083538/) подробно рассматриваются аргументы обеих сторон, приводятся примеры текущих инициатив и обсуждаются возможные сценарии развития: от саморегуляции индустрии до жёсткого государственного контроля. Остаётся открытым вопрос, кто именно будет «нажимать на тормоз» – разработчики, регулирующие органы или международные консорциумы.
Для разработчиков и студентов это значит, что в ближайшие годы появятся новые требования к документированию, аудиту и безопасному использованию моделей, а доступ к самым передовым системам может стать более ограниченным.
Для AI‑разработчиков это сигнал к подготовке к новым регулятивным требованиям: понадобится вести более строгий аудит данных и кода, а также документировать механизмы безопасности. Студентам стоит обратить внимание на курсы по AI‑ethics и безопасному развертыванию моделей, поскольку спрос на такие навыки будет расти. Возможные ограничения доступа к самым крупным моделям могут замедлить экспериментальную работу, но одновременно открывают нишу для открытых, проверяемых альтернатив.
