Калифорния готовит закон о «kill switch» для передовых ИИ‑моделей
Губернатор Калифорнии Гэвин Ньюсом подписал указ, создавший экспертную группу, которая за два месяца разработает рекомендации по обязательному «kill switch» для самых мощных ИИ‑систем.
Что произошло?
18 сентября 2026 г. губернатор Калифорнии Гэвин Ньюсом (Democratic) подписал новый исполнительный указ, направленный на усиление надзора за искусственным интеллектом. Указ предписывает штату собрать группу из ведущих экспертов — учёных, инженеров, представителей отрасли и правозащитников — и в течение двух месяцев предоставить рекомендации по внедрению «kill switch» для так называемых frontier моделей ИИ, то есть систем, чьи возможности выходят за рамки текущих нормативных ограничений.
Ключевые детали
- Экспертная группа будет включать представителей крупных AI‑компаний, академических институтов и организаций, занимающихся вопросами этики и безопасности.
- В рекомендациях ожидаются технические критерии для определения, когда модель считается «передовой», а также правовые механизмы обязательного отключения (shutdown) в случае выявления угроз.
- Указ подчёркивает, что Калифорния намерена стать первым штатом в США, который официально предложит законодательный «kill switch», тем самым задав тон национальному диалогу о регулировании ИИ.
- В документе также указано, что штат будет сотрудничать с федеральными органами и другими штатами, чтобы обеспечить совместимость предложений.
Почему это важно?
Калифорния — крупнейший технологический хаб США, где сосредоточены головные офисы OpenAI, Google, Anthropic и многих стартапов. Любой регулятивный прецедент, установленный здесь, может стать моделью для остальных штатов и даже федерального уровня. В то же время, отраслевые лидеры уже выразили опасения: слишком жёсткие требования могут замедлить инновации, а неопределённость в определении «передовой» модели усложнит процесс разработки.
Реакция отрасли
- OpenAI заявила, что готова к диалогу, но подчеркнула, что «kill switch» должен быть технически реализуемым и не нарушать права пользователей.
- Эко-активисты приветствовали инициативу как шаг к предотвращению потенциальных катастрофических сценариев.
- Критики из сферы гражданских свобод опасаются, что такие меры могут стать инструментом цензуры и ограничить свободу исследований.
Что дальше?
Экспертная группа представит свои выводы к концу ноября 2026 года. После этого губернатор Ньюсом может предложить законодательные инициативы, которые потребуют одобрения Калифорнийского законодательного собрания.
Для разработчиков ИИ и студентов AI‑курсов это сигнал, что в ближайшее время появятся **требования к встроенным механизмам безопасного отключения** моделей. Уже сейчас стоит изучать методы graceful shutdown и планировать соответствующую архитектуру, чтобы не столкнуться с регулятивными барьерами. Кроме того, новые правила могут ускорить внедрение практик **AI‑safety** в процесс разработки, но также несут риск замедления инноваций, если требования окажутся слишком жёсткими.
