Anthropic предложил план замедления ИИ: три шага к регулированию
Глава Anthropic Дарио Амодей представил стратегию из трёх пунктов — независимые оценщики, координация отрасли и международные соглашения — чтобы сдержать быстрый рост ИИ. Эксперты обсуждают её реалистичность.
В начале недели лидеры AI‑индустрии, от OpenAI до Google DeepMind, публично заявляли о поддержке более строгих правил. На выходных Дарио Амодей, CEO Anthropic, предложил конкретный трёхэтапный план, который может стать отправной точкой для нового регуляторного курса.
Этап 1 – независимые оценщики в лабораториях. По предложению, каждый крупный исследовательский центр должен принимать сторонних экспертов, которые будут проверять модели на потенциальные риски, такие как предвзятость, возможность злоупотребления и экологический след. Оценщики получат доступ к внутренним метрикам и смогут требовать корректировок до публичного релиза.
Этап 2 – координация внутри страны. Необходимо создать национальный совет, объединяющий компании, академию и правительство, чтобы синхронно разрабатывать стандарты безопасного развертывания и обмениваться лучшими практиками. По словам Амодея, такой механизм уже успешно работает в сфере биотехнологий.
Этап 3 – международные соглашения. На глобальном уровне предлагается сформировать рамочное соглашение, аналогичное Парижскому климатическому договору, где страны обязуются ограничивать «опасные» модели и совместно финансировать исследования в области AI‑безопасности.
Реакция была смешанной: в США сенаторы высказали поддержку, но потребовали более чётких механизмов контроля; в ЕС отмечена готовность к диалогу, однако подчёркнуты опасения по поводу суверенитета данных. Критики указывают на сложность внедрения независимых оценщиков без ущерба для коммерческой тайны и на риск замедления инноваций.
Статья The Verge (2026‑09‑18) подробно разбирает предложения Амодея и их потенциальное влияние на будущие регулятивные инициативы. Ссылка: https://www.theverge.com/ai-artificial-intelligence/997706/the-ai-regulation-smackdown-isnt-over
Для разработчиков и студентов это значит, что в ближайшие годы появятся новые требования к прозрачности моделей и обязательные аудиты. Придётся готовить документацию, открывать доступ к метрикам и, возможно, взаимодействовать с внешними оценщиками. С одной стороны, это повысит доверие к продуктам, с другой – усложнит быстрый вывод новшеств на рынок.
