Anthropic объявил о замедлении разработки ИИ и открытии доступа к моделям для сторонних аудитов
CEO Anthropic Дарио Амодеи предложил трёхэтапный план «постепенного фронтира», обещая дать сторонним оценщикам, включая METR, доступ к своим моделям для проверки соблюдения мер безопасности.
Что произошло?
В интервью для The Verge CEO Anthropic Дарио Амодеи заявил, что настало время «тормозить» развитие искусственного интеллекта. В своей развернутой статье он представил трёхшаговый план, направленный на «постепенный фронтир» – термин, которым он описывает замедление темпов разработки ИИ.
Ключевые пункты плана
- Открытый доступ к моделям – Anthropic предоставит сторонним оценщикам, таким как METR, возможность исследовать и тестировать свои модели. Это позволит независимым экспертам проверять соответствие заявленным практикам безопасности.
- Усиление внутренних протоколов – компания обещает пересмотреть и ужесточить внутренние процессы валидации, включая более строгие критерии выпуска новых функций.
- Публичные отчёты о безопасности – Anthropic будет регулярно публиковать отчёты о проведённых аудиторских проверках и мерах, принятых в результате их рекомендаций.
Почему это важно?
Anthropic – один из лидеров в области больших языковых моделей, конкурирующий с OpenAI, Google и другими. Открытие доступа к своим моделям для сторонних проверок может стать новым стандартом в индустрии, где вопросы безопасности и этики всё чаще становятся предметом регуляторного давления.
Ссылка на оригинал
The Verge – Anthropic CEO says it’s time to pump the brakes on AI
Для разработчиков и студентов это значит, что темпы появления новых функций могут замедлиться, но появятся более надёжные инструменты и открытые аудиты. Возможность работы с проверенными моделями повышает доверие к продуктам, однако компании‑конкуренты могут получить конкурентное преимущество, если сохранят быстрый темп инноваций.
