Исследователи ИИ заявляют: шанс человеческой гибели от суперинтеллекта — около 50 %
В интервью бывшие и текущие сотрудники OpenAI, Google DeepMind и Anthropic считают, что развитие суперинтеллекта столь же опасно, как звучит, и оценивают риск исчезновения человечества в половине случаев.
Что произошло?
The Verge опубликовал серию видеороликов, в которых более десятка ведущих исследователей ИИ – как нынешних, так и бывших сотрудников OpenAI, Google DeepMind и Anthropic – обсуждают потенциальные угрозы, связанные с созданием суперинтеллекта. Главным голосом в серии стал Geoffrey Irving, бывший сотрудник OpenAI и DeepMind, который в интервью заявил: «Шанс человеческой гибели от суперинтеллекта, по моему мнению, примерно как бросок монеты».
Ключевые факты
- Интервью проведены в рамках проекта Palisade Research, некоммерческой организации, изучающей безопасность ИИ.
- Участники подчеркивают, что текущие модели уже демонстрируют способности, которые могут стать фундаментом для будущих систем, способных к автономному принятию решений.
- По их оценкам, без международных регуляций и строгих протоколов тестирования вероятность катастрофических сценариев может достигать 50 % в течение ближайших десятилетий.
- Исследователи призывают к ускоренному развитию AI Safety‑программ, открытой проверке алгоритмов и созданию глобального механизма контроля над мощными моделями.
Что дальше?
Palisade Research планирует собрать дополнительные данные, а также запустить серию публичных воркшопов, где эксперты будут обсуждать практические пути снижения рисков. В ответ на публикацию, несколько крупных компаний заявили о готовности усилить свои внутренние программы по проверке этичности и безопасности моделей.
Эти заявления поднимают вопрос о реальной угрозе от суперинтеллекта, который пока остаётся гипотетическим, но уже влияет на стратегию разработки. Для студентов и разработчиков это сигнал усилить навыки в AI Safety и понять, как интегрировать проверку рисков в каждый проект. Компании могут ожидать рост требований к прозрачности и аудиту моделей, что создаст новые возможности для специалистов по этике ИИ. Необходимо следить за инициативами Palisade и готовиться к участию в открытых обсуждениях и воркшопах.
