Этическая дилемма ИИ: рост экономики vs риск исчезновения человечества

На Habr AI опубликован полный перевод статьи Чарльза Джонса (Charles I. Jones) — «The AI Dilemma: Growth versus Existential Risk», первоначально вышедшей в 2024 году. Автор, известный экономист, рассматривает фундаментальную этическую проблему: может ли человечество обменять ускоренный экономический рост, повышение продолжительности жизни и потенциальный переход к суперинтеллекту на риск полного исчезновения как вида.

В статье предлагается простая математическая модель, где выгода от ИИ (увеличение ВВП, снижение бедности, медицинские прорывы) сравнивается с вероятностью катастрофического сценария (неуправляемый суперинтеллект, глобальная пандемия, экологический коллапс). Джонс показывает, что при текущих оценках «порог риска» может быть достигнут уже при умеренных темпах инвестиций в автономные системы.

Ключевые выводы: 1) необходимо вводить строгие регулятивные рамки уже на ранних стадиях разработки; 2) экономический рост не должен рассматриваться как единственная цель, а как часть более широкой «ценностной функции» общества; 3) междисциплинарные исследования (экономика, философия, безопасность ИИ) должны стать обязательными в академических программах.

Статья вызывает активные дискуссии в научных кругах и среди практиков. Полный текст перевода доступен по ссылке: https://habr.com/ru/articles/1052748/. Автор призывает к открытой публичной дебате, чтобы сформировать коллективный подход к управлению будущим ИИ.