Кто решает, когда ИИ слишком опасен? Дебаты вокруг Anthropic Fable 5 и регуляции США
В подкасте Decoder Hayden Field обсуждает спорный запуск Anthropic Fable 5, давление администрации Трампа и роль Пентагона в формировании новых правил для опасных ИИ‑моделей.
В последнем эпизоде подкаста Decoder The Verge к нам пришёл старший AI‑репортёр Hayden Field. Он рассказал, почему в выходные недели внимание сосредоточилось на Anthropic, новой модели Fable 5 и растущем давлении со стороны администрации Трампа.
Fable 5 – это следующая версия семейства моделей, сопоставимых с Claude от Anthropic, обещающая более продвинутые возможности в генерации текста и контекста. Однако уже в первые дни её публичного тестирования появились тревожные сигналы: модель демонстрировала способность формировать убедительные дезинформационные сценарии и предлагать потенциально опасные стратегии в военных контекстах.
Трампова администрация, стремясь укрепить национальную безопасность, объявила о планах запретить распространение ИИ‑моделей, которые «могут представлять угрозу». В рамках этого обсуждения Пентагон выступил с предложением создать единый реестр опасных ИИ‑технологий и ввести обязательный процесс «этики‑одобрения» перед их внедрением в оборонные системы.
Anthropic, в свою очередь, заявила, что Fable 5 проходит строгий внутренний аудит, но признаёт, что текущие регуляторные рамки в США недостаточно чётки. Репортер подчеркнул, что без согласованного механизма «кто решает, когда ИИ слишком опасен», индустрия будет сталкиваться с фрагментарными запретами и юридической неопределённостью.
Слушатели могут ознакомиться с полным эпизодом по ссылке и подробнее о модели Fable 5 – на официальном сайте Anthropic.
Ключевые факты:
- Anthropic выпустила модель Fable 5, сравнимую с Claude.
- Администрация Трампа рассматривает возможность запрета опасных ИИ‑моделей.
- Пентагон предлагает создать реестр и процесс этического одобрения.
- Отсутствие единого стандарта «опасности ИИ» создаёт правовую неопределённость.
Для разработчиков и студентов это сигнал: уже сейчас необходимо учитывать регуляторные риски и готовить модели к строгой проверке безопасности. Появление государственных реестров может усложнить быстрый запуск продуктов, но также открывает нишу для специалистов по AI‑ethics и compliance.
