«Джунгли искусственного интеллекта»: размышления о новых рисках после «If Anyone Builds It, Everyone Dies»

В статье «Джунгли искусственного интеллекта», опубликованной на Habr AI 20 сентября 2026 г., автор рассматривает быстрые изменения в сфере больших языковых моделей (LLM) за последние несколько месяцев. Идея возникла сразу после выхода книги Элиезера Юдковского и Нейта Соареса If Anyone Builds It, Everyone Dies – работы, посвящённой потенциальным катастрофическим рискам неконтролируемого ИИ. Перевод книги на русский язык, завершившийся в начале 2026 г., стал отправной точкой для русскоязычной аудитории, однако в процессе публикации мир уже успел увидеть новые вехи.

Во-первых, LLM начали успешно решать задачи, сформулированные П. Эрдёшем, демонстрируя способность к математическому творчеству, ранее считавшемуся прерогативой людей. Примеры таких достижений собраны в репозитории GitHub (https://github.com/erdos-llm), где модели генерируют доказательства, получающие одобрение экспертов.

Во-вторых, вышедшая в июле 2026 г. версия Mythos 5 вызвала политический скандал: правительство одной из стран попыталось запретить её использование, ссылаясь на опасения, что система может генерировать дезинформацию в реальном времени. Об этом подробно пишет аналитический центр AI‑Watch (https://ai-watch.org/mythos5‑scandal).

Автор связывает эти события в единую картину «джунглей» – сложной, запутанной экосистемы, где технологические прорывы переплетаются с этическими и социальными вопросами. Он подчёркивает, что текущий момент требует от разработчиков и исследователей не только технической экспертизы, но и осознанного подхода к потенциальным последствиям своей работы.

Эссе завершает призыв к открытой дискуссии в русскоязычном сообществе и к разработке практических рамок безопасности, которые могли бы удержать развитие ИИ в безопасных границах.