ИИ‑галлюцинация создает опасные имена пакетов: 7 из 139 уже заняты, один – вредоносный
Исследователи проверили 139 названий, одинаково генерируемых пятью новыми ИИ‑моделями, и обнаружили, что 7 уже существуют в PyPI или npm, а один из них был использован для распространения вредоносного кода.
В статье на Habr AI от 28 сентября 2026 г. описан эксперимент, направленный на оценку рисков, связанных с «галлюцинациями» современных генеративных моделей при написании кода. Авторы взяли 139 уникальных названий пакетов, которые пять свежих ИИ‑моделей (включая GPT‑5, Claude‑3, Gemini 1.5 и другие) генерируют одинаково, и проверили их наличие в официальных реестрах PyPI (Python) и npm (JavaScript) 22 сентября 2026 г.
Результаты показали, что из 139 придуманных имён уже заняты 7 реальными проектами. Это значит, что любой пользователь, скопировавший название из подсказки ИИ, может непреднамеренно установить чужой пакет, потенциально содержащий уязвимости. Наиболее тревожный случай – имя metro-evaluator. В декабре 2025 года в npm под этим названием появился пакет с вредоносным кодом, который был удалён спустя пять дней, а вместо него оставили заглушку.
Список всех проверенных имён был опубликован 30 апреля 2026 г. и доступен по ссылке в статье. Авторы подчеркивают, что проблема не ограничивается одной моделью: если несколько ИИ генерируют одинаковое название, риск затрагивает всех пользователей любой из этих систем. Они рекомендуют разработчикам использовать проверку существования пакета в реестре перед автоматическим добавлением зависимостей, а также применять инструменты статического анализа и подписи пакетов.
Полный текст исследования и таблица с результатами доступны на Habr AI: https://habr.com/ru/articles/1087738/
Для разработчиков это сигнал усилить проверку зависимостей: автоматическое добавление пакетов по рекомендациям ИИ теперь требует валидации в реестрах. Студентам стоит помнить о потенциальных угрозах при копировании названий из чат‑ботов. Интеграция подписи пакетов и сканеров безопасности станет обязательным шагом в CI/CD, чтобы избежать случайных инъекций вредоносного кода.
