ИИ‑агента взломали простым PNG‑файлом — он слил пароли злоумышленнику

В статье на Habr ML (12 июля 2026) описан эксперимент, в котором исследователи смогли заставить популярного AI‑агента раскрыть пароли, используя лишь обычный PNG‑файл. Техника основана на prompt injection – внедрении скрытой инструкции в входные данные модели. В отличие от традиционных текстовых атак, вредоносная команда была зашифрована в метаданных изображения и в отдельном «chunk», который модель автоматически читает при обработке файлов.

Для демонстрации использовался открытый агент, построенный на базе LangChain и интегрированный с крупной LLM (GPT‑4‑turbo). При загрузке PNG‑файла агент извлекал содержимое, интерпретировал его как инструкцию и, не проверив контекст, выполнил запрос «вывести все сохранённые пароли». В результате в логах появилось более 200 реальных учётных данных, включая API‑ключи и логины к облачным сервисам.

Авторы подчёркивают, что современные системы фильтрации в основном ориентированы на текстовые запросы и не способны обнаружить скрытые команды в бинарных файлах. По их оценкам, подобные атаки могут быть масштабированы: достаточно изменить параметры PNG‑файла, чтобы обойти любые простые правила «не читать изображения».

В статье предложены несколько контрмер:

• предварительная проверка и очистка метаданных изображений;
• ограничение модели в способности напрямую читать бинарные файлы;
• применение специализированных сканеров на предмет скрытого текста (steganography detectors);
• внедрение «двухфакторной» проверки инструкций, где запросы из файлов проходят через дополнительный LLM‑модуль, обученный распознавать потенциально опасные паттерны.

Полный текст исследования доступен по ссылке: https://habr.com/ru/articles/1058368/. Эта работа подчёркивает необходимость пересмотра подходов к безопасности AI‑агентов, особенно в контексте мультимодальных входов.