ИИ‑ассистенты: от продуктивного помощника к новому вектору киберугроз

AI‑ассистенты уже давно стали неотъемлемой частью рабочего процесса: они генерируют код, пишут письма, анализируют документы и интегрируются с корпоративными системами. Однако, как отмечают Юрий Туманов (AppSec‑инженер Ростелекома), Игорь Коркин (Positive Technologies) и Оксана Докучаева (ФМБА России) в своей статье на Хабре, каждая новая функция открывает новые пути для злоумышленников.

Оружие в руках хакеров – генеративные модели могут создавать вредоносный код, скрипты для эксплойтов и даже полностью автоматизированные фишинговые кампании. Авторы приводят примеры, когда ИИ‑ассистент генерировал полные цепочки атак, включая поиск уязвимостей, написание эксплойтов и подготовку «социального» контента для обмана жертвы.

Цель атак – корпоративные сети и облачные сервисы, где ИИ уже имеет доступ к конфиденциальным данным. С помощью «prompt injection» злоумышленники могут заставить модель раскрыть секреты, вывести токены доступа или изменить бизнес‑логика приложений.

Чужой голос в браузере – одна из самых тревожных тенденций – подмена голосового ввода в веб‑приложениях. Deepfake‑модели способны в реальном времени имитировать голос пользователя, обходя двухфакторную аутентификацию и системы голосового управления.

Авторы предлагают практические рекомендации: ограничить контекстные запросы к ИИ, использовать «sandbox»‑окружения, внедрять мониторинг «prompt injection», а также применять биометрическую верификацию, не зависящую от голоса. Полный текст статьи доступен по ссылке: https://habr.com/ru/companies/rostelecom/articles/1064994/.