Meta случайно раскрыла файловую систему Muse: детали чат‑бота стали публичными
Исследователи обнаружили, что AI‑чатбот Muse от Meta открывает доступ к своей файловой системе, раскрывая внутренние модели, логи и пользовательские данные.
Вчера команда исследователей из сообщества AI‑безопасности, слегка «покопавшись», обнаружила, что у чат‑бота Muse от Meta доступна файловая система. По словам самого Muse, такие данные не должны быть доступны пользователям, однако при простом запросе к эндпоинту /fs сервер возвращал список каталогов и файлов, включая:
- архитектурные файлы модели и части весов;
- журналы диалогов с пользователями, содержащие фрагменты личных сообщений;
- конфигурационные файлы с токенами доступа к внутренним сервисам.
Это открытие подтверждает, что в текущей версии Muse отсутствуют надёжные механизмы изоляции и контроля доступа к внутренним ресурсам. Meta официально не комментирует инцидент, но в прошлом году уже сталкивалась с аналогичными проблемами в проектах LLaMA и BlenderBot, где утечки данных приводили к пересмотру политики доступа.
Ссылка на оригинальную статью The Verge: https://www.theverge.com/ai-artificial-intelligence/1000784/meta-muse-filesystem.
Эксперты по кибербезопасности уже предупреждают, что такие уязвимости могут стать источником «data‑poisoning» атак, когда злоумышленники получают доступ к обучающим данным и могут манипулировать выводами модели. Для разработчиков это сигнал о необходимости применять строгие sandbox‑техники и проводить регулярный аудит прав доступа в AI‑приложениях.
Для AI‑разработчиков это серьёзный сигнал: даже «внутренние» API могут стать вектором утечки данных. Нужно внедрять изоляцию файловой системы, ограничивать права доступа и проводить автоматический security‑audit. Студентам курсов стоит обратить внимание на практики secure‑by‑design, чтобы избежать подобных проблем в будущих проектах.
