Открыт внешний фильтр для LLM: AVI защищает от промпт‑атак и нарушений закона
Разработчики выпустили на GitHub сервис AVI — независимый от модели фильтр, который проверяет запросы и ответы LLM на токсичность, этичность и соответствие законодательству, работает через FastAPI и Docker.
В прошлом году в сообществе AI‑разработчиков был анонсирован концепт AVI (Aligned/Agreement Validation Interface) – внешний, гибкий и полностью независимый от модели фильтр, который выступает в роли «умного файрвола» для больших языковых моделей. Он предназначен для двух задач: 1) блокировать prompt‑атаки на входе и 2) проверять ответы модели на токсичность, этичность и соответствие законодательству.
Сейчас команда разработчиков завершила архитектурную доработку идеи и опубликовала полностью рабочий сервис на GitHub: https://github.com/avi-filter/avi-service. Проект реализован на Python с использованием FastAPI и поставляется в виде готовой Docker‑сборки. Основные компоненты:
- Входной фильтр – проверяет запрос пользователя, отсекая запрещённые темы и потенциально опасные конструкции;
- Выходной фильтр – анализирует сгенерированный текст, оценивая его на токсичность, нарушение прав и законов;
- RAG‑модуль – при необходимости привлекает внешние источники (базы знаний, законодательные документы) для более точной валидации;
- Мониторинг – встроенный UI для наблюдения за метриками фильтрации и отладки.
Проект ориентирован на простую интеграцию: достаточно добавить эндпоинты сервиса в пайплайн любой LLM, независимо от её архитектуры (GPT‑4, LLaMA, Gemini и др.). Авторы обещают открытый roadmap, поддержку новых правил и возможность кастомизации под конкретные юрисдикции.
Что дальше? Планируется добавить поддержку асинхронных запросов, расширить набор проверок (например, финансовый комплаенс) и выпустить SDK для популярных фреймворков (LangChain, HuggingFace).
Для разработчиков LLM AVI открывает простой способ обеспечить юридическую и этическую безопасность без необходимости дообучать модели. Студенты курсов смогут экспериментировать с фильтрацией в реальных проектах, а компании получат готовый слой комплаенса, хотя стоит учитывать дополнительную задержку и необходимость поддерживать сервис в актуальном состоянии.
