Reddit запускает AI‑модератора: автоматическое управление новыми субреддитами

Reddit объявил о начале поэтапного внедрения AI‑модератора – набора автоматических средств, построенных на больших языковых моделях (LLM). Первоначально технология будет доступна только для новых субреддитов, где она будет помогать модераторам в фильтрации спама, выявлении нарушений правил и предложении действий по модерации. По словам компании, система способна «учиться» специфике каждого сообщества, подстраивая свои рекомендации под локальные правила.

Сегодня Reddit расширил список участников программы: в тесте уже могут принимать участие более 500 опытных модераторов и несколько внешних разработчиков, которые получат API‑доступ к модели. Полный запуск планируется к концу 2026 года, когда AI‑модератор будет интегрирован в AutoModerator, mod‑queue и другие инструменты панели управления.

Технически Reddit использует собственную LLM‑модель, обученную на публичных данных Reddit и дополненную фильтрами по контенту, а также интегрирует сторонние модели от OpenAI и Anthropic через гибкую инфраструктуру. По заявлению компании, система уже способна уменьшить количество вручную проверяемых постов на 30‑40 % в тестовых субреддитах.

Платформа насчитывает более 73 млн ежедневных активных пользователей и 2,2 млн субреддитов, поэтому автоматизация модерации может существенно снизить нагрузку на волонтёров‑модераторов. Однако Reddit предупреждает о рисках: возможные bias моделей, ложные срабатывания и необходимость человеческого контроля. Сообщество уже обсуждает потенциальные угрозы цензуры и прозрачности алгоритмов.

Подробнее о запуске читайте в оригинальном материале The Verge: https://www.theverge.com/tech/975398/reddit-ai-rules-hub-moderator-old-reddit-developer-platform.