Skip to main content
Гайды
ГайдыModerationSecurity

Настройка AutoMod: шесть фильтров и эскалация за ними

Автоматическая модерация редко подводит в обнаружении, она подводит в реакции. Как работают шесть фильтров и какое наказание подходит к какому нарушению.

Опубликовано автор AlphaCloud3 мин чтения

У автоматической модерации есть базовая проблема: она либо слишком мягкая и ничего не ловит, либо слишком строгая и наказывает людей ни за что. И то, и другое стоит тебе участников, просто по-разному.

Выход не в том, чтобы шлифовать обнаружение, а в том, чтобы выбирать реакцию отдельно для каждого фильтра.

Шесть фильтров

Каждый фильтр работает независимо и имеет собственную ступень эскалации.

Чёрный список ссылок. Блокирует конкретные домены. Классическая защита от рекламы других серверов и от известных мошеннических сайтов.

Фильтр слов. Блокирует конкретные слова. Одна деталь долго не работала и уже исправлена: слова с знаками препинания до или после них никогда не совпадали. Слово в спойлер-разметке тихо проскальзывало, без единой видимой ошибки.

Массовые упоминания. Ловит сообщения, которые пингуют сразу много пользователей или ролей.

Капс-спам. Сообщения, написанные в основном заглавными буквами.

Флуд. Слишком много сообщений за слишком короткое время от одного человека.

Мошеннические шаблоны. Распознаёт типичные мошеннические схемы, например приглашение в личку под видом криптораздачи в духе "I'm giving out $400 worth of solana, message me to get it". Плюс незапрошенная реклама серверов, то есть ссылка-приглашение вместе с упоминанием сообщества, которая ловится даже тогда, когда текст изменили, чтобы обойти фильтр слов.

Эскалация это настоящий рычаг

Для каждого фильтра можно выбрать: удалить, удалить плюс автоматическое предупреждение, тайм-аут, кик или бан.

Ошибка, которую почти все совершают в начале, это одинаковое наказание везде. А ведь именно здесь можно разделить безобидные и настоящие нарушения.

Рабочее начальное распределение:

Фильтр Реакция Обоснование
Капс-спам только удалить Почти всегда эмоции, а не умысел
Флуд удалить плюс тайм-аут Активно мешает, прекращается после паузы
Массовые упоминания удалить плюс предупреждение Редко бывает случайно
Фильтр слов удалить плюс предупреждение Сильно зависит от твоего списка слов
Чёрный список ссылок удалить плюс предупреждение Может быть недосмотром
Мошеннические шаблоны бан Такое никто не постит случайно

Последняя строка важнее всего. С фильтром мошенничества нет правдоподобной причины для ложного срабатывания на настоящем участнике, а аккаунт за этим обычно и так взломан.

Задай исключения до того, как станет больно

Роли, каналы и категории можно исключить. Три исключения нужны практически каждому серверу:

  • Твоя команда из большинства фильтров, иначе модератор, который цитирует нарушение, будет за него наказан
  • Канал рекламы, если он есть, из чёрного списка ссылок
  • Каналы ботов из флуда, где быстрый вывод нормален

Уведомление участнику обязательно, а не для красоты

Когда сообщение исчезает и никто не говорит почему, это выглядит как баг. Поэтому AutoMod всегда показывает затронутому участнику короткое объяснение в канале и по желанию то же объяснение в личном сообщении.

Версия в канале исчезает через несколько секунд, чтобы уведомление само не стало спамом. Личное сообщение остаётся. Оба можно оформить в Message Builder, с причиной и названием сервера в заблокированном блоке: переоформленное сообщение, которое уже не говорит, что на самом деле произошло, было бы получателю бесполезно.

Канал логов это твой контроль

У AutoMod есть собственный канал логов, и в первые недели он важнее любой настройки. Он показывает, что на самом деле ловится, и только так ты понимаешь, правильные ли у тебя пороги.

Честный порядок такой: начать мягко, читать лог, потом ужесточать. Если начать наоборот, ты потеряешь участников из-за ложных срабатываний раньше, чем заметишь, что настройка была слишком строгой.

Все настройки подробно описаны в документации AutoMod.

Другие статьи