AutoMod の設定：6つのフィルターとその裏にある段階的な処分

自動モデレーションには根本的な問題があります。緩すぎて何も捕まえないか、厳しすぎて何もしていない人を罰するかのどちらかです。どちらもメンバーを失う原因になります。失い方が違うだけです。

解決策は、検出を細かく調整することではなく、フィルターごとに対応を別々に選ぶことです。

6つのフィルター

各フィルターは独立して動き、それぞれに独自の処分段階があります。

リンクのブラックリスト。 特定のドメインをブロックします。ほかのサーバーの宣伝や、既知の詐欺サイトに対する定番の防御です。

単語フィルター。 特定の単語をブロックします。長い間うまく動いておらず、現在は修正済みの細かい点が1つあります。前後に句読点が付いた単語が、一度も一致していなかったのです。スポイラーの記号で囲まれた単語は、どこにもエラーが表示されないまま、黙ってすり抜けていました。

大量メンション。 多数のユーザーやロールを一度にメンションするメッセージを捕まえます。

大文字スパム。 ほとんどが大文字で書かれたメッセージです。

メッセージの連投。 同じ人から短時間に送られる、多すぎるメッセージです。

詐欺パターン。 典型的な詐欺の手口を検出します。たとえば「400ドル相当の solana を配っています、受け取りたい人はメッセージをください」といった、暗号資産のギブアウェイを装って DM に誘うものです。さらに、迷惑なサーバーの宣伝、つまり招待リンクとコミュニティへの言及の組み合わせも検出します。単語フィルターを避けるために言い回しを変えていても捕まえます。

本当の決め手は段階的な処分

フィルターごとに、削除、削除と自動警告、タイムアウト、キック、BAN から選べます。

最初にほとんど誰もがする間違いは、どこにも同じ処分を設定することです。しかし、害のない違反と本物の違反を分けられるのは、まさにここなのです。

最初の振り分けとして使える例です：

フィルター	対応	理由
大文字スパム	削除のみ	ほぼ必ず興奮によるもので、悪意ではない
メッセージの連投	削除とタイムアウト	積極的に邪魔になるが、間を置けば止まる
大量メンション	削除と警告	偶然であることはまれ
単語フィルター	削除と警告	単語リストに大きく左右される
リンクのブラックリスト	削除と警告	うっかりの可能性がある
詐欺パターン	BAN	うっかりこれを投稿する人はいない

最後の行が最も重要です。詐欺フィルターでは、本物のメンバーが誤検出される妥当な理由がありませんし、その背後にあるアカウントはたいていすでに乗っ取られています。

痛い目を見る前に除外を設定する

ロール、チャンネル、カテゴリーを除外できます。ほぼすべてのサーバーに必要な除外が3つあります：

• スタッフをほとんどのフィルターから。そうしないと、違反を引用したモデレーターが罰せられてしまいます
• 宣伝用チャンネルがあれば、リンクのブラックリストから
• Bot 用チャンネルを、メッセージの連投から。そこでは素早い出力が普通だからです

メンバーへの通知は飾りではなく必須

メッセージが消えて、誰もその理由を言わなければ、それはバグのように見えます。そのため AutoMod は、対象のメンバーに必ずチャンネル内で短い説明を表示し、任意で同じ説明をダイレクトメッセージでも送ります。

チャンネル内の説明は、通知そのものがスパムにならないよう、数秒後に再び消えます。DM は残ります。どちらもメッセージビルダーでデザインでき、理由とサーバー名はロックされたブロックに入っています。実際に何が起きたのかを伝えなくなった、作り直されたメッセージは、受け取った人にとって何の価値もないからです。

ログチャンネルがあなたのコントロール

AutoMod には専用のログチャンネルがあり、最初の数週間は、どの設定よりもこれが重要です。実際に何が捕まっているのかが分かり、それによってはじめて、しきい値が正しいかどうかが分かります。

正直な順序は、緩く始めて、ログを読み、それから厳しくすることです。逆から始めると、設定が厳しすぎたと気づく前に、誤検出でメンバーを失ってしまいます。

すべての設定の詳細は AutoMod のドキュメントにあります。