Google SAFE（Scaled Abuse Forensics Examiner）は、AIで大量生成された低品質なコンテンツ、いわゆる「AIスロップ」を組織的に拡散するチャンネル網を調査するために、Googleが用いる4つのAIエージェントからなるシステムです。2026年9月下旬、Search Engine Journalがこのシステムの導入を報じました。ちょうど9月24日からGoogle検索の2026年9月スパムアップデートが始まった時期と重なったため、「Googleがウェブサイト向けのAIコンテンツ検出機能を手に入れた」かのように受け取る声が出ています。
TOSはGoogleの研究論文を読み込みました。最も重要な点は、SAFEはYouTubeのチャンネルを調査するために作られたものであり、Google検索でウェブサイトを評価するためのものではないということです。ただし、SAFEがAIスロップをどう見分けるかを読むと、GoogleがAI生成コンテンツをどのような基準で見ているかがかなり明確に分かります。AIでコンテンツを制作している企業には、押さえておく価値があります。
要点
- Google SAFEとは：AIスロップの組織的な拡散が疑われるYouTubeチャンネル群を、担当者が調査するのを助ける多エージェントAIシステム。
- すでに稼働しているか：論文に「初期の導入結果」への言及はあるものの、具体的な数値は公表されていません。
- ウェブサイトに影響するか：原典はGoogle検索・ウェブサイト・順位のいずれにも触れていません。
- ウェブサイトが見るべき規定：順位を操作する目的でコンテンツを大量生成する行為（scaled content abuse）に関するGoogle検索のスパムポリシー。
Google SAFEとは
Google SAFEは多エージェントシステム（multi-agent system）です。1つのモデルにすべてを任せるのではなく、調査を複数のAIエージェントに分担させます。各エージェントが1種類の証拠を担当し、統括エージェントがそれらを突き合わせて結論を出します。従来は担当者が手作業で行っていた調査を自動化することが狙いです。
このシステムは、Googleの著者7名による論文「The Synthetic Gap: Automating Forensic Investigation of ‘AI Slop’ with the Scaled Abuse Forensics Examiner (SAFE)」に記載されています。本文はわずか3ページで、Google ResearchのリポジトリにあるこのPDFの作成日は2026年5月28日です。
GoogleがいうAIスロップとは
著者らの定義では、AIスロップとは、プラットフォームの審査体制を飽和させる目的で大量に投入される、AI生成の低品質なコンテンツを指します。こうしたキャンペーンでは通常、連携した複数のアカウントが少しずつ違う版を投稿します。動画が完全に同一ではないため重複フィルターでは捕捉しにくい一方、アカウントの動き方には多くの共通点が残ります。
著者らは、新しいAIコンテンツの手口が現れてからプラットフォームが対応できるまでの遅れを「synthetic gap」と呼んでいます。手作業の調査ではこの速度に追いつけず、その遅れを縮めるためにSAFEが生まれました。
実例：YouTubeの方針も同じ方向です。2025年7月15日、YouTubeはパートナープログラムの「repetitious content（繰り返しの多いコンテンツ）」という方針名を「inauthentic content（実質性のないコンテンツ）」へ変更し、大量生成や反復的な動画は収益化の対象外であることを明確にしました（YouTubeチャンネル収益化ポリシー）。方針が線を引き、SAFEのようなシステムがその線を越えた集団を大規模に見つけ出す、という関係です。
Google SAFEはチャンネル群をどう調べるのか
Google SAFEは、疑わしいチャンネル群を入力として受け取ります。統括エージェントが3つの専門エージェントに作業を割り当て、それぞれが専用のツールでチャンネル情報、アカウントの行動、動画の内容を取得します。最終的な出力は、結論と、担当者向けの調査報告書です。
従来の分類器（classifier）は、多くの場合ひとつの確率スコアを返すだけです。Google SAFEは調査担当者のように動きます。複数種類の証拠を集め、突き合わせ、なぜそのチャンネル群が組織的だと判断できるのかを説明します。
統括エージェント（Root Agent）
システムの中核です。調査対象のチャンネル群を受け取り、3つのエージェントに作業を割り当て、返ってきた内容を検証し、証拠を統合してひとつの問いに答えます。これは組織的なAIコンテンツ拡散のキャンペーンなのか、それとも通常の活動なのか。
コンテンツ分析エージェント
丁寧に作られたAIコンテンツと、大量生産されたAIスロップを見分け、禁止されている類型を特定します。2つの大規模言語モデル（LLM）を使います。
- LoRAで微調整したLLM。既知のポリシー違反を正確に捕捉します。
- 少数の例示で学習するfew-shotのLLM。条文には違反しないものの方針の趣旨に反する内容を、1つ目のモデルをすり抜けた場合でも検出します。
あわせて、チャンネル間で動画の映像・音声・発話をembedding（内容を数値列に変換して類似度を測る手法）で比較し、同じ「製造ライン」の痕跡、とりわけ複数箇所で繰り返される定型台本（slop script）を探します。
行動分析エージェント
チャンネルがいつ、どこから活動しているかを見て、連携の兆候を探します。共通のネットワーク基盤（ASN）や端末の識別情報（device fingerprint）を使っていないか、複数チャンネルが同時に動画をアップロードしていないか、短期間に集中投稿していないかを確認します。
実例：論文には、このエージェントが出しうる結論の例が挙げられています。「全チャンネルが同一のOSバージョンを使用し、同じ5秒間のうちに動画をアップロードした」。独立した制作者がここまで揃うことはまずないため、同一の主体が運営している強い証拠になります。
チャンネル網分析エージェント
チャンネル間の関係をグラフとして扱い、つながりを地図化して共通する基盤を洗い出します。これにより、個々のチャンネルを個別に処理するのではなく、網全体を対象にした調査が可能になります。
正しい理解：Google SAFEは貴社サイトを採点しない
Search Engine Journalの見出し「GoogleがSAFEという新しいAIスパム検出機能を導入」は誤りではありませんが、SEO担当者には誤解を招きやすい表現です。原典と照らすと次のようになります。
| 問い | 論文の記載 |
|---|---|
| SAFEは何のデータを分析するのか | チャンネル群のデータ。構成図にはデータ源として「YT Channel signals」「YT Channel Connections」と動画のメタ情報が明記されています。 |
| Google検索と関係があるか | 論文はGoogle検索・ウェブサイト・順位に一切触れていません。「spam」という語すら使われていません。 |
| すでに導入されているか | 導入済み。要旨に「初期の導入結果」への言及があります。 |
| 効果はどの程度か | 未公表。評価の節では、担当者の判断との一致率、新たに発見された悪用の傾向、処理時間の短縮という指標が挙げられているにとどまります。 |
| 人間の役割は | SAFEは調査担当者を支援する立場です。結論を出すに足りない場合でも、報告書は担当者の処理を速めます。 |
つまりGoogle SAFEは、YouTubeの安全性を守るための道具であり、Google検索のランキング要因ではありません。SAFEとGoogle検索のスパムアップデートを結び付ける見方は、現時点では推測にすぎません。
実例：2026年9月末時点で、Googleは同年に4回のスパムアップデートを実施しています。3月、6月、8月（18〜21日、2日16時間）、そして9月（24日開始、最長2週間程度の見込み）です。SEO専門家のGlenn Gabe氏は、SAFEの論文が2026年5月末付、つまり8月と9月のアップデートより前のものである点を指摘しています。それでもGoogleは、SAFEがGoogle検索で果たす役割について何も公表していません。2026年9月のアップデートでサイトが大きく動いた場合は、SAFEのせいだと決めつけず、Google検索のスパムポリシーに沿って原因を探してください。手順は流入が減ったときの対処法にまとめています。
ウェブサイトが守るべき規定
ウェブサイトに適用されるのはGoogle検索のスパムポリシーです。最も直接関係するのは、順位を操作する目的でコンテンツを大量生成する行為に関する規定です。GoogleはAIの使用そのものを罰しません。問題とされるのは、読者に価値を与えず、主として順位を操作するために大量生産されたコンテンツであり、それがAI・人間・両者のいずれによるものかは問われません。
Googleは2023年2月のAI生成コンテンツに関する方針で、この立場を明確にしています。AIや自動化を適切に使うことはガイドライン違反ではなく、主に順位操作のために使う場合にのみ違反となります。
大量生成とみなされる行為
- 生成AIツールで、利用者に価値を加えないページを大量に作ること。
- フィード、検索結果、他サイトのコンテンツを収集（スクレイピング）してページを量産すること。
- 複数のページから内容をつなぎ合わせ、価値を加えないこと。
- 大量生成を隠すために複数のサイトを立ち上げること。
実例：2024年3月のコアアップデートと3つの新しいスパムポリシー（大量生成、サイトの評判の悪用、期限切れドメインの悪用）を発表した際、Googleは検索結果における低品質で独自性のないコンテンツが40%減ると見込んでいました。完了時にGoogleが示した実測値は45%でした（Googleの発表）。
SAFEとGoogle検索ポリシーの共通点
| SAFEがYouTubeで探すもの | Google検索ポリシー上の対応する行為 |
|---|---|
| 同一の定型台本が複数チャンネルに出現 | 1つのひな形から価値を加えずに量産されたページ |
| 共通の基盤を使うチャンネル網 | 大量生成を隠すための複数サイトの運用 |
| 方針の趣旨に反する内容 | Googleは制作に使った道具ではなく、制作の目的を見る |
ひとつ注意点があります。集中投稿はSAFEがYouTubeのチャンネル群を評価する際に用いる信号です。Googleは、投稿頻度がウェブサイトにとってのスパム信号だとは公表していません。判断を分けるのは、あくまで各ページの価値です。
AIでコンテンツを作る企業がすべきこと
AIは支援の道具と位置づけ、責任・事実・実体験は人が担うべきです。次の5点は、スパムアップデートに強いサイトをつくると同時に、AIに引用されやすい状態にもつながります。
- 責任者を明示する。記事ごとに実在の著者を置き、経歴と関連する専門性を示します。専門的な内容には監修者を加えてください。Googleも有用で信頼できるコンテンツの作成で、誰が・どのように・何のために書いたかを明確にするよう促しています。
- AIには作れないものを足す。自社のデータ、顧客事例、実際の画面、案件から得た学び。これがE-E-A-Tの「経験」にあたります。
- ひな形を数百ページに複製しない。地域別・製品別・キーワード別の自動生成ページは、各ページに固有のデータがある場合にのみ安全です。
- 数値は必ず裏取りし、一次情報を示す。AIは誤った数値を出すことも、作り出すこともあります。公式資料と原論文で確認してください。
- サテライトサイト網をつくらない。複数のサイトやチャンネルで基盤とコンテンツを共有し検索結果を占有する行為は、SAFEもGoogle検索ポリシーも対象としています。
スパムアップデート中の確認手順
- Google検索ステータスダッシュボードで開始日と完了日を確認します。
- Google Search Consoleの「セキュリティと手動による対策」で、手動によるペナルティがないことを確認します。
- 完了後、検索パフォーマンスで、開始前と完了後の同じ長さの2期間を比較します。
- ページ単位で絞り込み、下落したコンテンツ群を上の5原則に照らして見直します。
CNETとSports Illustratedの教訓
実例：米国メディアの2つの事例は、AI利用の不透明さが招く代償を示しています。CNETは2022年11月から、AIツールが書いた金融解説記事77本を「CNET Money Staff」名義で静かに公開しました。誤りが発覚し、編集部は全体を見直して41本を訂正することになりました（CNN）。
2023年11月には、Sports Illustratedが「Drew Ortiz」などの名義で商品レビューを掲載していたことをFuturismが指摘しました。著者の顔写真はAI生成画像の販売サイトで売られていたものでした。同誌は外部パートナーから購入した記事で人が書いたと説明を受けていたとしつつ、記事と著者プロフィールを削除しています（CNN）。
YouTubeでAIを使った動画を出す場合
SAFEが直接作用するのはYouTubeです。ただし対象は、AIスロップを連携して拡散するチャンネル群であり、価値ある動画をAIで制作するブランドチャンネルではありません。混同されないために、次の点を守ってください。
- ブランドチャンネルを1つ育て、似た動画を出すサテライトチャンネルを増やさない。
- 多数のチャンネルを共通のアカウント・端末・基盤で運用しない。行動分析とチャンネル網分析のエージェントが探しているのはまさにこれです。
- 各動画に独自の視点、データ、体験を持たせ、1本の台本の細部だけを差し替える作り方を避ける。
- 実写と見紛うAI生成の映像や音声を含む場合は、開示設定を有効にする。
実例：2024年3月以降、YouTubeは、実在すると誤解されうる合成・加工コンテンツ（クローン音声、顔の差し替え、起きていない出来事の再現など）について開示を求めています。開示するとYouTubeが自動でラベルを付けます。台本の作成、企画出し、自動字幕にAIを使う場合、開示は不要です。
Google SAFEに関するよくあるご質問
Google SAFEはGoogle検索の順位に影響しますか？
影響を示す根拠は現時点でありません。論文はSAFEをYouTubeチャンネル群の調査システムとして記述しており、Google検索・ウェブサイト・順位には触れていません。ウェブサイトに適用されるのはGoogle検索のスパムポリシー、とりわけ大量生成に関する規定です。
GoogleはAIが書いたコンテンツを罰しますか？
読者にとって本当に有用であれば、罰せられません。対象となるのは、価値を加えず主に順位操作のために大量生産されたコンテンツで、AIか人かは問われません。
Google SAFEはどうやってAIスロップを見つけますか？
3種類の証拠を組み合わせます。コンテンツ（既知の違反、方針の趣旨に反する内容、チャンネル間で共通する定型台本）、行動（ネットワーク基盤、端末、同時アップロード）、そしてチャンネル間の関係です。統括エージェントがこれらを統合し、組織的なキャンペーンかどうかを判断します。
2026年9月のスパムアップデートの影響を受けたか、どう確認しますか？
まずGoogle Search Consoleの手動による対策を確認します。ステータスダッシュボードで完了が告知されたら、前後の同じ長さの期間でクリックと表示回数を比較し、ページ単位で下落した群を特定してください。
AIで動画を作るYouTubeチャンネルはSAFEの対象になりますか？
論文によれば、対象は共通基盤・同時アップロード・定型台本といった信号をもつ、連携したチャンネル群です。独自の価値をもつ動画を制作し、必要な開示を行っているブランドチャンネルは、論文が記述している対象ではありません。
Google SAFEから読み取るべきこと
Google SAFEが示しているのは、Googleが「AIが書いた文字」を探しているのではない、ということです。探しているのは、大量生産の痕跡、組織的な連携、そして価値のなさです。それはYouTubeでもGoogle検索でも変わりません。専門家が名前を出し、数値が検証され、実体験が入ったコンテンツは、スパムアップデートに強く、同時にAIが引用したがる種類のコンテンツでもあります。これはTOSがGEO/AIO/SEOサービスで実践している原則そのものです。AI検索での露出をどう測るかはAI Visibility計測ツール8選をご覧ください。
AIでコンテンツを制作されていますか。TOSでは、Googleのスパムポリシーと6つのGEO評価軸に照らしてサイトを点検し、次のアップデートまでに価値を補強すべきページ群をお示しします。
参考資料
- Google: The Synthetic Gap: Automating Forensic Investigation of “AI Slop” with the Scaled Abuse Forensics Examiner (SAFE)（PDF、2026年）
- Search Engine Journal: Google Has Deployed A New AI Spam Detector Called SAFE
- Google Search Central: Google検索のスパムに関するポリシー
- Google Search Central: AI生成コンテンツに関するGoogle検索の方針（2023年2月）
- Google: New updates to address spam and low-quality results（2024年3月）
- YouTubeヘルプ: YouTubeチャンネル収益化ポリシー
- YouTubeヘルプ: 合成または加工されたコンテンツの開示
TOS · Search AI AgencySEO・AIの最新情報を毎日お届け
実務に役立つ内容だけを厳選してお届けします。スパムは送りません。
