導入から1年：SpotifyのAI保護・対策における進捗と現状について
1年前、SpotifyはAI時代においてアーティストとリスナーをスパム、なりすまし、誤解を招くコンテンツ（欺瞞行為）から保護するための取り組みと計画を発表しました。私たちのすべての施策の根底には、「人間の芸術性（Human Artistry）を最優先にする」と言うひとつのコアとなる理念が存在します。
取り組みの開始から1年が経過した現在、私たちが達成した進捗と現状についてお知らせします。
- レコメンドからのスパム・AIスロップ（低品質の生成AIコンテンツ）排除：
AIによって生成されたスパムや低品質コンテンツは、リスナーのレコメンド機能に表示されるべきではありません。Spotifyではリスナー体験を守るためシステムを改修し、今年だけで5,000万曲以上のスパムおよびスロップをレコメンドから排除しました。 - 「Spotify 認証」バッジの展開
ユーザー検索の99%以上をカバーする30万人以上のアーティスト（うち70%以上がインディペンデントアーティスト）が認証を受けました。この認証バッジにより、リスナーは実在するアーティストの音楽であることを確認できます。 - 「AIペルソナ」バッジの導入
AIによって生成されたアイデンティティを持つプロフィールには、AI ペルソナバッジを表示しています。これまでに数千のプロフィールに適用されており、原則としてレコメンドには表示されません。 - 透明性を高める「AIクレジット」の導入
音楽制作プロセスにおいてAIツールがどのように使用されたかを明示できる仕組みを導入しました。現在、毎日数万件の詳細なAIクレジットが登録・表示されています。楽曲クレジットを見ることで、アーティストの創作プロセスにおいてどのパート（楽器や役割）にAIが活用されたのかを確認できます。
これらの進捗は、この1年間で新たに開発したツールやレコメンデーションの改善によってもたらされました。それぞれの具体的な取り組みについて解説します。
人間の芸術性（Human Artistry）の優先
今年、5,000万曲以上のスパム・スロップをレコメンドから排除（深刻な違反行為についてはSpotify上から完全に削除）
今年初め、私たちが「スキップされた曲」「無視された曲」「不快として報告された曲」を詳細に分析したところ、ある明確なパターンが浮かび上がりました。エンゲージメントが極めて低い楽曲の多くが、スパム・スロップとして特定されるコンテンツだったのです。
そこでSpotifyはレコメンドシステムに多数のアップデートを行い、本物の人間によって作られた音楽がより表面化するようにしました。また、社内のプレイリストエディターも同様の基準を設けており、スパム・スロップと判定されたコンテンツを選曲することはありません。
スパム・スロップを単一のシグナルだけで正確に識別することは困難です。そのため、リスナーのエンゲージメントやフィードバック、アップロードのパターン、複数の外部AI検知ソースからの情報、メタデータ解析などを組み合わせた多角的な判断を行っています。
特にAI検知技術には限界があり、生成AIの進化に伴い識別はさらに難しくなっています。しかし、これらのシグナルを組み合わせることで、最善の精度で判定を下すことが可能です。Spotifyでは大量アップロード、重複コンテンツ、SEOの不正操作、スパム目的のユーザープレイリストネットワーク、不正な短尺トラックの乱用などを検知するため、常にシステムを進化させています。今年だけで5,000万曲以上をレコメンドから排除したことで、再生数や新たな発見の機会が本物のアーティストに正しく行き渡るようになりました。
こうした変更以降、ソーシャルメディアやユーザー調査において「レコメンドに不適切なコンテンツが表示される」という懸念の声は目に見えて減少しています。スパムの手口は常に変化するため、私たちは今後もシステムの更新を続けていきます。
AI ペルソナ
数千のAIペルソナを識別・ラベル付けし、AI生成のアイデンティティであることを明示
リスナーからのフィードバックは明確でした。「一見すると人間に思えるアーティストが、実はAI生成されたものだったと後から知るのは望ましくない」という意見です。この声に応え、今年8月に「AI ペルソナ」バッジを発表しました。
先月より、実在の人物ではなくAIによって生成されたと推測されるアーティストのプロフィールにおいてAI ペルソナバッジの表示を開始しました。このバッジは現在、モバイル、デスクトップ、Web版のすべてのリスナーに公開されています。AI生成のアーティストアイデンティティをラベル付けしている主要ストリーミングサービスは現時点でSpotifyのみですが、業界標準として定着させるため、他社サービスにもこのバッジデータを提供・アクセスしやすくする規格化を模索しています。
なお、スパム・スロップ同様、リスナーが自発的にフォローした場合などを除き、AI ペルソナが表示されたアーティストの楽曲が編集プレイリストやアルゴリズムによるレコメンドに自動で含まれることはありません。また、リスナー自身が「AI ペルソナではないか」とプロフィールを報告できる機能の開発も進めています。
Spotify 認証バッジ
30万人以上のアーティストが認証完了（70%以上がインディペンデント）。信頼性の証として機能
今年の4月、私たちは「Verified by Spotify」バッジを導入しました。このバッジは、そのプロフィールの主が「実在する生身のアーティスト」であることをリスナーに伝えるものです。一言で言えば、「この音楽を作っているのは本物の人間である」という証明です。
アーティストの認証にあたっては、主に次の3つの観点から審査を行っています。
- 継続的なファンからのエンゲージメント
- Spotifyのコミュニティ規定・ポリシーの遵守
- 実在性の証明（プロフィール文、連携されたSNSアカウント、ライブ・ツアー情報、グッズ販売など、Spotify内外でのアーティスト活動の形跡）
なお、AI生成曲がメインのプロフィールやAIペルソナを表すプロフィールは、この認証を受けることができません。
リスナーへのコンテキスト提供と信頼の向上
毎日数万件のAIクレジットが提出され、数千のアーティストが「アーティストプロフィール保護」ベータ版に参加
Spotifyは、リスナーが「いま聴いている音楽が誰によって、どのように作られたのか」をより深く知ることができる環境を整えています。AIクレジットを通じて、「AI使用」と大まかに一括りするのではなく、ボーカル、作詞、プロデュースなど、プロセスのどこでAIが使われたのかを正確に確認できるようにしました。現在、アーティストからは毎日数万件のAIクレジットが提出されていますが、その大部分のトラックには人間のクレジットも併記されています。これは、AIが音楽制作を完全に代替するのではなく、「アーティストの制作ツール」として活用される傾向が強まっていることを示しています。
また、新機能「アーティストページの保護」の導入により、アーティストは自らの名義がクレジットされた新規リリースがSpotifyに配信される際、事前の確認・承認が可能になります。これにより、アーティストは自身のプロフィールにどのようなコンテンツが掲載されるかについて最終的な決定権を持つことができます。
ストリーミングサービスとして初となるこの予防的防衛策により、誤ったコンテンツや無断掲載がプロフィールに載るのを未然に防ぐことができます。本ツールは今年末までにすべてのアーティストへ提供を開始する予定です。
ロイヤリティプールの保護
2024年、Spotifyは「楽曲の収益化ポリシー」を導入しました。これは、楽曲供給が爆発的に増加し、数回しか再生されない数億曲のトラックによってロイヤリティプールが希釈される（分配金が薄まる）という将来のトレンドを見越した先手策でした。
現在、この楽曲の収益化ポリシーは、AI生成コンテンツの急増に対する本物のアーティストを守る第一陣の防御線として機能しています。AI生成である可能性が高いシグナルを持つトラックは、通常のトラックと比較して、収益化の要件である「年間1,000回再生」の基準を下回る確率が10倍高いことが分かっています。この仕組みにより、悪意あるユーザーがAI楽曲を大量生成して、本物のアーティストからロイヤリティを奪う行為を困難にしています。
今後に向けて
私たちの取り組みはこれで終わりではありません。AI技術の進化は早く、悪質なアクターも同様に手法を変化させます。しかし、AIによって音楽がより氾濫する時代になればなるほど、リスナーは人間による芸術性の価値をより一層高く評価するようになると信じています。私たちの使命は、Spotifyをリスナーがその本物の芸術性と出会える最高の場所にすることです。
アーティストとリスナーにとってSpotifyを信頼できる場所であり続けるための取り組みの詳細は、新しく開設された Spotify for Artists ページをご覧ください。
