TikTokは、AI生成の肖像類似コンテンツを検出し、クリエイターがそれらを同社に報告できるようにするオプトイン型のツールを試験導入している。
ソーシャルメディアコンサルタントのマット・ナバラ氏によって最初に発見されたとされ、TikTok米国広報担当者はIT系メディア「The Verge」に対し、現在は米国内の一部のクリエイターのみに試験展開されていると話した。
TikTokの試験プログラムに参加しているクリエイターで、このツールを利用したい場合は、まず「Jumio」という企業を通じて本人確認を行う。リアルタイムの自撮りスキャンと身分証明書の確認が求められるが、TikTokは身分証明書を保持せず、顔情報は肖像の一致確認、およびクリエイターの肖像が不正に使用されている可能性の特定にのみ使用されるという。
認証が完了すると、TikTokのツールが、クリエイターの肖像が使用されている可能性のあるAI生成コンテンツをスキャン。クリエイターは検出された候補を確認し、無断投稿などを報告することができる。
YouTubeも同様のツールの開発を進めており、先に全成人ユーザーへの提供を開始した。
（文：坂本 泉）
榎本編集長「TikTokが、AI生成された「本人そっくり」のコンテンツを検出し、クリエイター自身が報告できるツールの試験導入を始めた。注目したいのは、これが通報を待って対処する従来型のモデレーションではなく、プラットフォーム側が能動的に類似コンテンツをスキャンして本人に知らせる仕組みだという点だ。
ディープフェイクの氾濫を前に、プラットフォームの役割は「投稿の場の提供」から「本人性の保護」へと広がりつつある。
YouTubeが同様のツールを全成人ユーザーに開放したことも合わせると、これは一社の実験ではなく業界標準への流れと見てよいだろう。生成AIの進化とともに、誰もが自分の顔の無断利用と隣り合わせになる時代。
肖像を守る仕組みが動画プラットフォームの基本機能になっていく転換点として、この試験導入の行方を見守りたい。」
