YouTubeが責任あるAI戦略を発表： ラベル、削除、セーフガード

YouTubeは最近、その巨大な動画プラットフォームに責任を持ってジェネレーティブAIを統合するためのロードマップを明らかにしました。

同社は、chatGPTのような技術の創造的な可能性とリスクの両方を認識しています。YouTubeは、AIの利点とコミュニティの保護のバランスをとることを目指しています。

YouTubeがAI動画に可能性を見出す理由

YouTubeは、AIが新しい形の動画クリエイティビティを解き放つ大きな可能性を秘めていると考えています。同社は、ジェネレーティブAIが視聴者とクリエイターの双方にとってYouTubeの体験をどのように変えることができるかに期待を寄せています。

リアルな合成メディアのリスクへの対応

しかしYouTubeは、AIによって実現される合成メディアは、視聴者が改ざんされたコンテンツやフェイクのコンテンツを識別できない場合にリスクをもたらすことを認めています。

これに対処するため、YouTubeは以下の変更を実施します：

• コンテンツラベル： コンテンツ ラベル：クリエイターは、AI ツールを使用して作成された現実的な合成コンテンツを開示する必要があります。YouTubeはこのコンテンツに適切なラベルを付けます。
• 削除オプション： ユーザーは、自分の肖像権を悪用したAI生成コンテンツの削除を要求することができます。また、音楽パートナーは、アーティストを模倣した合成音声を削除することができます。
• 審査プロセス： 人間とAIのモデレーターが、ポリシーに違反する合成コンテンツを審査します。AIは、新しいタイプの悪用をキャッチするシステムを迅速に訓練するのに役立ちます。

YouTube独自のAIシステムへの責任構築

YouTubeが独自のAI機能を構築するにあたり、同社は責任が非常に重要であると述べています。YouTubeは、AIツールがガイドラインに違反する有害なコンテンツを生成しないことを目指しています。

YouTubeはまた、悪質な行為者が防御をすり抜けようとするため、保護と安全策を継続的に改善する予定です。専門のチームが敵対的テストに注力し、AIシステムを強化します。

(Via YouTube Official Blog.)