特に深刻な問題として注目されているのが、人工知能（AI）を使用した「ディープフェイク」による権利侵害です。この問題に対して、アメリカ議会が大手テクノロジー企業への対策強化を求める動きを見せています。

ディープフェイク問題の深刻化と議会の動き

ディープフェイク技術による被害は、著名人から一般市民まで幅広い層に及んでいます。特に深刻なのが、本人の同意なく作成される偽装画像や動画の問題です。最近では人気歌手のTaylor Swift さんが被害に遭うという事件も発生し、大きな社会問題となっています。


このような状況を受けて、米国の超党派の議員グループが行動を起こしました。共和党と民主党の26名の下院議員が連名で、AppleのTim Cook CEO、GoogleのSundar Pichai CEO、そしてMicrosoftのSatya Nadella CEOに対して書簡を送付したのです。

テクノロジー企業の対応と課題

Appleの事例と対応

Appleは、独立系メディア「404 Media」の調査報告を受けて、ディープフェイク作成に使用可能な3つのアプリをApp Storeから削除しました。

しかし、議会からは「なぜApple自身がこれらのアプリを事前に特定できなかったのか」という指摘がなされています。

現在のApp Storeでは、開発者に対してスクリーニングプロセスを設けています。しかし、この事例は既存のガイドラインに抜け穴が存在することを示しています。議会は、これらの問題に対するAppleの具体的な対策と、新たなガイドライン整備の計画について説明を求めています。

Googleの取り組みと残された課題

Googleも今年に入り、ディープフェイクポルノを作成するWebサイトやサービスの広告を禁止する方針を打ち出しました。具体的な対策として：

• AIアプリ開発者に対する不適切なコンテンツ対策の義務付け
• アプリ内での報告機能の実装要求
• 検索結果におけるディープフェイクポルノの評価引き下げ

しかし、これらの対策にもかかわらず、「undress apps（服を脱がせるアプリ）」や「best deepfake nudes（最高のディープフェイクヌード）」といった検索語句に対して、AIを使用した非同意の画像生成アプリの広告が表示されるという問題が報告されています。

今後の展望と対策の方向性

テクノロジー企業が直面している最大の課題は、「二重使用」の問題です。多くのアプリは表向き無害な機能を謳っていますが、プラットフォーム外で有害なコンテンツ作成を促進する可能性があります。

この問題に対する効果的な対策として、以下のような取り組みが考えられます：

• アプリのスクリーニング基準の厳格化
• AIを活用した有害コンテンツの自動検出システムの強化
• ユーザーからの報告システムの改善
• プラットフォーム間での情報共有と協力体制の構築

求められる包括的なアプローチ

単なるアプリの削除や規制強化だけでなく、以下のような包括的なアプローチが必要とされています：

技術的対策の強化：
AIを使用した監視システムの導入や、画像認識技術の向上による有害コンテンツの早期発見が重要です。

法的枠組みの整備：
議会と企業の協力のもと、効果的な規制の枠組みを構築していく必要があります。

教育と啓発：
一般ユーザーへのデジタルリテラシー教育も重要な要素となります。

(Via 404media.)