しかし、最近AppleのAIニュース要約機能「Apple Intelligence」による重大な誤報が発生し、大きな議論を呼んでいます。この問題は、AIを活用したニュース配信の在り方について、私たちに重要な課題を投げかけています。

衝撃的な誤報：何が起きたのか

事態の発端は、Apple Intelligenceが配信したBBCニュースの要約でした。

この要約では、ニューヨークの医療保険会社CEOの殺人事件に関連して、容疑者のルイジ・マンジョーネ氏が自殺したという誤った情報が配信されました。実際にはそのような事実はなく、完全な誤報でした。

このニュース要約は配信後すぐにソーシャルメディアで拡散され、多くの人々に誤った情報が広まることとなりました。BBCは直ちにAppleに対して抗議し、再発防止を求める事態となっています。

続く問題：イスラエル首相に関する誤報

さらに深刻なことに、これは初めての事例ではありませんでした。11 月 21 日、ニューヨーク・タイムズの記事要約において、ベンヤミン・ネタニヤフ・イスラエル首相が逮捕されたかのような誤った情報が配信されました。

実際の記事は国際刑事裁判所による逮捕状の発行に関するものでしたが、AI要約は事実を大きく歪めてしまいました。

メディアの信頼性への影響

報道機関は長年にわたって築き上げてきた信頼性を何よりも重視しています。BBCは自社の編集方針として、「視聴者の信頼がすべての基盤であり、私たちは独立性、公平性、誠実性を重視している」と明確に述べています。

第三者プラットフォームによる誤った情報の配信は、このような報道機関の信頼性を損なうリスクがあります。特にオンライン上では誤情報が急速に拡散する可能性が高く、自動配信されるニュースの正確性は極めて重要です。

報道の自由を守る団体（RSF）による警告

この問題を受けて、報道の自由を守る団体（RSF）はApple Intelligenceのような生成AI機能の使用を全面的に禁止するよう求めています。RSFのテクノロジー・ジャーナリズム部門責任者は、「AIは確率に基づいて動作する機械であり、事実は確率で決定されるべきではない」と指摘しています。

さらにRSFは、「報道機関の信頼性を損なう自動生成された誤情報は、市民の正確な情報を得る権利を脅かす」と警告を発しています。

AIによるニュース配信の課題

技術的限界

AIは文脈や微妙なニュアンスの理解が苦手です。これは正確な報道において決定的な問題となります。Apple Intelligenceの事例は、現在のAI技術がニュース要約という複雑なタスクに完全に対応できていないことを示しています。

法規制の不備

RSFが指摘するように、EUのAI法案でさえも、情報生成AIをハイリスクシステムとして分類していません。これは重要な法的空白であり、早急な対応が求められています。

今後の展望と対策

この問題は、AIを活用したコンテンツ配信の在り方について、私たちに重要な示唆を与えています。利便性と正確性のバランスをどのように取るべきか、人間による監視をどの程度組み込むべきかなど、多くの課題が浮き彫りになっています。

必要な対策

• AIシステムの徹底的な検証と監視体制の強化
• 誤報が発生した場合の迅速な訂正システムの確立
• 人間による最終確認プロセスの導入
• 透明性の高い運用ガイドラインの策定

(Via Tom’s Guide.)

特に深刻な問題として注目されているのが、人工知能（AI）を使用した「ディープフェイク」による権利侵害です。この問題に対して、アメリカ議会が大手テクノロジー企業への対策強化を求める動きを見せています。

ディープフェイク問題の深刻化と議会の動き

ディープフェイク技術による被害は、著名人から一般市民まで幅広い層に及んでいます。特に深刻なのが、本人の同意なく作成される偽装画像や動画の問題です。最近では人気歌手のTaylor Swift さんが被害に遭うという事件も発生し、大きな社会問題となっています。


このような状況を受けて、米国の超党派の議員グループが行動を起こしました。共和党と民主党の26名の下院議員が連名で、AppleのTim Cook CEO、GoogleのSundar Pichai CEO、そしてMicrosoftのSatya Nadella CEOに対して書簡を送付したのです。

テクノロジー企業の対応と課題

Appleの事例と対応

Appleは、独立系メディア「404 Media」の調査報告を受けて、ディープフェイク作成に使用可能な3つのアプリをApp Storeから削除しました。

しかし、議会からは「なぜApple自身がこれらのアプリを事前に特定できなかったのか」という指摘がなされています。

現在のApp Storeでは、開発者に対してスクリーニングプロセスを設けています。しかし、この事例は既存のガイドラインに抜け穴が存在することを示しています。議会は、これらの問題に対するAppleの具体的な対策と、新たなガイドライン整備の計画について説明を求めています。

Googleの取り組みと残された課題

Googleも今年に入り、ディープフェイクポルノを作成するWebサイトやサービスの広告を禁止する方針を打ち出しました。具体的な対策として：

• AIアプリ開発者に対する不適切なコンテンツ対策の義務付け
• アプリ内での報告機能の実装要求
• 検索結果におけるディープフェイクポルノの評価引き下げ

しかし、これらの対策にもかかわらず、「undress apps（服を脱がせるアプリ）」や「best deepfake nudes（最高のディープフェイクヌード）」といった検索語句に対して、AIを使用した非同意の画像生成アプリの広告が表示されるという問題が報告されています。

今後の展望と対策の方向性

テクノロジー企業が直面している最大の課題は、「二重使用」の問題です。多くのアプリは表向き無害な機能を謳っていますが、プラットフォーム外で有害なコンテンツ作成を促進する可能性があります。

この問題に対する効果的な対策として、以下のような取り組みが考えられます：

• アプリのスクリーニング基準の厳格化
• AIを活用した有害コンテンツの自動検出システムの強化
• ユーザーからの報告システムの改善
• プラットフォーム間での情報共有と協力体制の構築

求められる包括的なアプローチ

単なるアプリの削除や規制強化だけでなく、以下のような包括的なアプローチが必要とされています：

技術的対策の強化：
AIを使用した監視システムの導入や、画像認識技術の向上による有害コンテンツの早期発見が重要です。

法的枠組みの整備：
議会と企業の協力のもと、効果的な規制の枠組みを構築していく必要があります。

教育と啓発：
一般ユーザーへのデジタルリテラシー教育も重要な要素となります。

(Via 404media.)

INDEX

• AppleのAI機能、グローバル展開への挑戦
• Apple Intelligenceとは？
• 地域による展開の差：米国、中国、EU
• 中国とEUでの課題
  • 中国の場合
  • EUの場合
• Appleの対応戦略
• 今後の展望：Apple Intelligenceの未来
• グローバル展開の難しさと今後の可能性

AppleのAI機能、グローバル展開への挑戦

2024年、AppleがWWDC（Worldwide Developers Conference）で発表した画期的なAI機能「Apple Intelligence」が話題を呼んでいます。しかし、その展開には地域によって大きな差があることが明らかになりました。

中国と欧州連合（EU）のユーザーはこのAI機能を利用できない状況にあります。Appleはこれを改善するために規制当局と協力していると発表しました。

Apple Intelligenceとは？

まずは、Apple Intelligenceについて、これは、iPhoneやiPad、Macに搭載される最新のAI（人工知能）機能です。具体的には以下のような機能が含まれています：

1. 高度な自然言語処理
2. 画像認識と生成
3. パーソナライズされた推奨機能
4. デバイス間でのシームレスな連携

これらの機能により、ユーザーエクスペリエンスが大幅に向上することが期待されています。

地域による展開の差：米国、中国、EU

Apple Intelligenceの展開状況は、地域によって大きく異なります。

• 米国：

– 2024年秋のiOS 18およびmacOS 15のアップデートで提供開始
– 英語（米国）での利用が可能

• 中国：

– 完全にブロックされている状態
– データ処理に関する現地法への対応が必要

• EU：

– 完全にブロックされている状態
– プライバシーとセキュリティに関する懸念から提供を見送り

この状況について、AppleのCEOであるTim Cook氏は投資家向けの電話会議で次のように述べています：

私たちは、ご指摘の両方の規制当局と積極的に関わっています。私たちの目標は、常にすべての人に機能を提供することですから、可能な限り迅速に進めたいと考えています。ただし、それを実行し、スケジュールを約束する前に、規制要件を理解する必要があります。両者と非常に建設的に関わっています。

中国とEUでの課題

では、なぜ中国とEUでApple Intelligenceの提供が遅れているのでしょうか？それぞれの地域特有の課題があります。

中国の場合

中国では、データの現地化に関する厳格な法律が存在します。具体的には：

1. データの国内処理義務

– 中国国内で収集されたデータは、中国国内のサーバーで処理する必要がある

2. データの越境移転規制

– 特定のデータを国外に移転する際には、当局の審査が必要

これらの規制に対応するため、Appleは中国国内にデータセンターを設置するなどの対策を講じる必要があります。

EUの場合

EUでは、AI規制法案（AI Act）の策定が進んでいます。この法案は、AIシステムのリスク評価や透明性の確保を企業に求めるもので、以下のような要件が含まれています：

1. AIシステムのリスク分類
2. 高リスクAIシステムに対する厳格な要件
3. 一般的なAIシステムに対する透明性要件

Appleは、Apple IntelligenceがこれらのEUの規制に適合していることを確認する必要があります。

Appleの対応戦略

このような課題に直面しているAppleですが、以下のような戦略で対応を進めています：

1. 規制当局との積極的な対話

– 各地域の規制当局と直接対話し、要件の詳細を把握
– 必要に応じて、機能の調整や追加の安全対策を提案

2. 段階的な展開

– まずは米国英語版でローンチし、その後順次他の言語や地域にも展開
– 2025年にかけて、機能や対応言語を拡大予定

3. ハードウェア要件の最適化

– 最新のデバイス（M1以降のiPadやMac、iPhone 15 Pro以降）で利用可能
– 高度な処理をデバイス上で行うことで、プライバシーとセキュリティを確保

4. 透明性の確保

– 機能の仕組みや、データの取り扱いについて、ユーザーに分かりやすく説明

これらの対応により、Appleは各地域の規制に適合しつつ、革新的な機能を提供することを目指しています。

今後の展望：Apple Intelligenceの未来

Apple Intelligenceの今後について、以下のような展開が予想されます：

1. 言語サポートの拡大

– 2025年にかけて、順次対応言語を増やす予定
– 日本語を含む主要言語のサポートが期待される

2. 機能の拡充

– ユーザーフィードバックを基に、新機能の追加や既存機能の改善を行う
– サードパーティアプリとの連携強化

3. 規制対応の進展

– 中国やEUでの展開に向け、各地域の規制に適合したバージョンを開発
– グローバルでの一貫したユーザーエクスペリエンスの提供を目指す

4. AIエコシステムの構築

– デベロッパー向けのツールや APIを提供し、サードパーティアプリでのAI機能の活用を促進
– AIを活用した新たなアプリやサービスの登場が期待される

グローバル展開の難しさと今後の可能性

Apple Intelligenceの展開は、グローバル企業が直面する規制対応の難しさを如実に示しています。技術的な革新だけでなく、各地域の法律や文化的背景を理解し、適切に対応することが求められているのです。

Appleのような大手テクノロジー企業には、以下のような取り組みが今後さらに重要になると考えられます：

1. 地域ごとのカスタマイズ戦略の強化
2. 規制当局との継続的な対話と協力
3. ユーザープライバシーと革新的機能のバランスの追求
4. グローバルスタンダードの形成に向けたリーダーシップの発揮

Apple Intelligenceの展開は、単にAppleの一製品の話に留まりません。それは、AIの民主化とグローバル化、そして各国の規制との調和という大きな課題に対する、一つの挑戦なのです。

(Via 9to5Mac.)

先月AppleもEUでのAI機能提供を見送ると発表しています、一体何が起きているのでしょうか？

AppleとMetaの決定：何が起こったのか？

Appleの場合

まず、Appleの動きから見ていくと、Appleは今年の秋から、「Apple Intelligence」という新しいAI機能の提供を始める予定でした。しかし先月、EUの国々ではこの機能を提供しないと発表しました。

Appleはその理由として、「デジタル市場法(DMA)がもたらす規制の不確実性」を挙げています。具体的には、以下の3つの機能がEUのユーザーには提供されないことになりました：

1. iPhoneミラーリング
2. SharePlayの画面共有機能の強化
3. Apple Intelligence

ただし、Appleは将来的にEUでこれらの機能を提供する可能性は残しています。

Metaの場合

そして今回、MetaもAppleとほぼ同じ理由で、次世代のAIモデルをEUで提供しないと発表しました。Metaの声明を見てみると：

今後数ヶ月のうちにマルチモーダルLlamaモデルをリリースする予定ですが、ヨーロッパの規制環境の予測不可能な性質のため、EUでは提供しません。

ここで出てきた「マルチモーダル」というのは、映像、音声、画像、テキストなど、複数の種類のデータを処理できるAIのことです。実は、MetaはすでにMeta Ray-Banスマートグラスでこの種のAIを使っています。このグラスは建物やアートワーク、花などを認識できます。

なぜEUだけが対象なのか？

では、なぜAppleもMetaも、EUだけでAI機能の提供を見送ることにしたのでしょうか？その背景には、EUの厳しいデジタル規制があります。

EUのデジタル市場法(DMA)とは？

EUのデジタル市場法(DMA)は、大手テクノロジー企業の力を制限し、より公平な競争環境を作ることを目的とした法律です。この法律は、AppleやMeta、Google、Amazonなどの「ゲートキーパー」と呼ばれる大企業に、特別な義務を課しています。

例えば：

1. 自社のプラットフォームで、他社のアプリやサービスを公平に扱うこと
2. ユーザーデータの取り扱いに関する制限
3. 自社サービスの優遇禁止

これらの規制は、AIの開発と提供にも大きな影響を与える可能性があるのです。

企業側の懸念

AppleもMetaも、EUの規制が「不確実」で「予測不可能」だと言っています。つまり、新しいAI機能を開発しても、それがEUの規制に違反してしまうかもしれない、という不安があるんです。

AIの分野は日々進化しているので、今の規制がAIの未来の姿に適合するかどうかが不透明なんですね。だから、企業としては慎重にならざるを得ないわけです。

この決定が及ぼす影響

AppleとMetaの決定は、単に2つの企業の話で終わりません。この決定は、様々な面で影響を及ぼす可能性があります。

1. EUのユーザーへの影響

まず、EUに住む人たちは、最新のAI機能を使えなくなってしまいます。例えば、Appleの場合、iPhoneの新機能の一部が使えないことになります。

Metaの場合も、FacebookやInstagramで新しいAI機能が使えなくなる可能性があります。

2. AI開発競争への影響

EUでAI機能の提供が遅れると、アメリカや中国などの他の地域と比べて、AI技術の発展に遅れを取る可能性があります。

これは長期的には、EUの技術競争力に影響を与えるかもしれません。

3. 規制のあり方への影響

この決定は、EUの規制当局に対する一種の「警告」とも言えます。つまり、「厳しすぎる規制は技術革新を妨げる可能性がある」というメッセージを送っているのです。

これをきっかけに、AIに関する規制のあり方について、再考が促される可能性があります。

4. ビジネスモデルへの影響

AppleやMetaのような大企業が、地域によって提供するサービスを変えざるを得なくなると、グローバルなビジネスモデルの再考が必要になるかもしれません。これは、他の企業にも波及する可能性がある問題です。

今後の展望：AIと規制のバランスを求めて

この問題は、技術の進歩と社会の規制のバランスをどう取るか、という大きな課題を提起しています。今後以下のような動きが予想されます：

1. EUと企業の対話：

EUの規制当局と企業の間で、より活発な対話が行われるでしょう。お互いの立場を理解し合い、より良い解決策を見つけようとするはずです。

2. AI特有の規制の検討：

現在の規制は、AIの特性を十分に考慮していない可能性があります。AIに特化した、より柔軟な規制の枠組みが検討されるかもしれません。

3. グローバルスタンダードの模索：

AI開発は世界中で行われています。将来的には、国際的に統一されたAI規制の基準が求められるでしょう。

4. 企業の戦略変更：

AppleやMetaのような大企業は、地域ごとに異なる戦略を立てる必要が出てくるかもしれません。これは、グローバル企業の在り方自体に影響を与える可能性があります。

まとめ：AIの未来は私たち次第

AppleとMetaのEUでのAI提供見送りは、一見するとネガティブなニュースに思えるかもしれません。しかし、これは実はAIと社会の関係を考え直す良いきっかけなのです。

AIは私たちの生活を豊かにする可能性を秘めています。同時に、適切な規制も必要です。この両者のバランスを取ることが、これからの大きな課題となるでしょう。

(Via 9to5Mac.)