Wall Street Journalの報道によると、Apple Incは、コンテンツモデレーションツールを備えているという開発者の保証を受けて、BlueMailというAIチャットボット搭載のメールアプリを承認したと報じられています

先週、Appleは、AIを搭載した言語ツールを使用するソフトウェアの機能が、子供にとって不適切なコンテンツを生成する可能性があるかどうかを精査するために、このアプリの承認を延期しました

BlueMailは、OpenAIのChatGPTを使用して、過去のメールやカレンダーイベントのコピーを活用したメール作成の自動化を支援していたため、アップデートがブロックされたのです

AppleはBlueMailに対して、年齢制限を17歳以上に変更するか、コンテンツフィルタリング機能を搭載するよう求めていました

Appleによると、同社は、ユーザーにとって安全な製品を提供するために、各アプリをキュレーションして審査した上でApp Storeに掲載する必要があるとのことです

アプリメーカーのBlix Inc.の共同設立者であるBen Volach氏は、Appleに対して、そのアップデートにはコンテンツモデレーションが含まれているとし、ChatGPTや同様のAIシステムをアプリで使用することに関する新しいポリシーを公開するよう提案しました

報告書によると、BlueMailアプリは4歳以上のユーザーにはまだ利用可能です、これは、AI言語ツールを使用するアプリのコンテンツモデレーションツールや年齢制限の意義を示すものです

Microsoftの検索エンジンBingは最近、AppleのApp StoreとGoogleのAndroid Play Store向けにアプリの更新版（ChatGPTを含む）をリリースしました、Bingアプリは、検索エンジンを通じてアダルトコンテンツを見つけることができるため、17歳以上という制限に設定されています

昨年11月にChatGPTの公開テストを開始したOpenAI社は、チャットボットの能力を利用してアプリや製品のパフォーマンスを上昇させたい企業向けに、有料アクセスを提供するようになりました

開発元によるコンテンツモデレーションの保証を経てBlueMailが承認されたことは、AI言語ツールを使用するアプリにおけるコンテンツモデレーションと年齢制限の重要性が高まっていることを強調しています

これらのツールの利用が広まるにつれ、これらのツールによって生成されたコンテンツの安全性と適切性を確保するために、規制当局やアプリストアからの監視が強化されると思われます