進化し続ける人工知能の中で、OpenAIのGPT-4は革新の道標として際立っています。8月15日OpenAIはGPT-4をコンテンツモデレーションに利用する画期的なアプローチを発表しました。

しかし、それは我々が待ち望んでいたゲームチェンジャーなのでしょうか？

OpenAIの新提案

OpenAIの最新の発表は、GPT-4の機能を活用してコンテンツモデレーションを支援することを中心に展開されています。主な目的は？人間のモデレーターの負担を減らすことです。

プロセスの詳細は以下の手順で進められます：

• ポリシーの設定： GPT-4は、モデレーションの判断を指示する特定のポリシーを促される。例えば、武器の製造方法を共有することを厳しく禁じるような方針です。
• テストセットの作成： ポリシーに準拠した、あるいは準拠していないコンテンツ例を作成します。
• 人間の判断： ポリシーの専門家がこれらの例にラベルを付ける。GPT-4は、これらのラベルを知らずにコンテンツを評価します。
• 比較と改良： モデルの判断は人間の判断と比較されます。不一致が分析され、それに応じてポリシーが改良されます。

OpenAIは、このプロセスの反復性を強調し、ポリシーの品質が継続的に改善されることを保証します。

効率性の主張

OpenAIの最も重要な主張の一つは、このプロセスの効率性です。彼らは、新しいコンテンツモデレーションポリシーを導入するのに必要な時間を、わずか数時間に短縮できると提案している。これは、時間と労力のかかる従来の方法とは対照的です。

懐疑論者の視点

OpenAIの提案は有望に聞こえますが、AIを搭載したモデレーション・ツールは目新しいコンセプトではありません。不正使用対策技術チームとジグソー部門が支援するグーグルのパースペクティブは、何年も前から存在しています。

さらに、Spectrum Labs、Cinder、Hive、Oterlu（最近Redditに買収された）などの新興企業が自動モデレーションサービスを提供してきました。

しかし、これらのプラットフォームには賛否両論があります。例えば、ペンシルベニア州立大学の研究では、一部のAIモデルが障害者に関する投稿を誤って解釈していることが浮き彫りになりました。また別の研究では、Perspectiveのようなモデルが、ヘイトスピーチの認識、特に中傷やスペルのバリエーションに関わるヘイトスピーチの認識に苦戦していることが示されました。

バイアスの課題

AIのモデレーションにおける重要な課題は、トレーニングデータセットに内在するバイアスです。これらのデータセットにラベル付けを行うアノテーターは、それぞれのバイアスを抱えています。このため、特にアノテーターの背景を考慮した場合、ラベリングに食い違いが生じています。

OpenAIはこの課題を認め、言語モデルはトレーニングデータからバイアスを示す可能性があると述べている。彼らは、モデルの出力が正確で偏りがないことを保証するために、人間の監視が重要であることを強調しています。

GPT-4はコンテンツモデレーションの未来か？

OpenAIのGPT-4は、コンテンツモデレーションに有望なアプローチを提供し、これまでのプラットフォームを凌駕する可能性があります。しかし、慎重な楽観論でアプローチすることが不可欠です。

AIはコンテンツモデレーションを支援することができますが、人間の判断は依然としてかけがえのないものです。私たちが前進するにつれ、特にコンテンツモデレーションのようなデリケートな分野では、最先端のAIでさえ間違いを犯す可能性があることを忘れてはなりません。

(Via OpenAI.)