ChatGPTは、GPT-4という形で大幅にアップデートされました、人工知能チャットボットとやり取りする際に、異なるタイプの入力を使用して情報を要求することができるようになりました

これは、ChatGPTとの対話方法を大幅に改善するはずの大規模なアップグレードです、しかし、気をつけるべき開発がこれだけではありません、OpenAIは数日前に、ChatGPTのプラグインサポートも発表し、初めは限られた数のユーザーが利用できます

これは大したことではないように聞こえるかもしれませんが、プラグインによってChatGPTはライブインターネットを閲覧し、新しいデータを取得できるようになります、OpenAIが高度な言語モデルをトレーニングするために使用した情報が2021年までしかなかったことを考えると、それは驚くべきアップグレードです

インターネットとのライブ接続は、OpenAIが非常に意識している怖いものでもあります、そのため、新しいChatGPT機能をまだ使用できないのです

初期のChatGPT、GoogleのBard、MicrosoftのChatGPT Bingでは、AIチャットボットが誤った情報を提供する可能性があること、また特定の方法で操作される可能性があることが分かっています、これらの企業がAIチャットボットの信頼性と安全性を改善するための取り組みを行っていることもわかっています

GPT-4は、タスクを達成し、コマンドに応答する準備ができ、さらに信頼性の高いバーチャルアシスタントになるための大きな飛躍を遂げました、しかし、このボットはトレーニングに使用されたデータにしかアクセスできません。つまり、ChatGPTはWebを閲覧できないため、最新のデータにアクセスできません

OpenAIは、常にWebに接続されているチャットボットを公開する準備ができていません、しかし、プラグインによってそれに近づくことができます、プラグインの助けを借りて、ChatGPTはユーザーを支援する際に新しい情報を引き出すことができます

例えば、ExpediaやKayakのプラグインを利用して旅行情報を入手することができたり、週末の食事計画を立てたり、外食をしたり、カロリーを抑えるために食事を計画することもできます

OpenAIは、プラグイン機能を発表する際に、実際の例として後者を挙げました。

「完全な例えではありませんが、プラグインは言語モデルの「目と耳」のように機能し、トレーニングデータに含まれない最新の、個人的な、または特定の情報にアクセスできるようにします」とOpenAIはブログ投稿で述べています

「ユーザーの明示的な要求に応じて、プラグインは言語モデルが制約された安全なアクションを代理で実行できるようにすることもできます、これにより、システム全体の有用性が向上します」

しかし、ChatGPTがインターネットからライブデータに接続するというこの驚くべきことが、OpenAIが悪意のある第三者がChatGPTプラグインを悪用しようとする可能性があることを説明しています

私たちは内部および外部の協力者と共にレッドチームの演習を行い、リリースされた場合にはセーフガードなしでプラグインが洗練されたプロンプトインジェクションを実行したり、偽造やスパムメールを送信したり、安全性制限をバイパスしたり、プラグインに送信された情報を誤用する方法を発見しました
これらの発見を使用して、リスキーなプラグインの振る舞いを制限し、ユーザーエクスペリエンスの一部としていつ、どのように操作されているかの透明性を向上させることで、安全性に配慮した設計の対策を講じています、また、これらの発見を使用して、プラグインへのアクセスを徐々に展開することを決定しています

このような警告があるため、ChatGPTプラグインのために開発者やエンドユーザーの両方に待機リストがあります、OpenAIは、ChatGPTの「目と耳」がエンドユーザーにとって安全であることを確認したいと考えています

ChatGPTをプラグインと一緒に使用するには、待機リストに参加して承認される必要があります

開発者やChatGPTユーザーである場合、OpenAIのWebサイトで始めることができます

(Via BGR.)