専門家が OpenAI の新しい ChatGPT Atlas ブラウザのセキュリティ リスクを警告

<本文>

OpenAI は最近、AI を活用した新しい Web ブラウザである ChatGPT Atlas をリリースしました。 AI ブラウザは現在 macOS で利用可能ですが、Android、iOS、Windows バージョンも準備中です。言うまでもなく、Atlas はユーザーが ChatGPT を通じてサービスを直接検索、計画、さらには予約できるようにすることでブラウジングを変革しようとしているため、この発表は多くの人の注目を集めました。

ただし、サイバーセキュリティの専門家はすでに Atlas の潜在的な脆弱性について危険信号を立てています (Fortune 経由)。彼らは、Atlas のような AI ブラウザがプロンプト インジェクション攻撃にさらされる可能性があると警告しています。プロンプト インジェクション攻撃では、悪意のある Web ページが AI に隠された命令を送り、データを抽出したり有害なアクションを実行したりします。

これらの隠されたプロンプトは、AI をだまして個人情報を暴露したり、ユーザーの意図せずに機密アカウントにアクセスさせたりする可能性があります。 「即時注入には常に何らかのリスクが残ります。それは自然言語を解釈するシステムの性質にすぎないからです」と、UCL インタラクション センターのジョージ チャルフーブ助教授は述べています。

OpenAIの最高情報セキュリティ責任者であるデーン・スタッキー氏は、懸念に応えて、同社はこれらのリスクを「非常に慎重に調査し、軽減している」と述べた。 「私たちの長期的な目標は、最も有能で信頼できる、セキュリティ意識の高い同僚や友人を信頼するのと同じように、ChatGPT エージェントを信頼してブラウザを使用できるようにすることです」と Stuckey 氏は付け加えました。

同氏は、OpenAIは重複するガードレール、レッドチーム、迅速な対応システムを導入しているが、「迅速な導入は依然として未解決の未解決のセキュリティ問題である」と認めたと付け加えた。

Atlas ブラウザはもう試しましたか?まだダウンロードしておらず、ダウンロードして使用方法を学びたい場合は、ガイドを参照してください。

*️⃣ 出典リンク:

ChatGPT アトラス、 Fortune、ガイドを確認してください。