Microsoft、暗号化された AI チャットを公開する可能性のある「ウィスパー リーク」の脆弱性を詳細

<本文>

暗号化された AI チャットでさえ、あなたが思っているほどプライベートではない可能性があることが判明しました。 Microsoft のセキュリティ研究者は、「Whisper Leak」と呼ばれる脆弱性の詳細を発表しました。この脆弱性により、攻撃者はトランスポート層セキュリティ (TLS) を介してユーザーが AI チャットボットと話している内容を推測できるようになります。恐ろしいのは、攻撃者はメッセージを 1 つも復号する必要がないことです。

詳細なレポートによると、OpenAI、Mistral、xAI、DeepSeek の AI アシスタントはすべて、このサイドチャネル攻撃に対して脆弱でした。その仕組みは次のとおりです。 AI チャットは暗号化されたままですが、ユーザーとチャットボット間で交換されるデータ パケットのサイズとリズムによって会話のトピックが明らかになる可能性があります。

言い換えれば、攻撃者はチャット トラフィックの「パターン」を研究して、会話の内容を非常に正確に推測できる可能性があります。この問題は、現代の AI チャットボットが人間の自然な会話を模倣するために応答を単語ごとにストリーミングする方法に遡ります。

このライブ ストリーミング動作により、十分なサンプルがあれば測定して解釈できるデータ パターンが作成されます。 Microsoft のテストでは、交通データでトレーニングされた AI モデルが 98% 以上の精度でトピックを推測できました。さらに悪いことに、時間の経過とともに精度が向上します。攻撃者がより多くの会話を監視するにつれて、攻撃者のシステムは学習して適応します。つまり、将来の推測はさらに正確になります。

幸いなことに、Microsoft は、すべての企業がこの脆弱性を認識しており、すでにパッチを適用していると述べています。 OpenAI、Microsoft、Mistral は「データ パディング」を実装しました。知らない人のために説明すると、これは検出可能なパターンを妨害するための小さなランダムなテキストです。これは、無線信号に静電気を加えると考えてください。メッセージはまだ聞こえますが、部外者がそれを簡単に分析することはできません。

ユーザーの観点から、Microsoft は信頼できるネットワークに参加し、VPN を使用し、公衆 Wi-Fi 上で機密性の高い議論を避けることを推奨しています。技術的な詳細はすべてここで読むことができます。

*️⃣ 出典リンク:

「ウィスパー リーク」、、 トランスポート層セキュリティ (TLS)、