Microsoft、ハッカーがフィッシング、マルウェア、偵察を自動化する中、AI がサイバー攻撃を強化していると警告

<本文>

人工知能 (AI) はサイバーセキュリティの状況を急速に再構築しており、マイクロソフトは現在、ビジネスの迅速化を支援する同じテクノロジーがサイバー犯罪者に新しいツールを提供している可能性があると述べています。 Microsoft Threat Intelligence は最近のレポートで、攻撃者が AI を攻撃ワークフローに統合するケースが増えており、これにより、かつては専門的なスキルが必要だった運用を拡大し、タスクを自動化できるようになっていると警告しました。

企業が生産性向上ツール、コーディング プラットフォーム、エンタープライズ システム全体に AI を導入しようと競っている現在、攻撃者も同様に積極的に実験を行っているようです。この報告書は、AI が徐々にサイバー犯罪における「勢力拡大手段」になりつつあり、敵対者が偵察からソーシャル エンジニアリングに至るまであらゆるものを合理化するのに役立っていることを示唆しています。

Microsoft、AI が現代のサイバー攻撃を加速させていると警告

Microsoft Threat Intelligence によると、悪意のあるグループは現在、サイバー攻撃の複数の段階にわたる摩擦を軽減するために AI ツールを使用しています。これには、早期の偵察、フィッシングキャンペーン、マルウェア開発、システムがすでに侵害された後の侵害後の活動が含まれます。

報告によると、生成 AI ツール、特に大規模な言語モデルは、最も悪用されることが多いテクノロジーの 1 つです。攻撃者はこれらを使用して、説得力のあるフィッシングメールを作成したり、盗まれた情報を翻訳したり、大量のデータを要約したり、悪意のあるコードの作成やデバッグを支援したりすることさえできます。

Microsoftは、AIが人間のオペレーターに完全に取って代わるわけではないと指摘している。代わりに、脅威アクターは、通常は数時間または数日かかるタスクを高速化するためにこれを使用しているようです。その結果、攻撃サイクルがより速く、よりスケーラブルになると同社は示唆しています。報告書では、いくつかの国家支援団体に関連した活動も強調している。一部の攻撃者は AI を使用して偽の ID を生成し、求人アプリケーションを作成し、標的となった組織内で長期的なアクセスを維持していると報告されています。

もう 1 つの新たな懸念には、AI の安全制御を回避する試みが含まれます。攻撃者は、プロンプトを操作して AI システムに制限された出力や有害な出力を生成させる、いわゆる「脱獄」技術を実験しています。

AI を利用したサイバー脅威の次の段階がすでに形成されている可能性があります

Microsoft は今後を見据えて、より高度な AI を利用した脅威が表面化し始めていると述べています。初期の実験には、事前に作成された命令に完全に依存するのではなく、スクリプトを動的に生成したり、実行中に動作を適応させたりできるマルウェアが含まれていたと報告されています。

研究者らはまた、人間の監視を限定しながら、複数ステップのタスクを計画し、結果を評価し、アクションを調整できるエージェントベースの AI システムの開発にも注目しています。現時点では、これらの機能の多くは実験段階のままです。しかし、AI ツールがより強力になり、アクセスしやすくなるにつれて、サイバー犯罪者がその使用方法をさらに洗練し続ける可能性がますます高まっているようです。

*️⃣ 出典リンク:

最近のレポート、AI を活用したサイバー犯罪、