Gemini 3.1 Pro Preview wurde schon vor einer offiziellen Ankündigung entdeckt, aber ein neuer Bericht zeigt, wie Angreifer die KI von Google bereits bei realen Cyberangriffen ausnutzen.
Während die Begeisterung für das Next-Gen-Modell zunimmt, sagen Forscher, dass staatlich unterstützte Hacker Gemini in mehreren Phasen von Einbruchskampagnen aktiv nutzen.
Gemini-KI wird bei staatlich unterstützten Cyberoperationen eingesetzt
Laut BleepingComputer hat das Gemini-KI-Modell von Google Bedrohungsakteure aus China, Iran, Nordkorea und Russland unterstützt.
Die Threat Intelligence Group (GTIG) von Google berichtet, dass Gruppen wie APT31, Temp.HEX, APT42 und UNC2970 Gemini für Aufklärung, Phishing und Malware-Entwicklung genutzt haben.
Berichten zufolge nutzten Angreifer Gemini für:
-
Zielprofilierung und Open-Source-Informationssammlung
-
Generieren von Phishing-Ködern und Übersetzen von Inhalten
-
Schadcode schreiben und debuggen
-
Testen von Schwachstellen und Beheben von Angriffstools
-
Unterstützung der Command-and-Control-Entwicklung und Datenexfiltration
Mit China verbundene Akteure automatisierten angeblich Schwachstellenanalysen und erstellten Testpläne anhand fabrizierter Angriffsszenarien. In einem Fall analysierte Gemini Remote-Codeausführungspfade, WAF-Umgehungsmethoden und SQL-Injection-Ergebnisse, die auf US-amerikanische Unternehmen abzielten.
KI-gestützte Malware-Entwicklung erkannt
Berichten zufolge nutzte die iranische Gruppe APT42 Gemini, um Social-Engineering-Kampagnen zu verbessern und die Entwicklung bösartiger Tools zu beschleunigen.
Forscher fanden auch Hinweise, die auf eine KI-gestützte Entwicklung in Malware-Familien wie CoinBait und HonestCue schließen lassen. Einige Beispiele enthielten Protokollierungsmeldungen mit dem Präfix „Analytics:“, was möglicherweise auf eine automatisierte oder KI-gesteuerte Codegenerierung hinweist.
GTIG geht davon aus, dass einige Malware möglicherweise mithilfe der Lovable AI-Plattform erstellt wurde.
Darüber hinaus nutzten Cyberkriminelle generative KI-Tools in ClickFix-Kampagnen, die AMOS-Datendiebstahl-Malware verbreiteten, die auf macOS-Systeme abzielte.
Groß angelegte Versuche, die Fähigkeiten der Zwillinge auszunutzen
Google beobachtete auch Bemühungen, das Verhalten von Gemini durch Modellextraktionstechniken zu reproduzieren.
In einem Fall nutzten Angreifer mehr als 100.000 Eingabeaufforderungen, um die Fähigkeiten des Modells in alternative Systeme zu destillieren. Diese als Wissensdestillation bekannte Technik ermöglicht es Gegnern, KI-Verhalten in neue Modelle zu übertragen.
Google betrachtet dies als eine Form des Diebstahls geistigen Eigentums und als ernsthafte Bedrohung für AI-as-a-Service-Plattformen.
Als Reaktion darauf deaktivierte Google Konten und Infrastruktur, die mit Missbrauch in Zusammenhang standen, und führte zusätzliche Sicherheitsmaßnahmen ein.
Das Unternehmen gibt an, die Leitplanken von Gemini kontinuierlich zu testen und die Klassifikator-Abwehrmaßnahmen zu aktualisieren, um Missbrauch zu reduzieren.
Mittlerweile haben Forscher auch dokumentiert, dass Hacker legitime Tools wie Outlook-Add-Ins und SharePoint für Phishing-Kampagnen missbrauchen, was einen breiteren Trend verdeutlicht, vertrauenswürdige Plattformen als Waffe einzusetzen.
*️⃣ Quelllink:
Es wurde festgestellt, dass Gemini 3.1 Pro Preview BleepingComputer legitime Tools wie Outlook-Add-Ins und SharePoint für Phishing-Kampagnen missbraucht.