Künstliche Intelligenz (KI) verändert die Cybersicherheitslandschaft rasant, und Microsoft sagt nun, dass dieselbe Technologie, die Unternehmen schneller voranbringt, möglicherweise auch Cyberkriminellen neue Werkzeuge an die Hand gibt. In einem aktuellen Bericht warnte Microsoft Threat Intelligence, dass Bedrohungsakteure zunehmend KI in ihre Angriffsabläufe integrieren und so Abläufe skalieren und Aufgaben automatisieren können, die früher spezielle Fähigkeiten erforderten.
In einer Zeit, in der Unternehmen um den Einsatz von KI in Produktivitätstools, Codierungsplattformen und Unternehmenssystemen wetteifern, scheinen Angreifer ebenso aggressiv zu experimentieren. Der Bericht legt nahe, dass KI nach und nach zu einem „Kraftmultiplikator“ in der Cyberkriminalität wird und Angreifern dabei hilft, alles von der Aufklärung bis zum Social Engineering zu rationalisieren.
Microsoft warnt davor, dass KI moderne Cyberangriffe beschleunigt
Laut Microsoft Threat Intelligence nutzen böswillige Gruppen mittlerweile KI-Tools, um Reibungsverluste in mehreren Phasen eines Cyberangriffs zu reduzieren. Dazu gehören frühzeitige Aufklärung, Phishing-Kampagnen, Malware-Entwicklung und Aktivitäten nach der Kompromittierung, sobald Systeme bereits angegriffen wurden.
Generative KI-Tools, insbesondere große Sprachmodelle, gehören Berichten zufolge zu den am häufigsten missbrauchten Technologien. Angreifer können damit überzeugende Phishing-E-Mails erstellen, gestohlene Informationen übersetzen, große Datenmengen zusammenfassen oder sogar beim Schreiben und Debuggen von Schadcode helfen.
Microsoft stellt fest, dass KI menschliche Bediener nicht vollständig ersetzt. Stattdessen scheinen Bedrohungsakteure es zu nutzen, um Aufgaben zu beschleunigen, die sonst Stunden oder Tage dauern würden. Das Ergebnis sei ein schnellerer und besser skalierbarer Angriffszyklus, so das Unternehmen. Der Bericht hebt auch Aktivitäten im Zusammenhang mit mehreren staatlich unterstützten Gruppen hervor. Berichten zufolge haben einige Angreifer KI eingesetzt, um gefälschte Identitäten zu generieren, Bewerbungen zu schreiben und langfristigen Zugriff auf Zielorganisationen zu erhalten.
Ein weiteres aufkommendes Problem betrifft Versuche, KI-Sicherheitskontrollen zu umgehen. Angreifer experimentieren mit sogenannten „Jailbreak“-Techniken, die Eingabeaufforderungen manipulieren, um KI-Systeme dazu zu bringen, eingeschränkte oder schädliche Ausgaben zu generieren.
Möglicherweise zeichnet sich bereits die nächste Phase KI-gestützter Cyberbedrohungen ab
Mit Blick auf die Zukunft sagt Microsoft, dass zunehmend fortschrittlichere KI-gestützte Bedrohungen auftauchen. Zu den ersten Experimenten gehört Berichten zufolge Malware, die in der Lage ist, Skripte dynamisch zu generieren oder das Verhalten während der Ausführung anzupassen, anstatt sich ausschließlich auf vorab geschriebene Anweisungen zu verlassen.
Forscher beobachten auch die Entwicklung agentenbasierter KI-Systeme, die mehrstufige Aufgaben planen, Ergebnisse bewerten und Aktionen anpassen können, ohne dass dies von Menschen kontrolliert werden kann. Viele dieser Funktionen sind vorerst noch experimentell. Da KI-Tools jedoch immer leistungsfähiger und zugänglicher werden, wird es immer wahrscheinlicher, dass Cyberkriminelle ihre Verwendung immer weiter verfeinern.
*️⃣ Quelllink:
ein aktueller Bericht, KI-gestützte Cyberkriminelle,