Googles Threat Intelligence Group hat zum ersten Mal eine kriminelle Hackergruppe entdeckt, die einen von künstlicher Intelligenz gebauten Zero-Day-Exploit live eingesetzt hat. Damit wurde ein geplanter Massenangriff neutralisiert, bevor er starten konnte.
Dieser Fund ist Teil eines größeren Berichts, der zeigt, dass Angreifer große Sprachmodelle inzwischen in jede Phase eines Angriffs einbauen. Verteidiger versuchen daher, ihre eigenen KI-Lösungen in denselben Kampf zu bringen.
So funktionierte der KI-Zero-Day-Exploit
Der bösartige Code wurde in Python geschrieben und umging Zwei-Faktor-Authentifizierung (2FA) bei einem bekannten Open-Source-Tool für Systemadministratoren. Google hat den betroffenen Anbieter bisher nicht genannt.
Folgen Sie uns auf X, um die neuesten Nachrichten direkt zu erhalten
Mehrere Hinweise deuteten auf einen großen Sprachmodell-Autor hin. Das Skript enthielt erklärende docstrings wie in Tutorials und eine erfundene Common Vulnerability Scoring System (CVSS)-Bewertung, die kein menschlicher Forscher so erstellen würde.
Google erklärte, dass das eigene Gemini-Modell nicht zum Einsatz kam. GTIG-Chefanalyst John Hultquist warnte, dass unauffälligere, von KI unterstützte Angriffe möglicherweise bereits laufen, ohne entdeckt zu werden.
„Jede neue Generation von Modellen wird die Notwendigkeit für von Experten entwickelte Hilfsmittel verringern, aber sie sind fast sicher bereits im Einsatz. Wir müssen die Grenzen unserer Einblickmöglichkeiten in die Hintergründe von Spionen und Kriminellen erkennen. Die Anzeichen werden nicht offensichtlich sein. Das Rennen hat bereits begonnen”, sagte er.
So reagieren Verteidiger
Im selben Bericht wurden auch russisch verbundene Malware-Familien wie PROMPTFLUX und PROMPTSPY genannt, darunter eine Android-Hintertür, die Gemini in Echtzeit kontaktiert, um ihren nächsten Schritt zu planen.
Staatlich verbundene chinesische und nordkoreanische Gruppen trainieren zudem private Modelle mit einem Datensatz von 85.000 Schwachstellen.
Google reagiert mit Big Sleep, einem KI-Agenten, der Zero-Days findet, bevor Angreifer sie entdecken, und CodeMender, einem automatisierten Patch-System. Big Sleep konnte bereits eine Sicherheitslücke schließen, die Hacker angreifen wollten.
Warum die Krypto-Community aufpassen sollte
Der Abstand zwischen Angriff und Verteidigung wächst. Binance Research hat zuletzt festgestellt, dass KI-Agenten Smart Contracts doppelt so effektiv ausnutzen, wie sie Bedrohungen erkennen können.
Frühere Berichte zeigten, wie Google-KI-Tools .
Angesichts dieser Entwicklungen setzen Börsen eigene KI-Schutzsysteme ein, der Aufwand steigt jedoch kontinuierlich.
Da inzwischen auf beiden Seiten autonome Agenten eingesetzt werden, könnte der nächste Zero-Day sowohl von Maschinen der Angreifer als auch von Maschinen der Verteidiger stammen.
