top of page
DEU_Industrial-AI-Blog_755x120_itbusinessat.gif

KI-Agenten automatisieren immer mehr Schritte bei Cyberangriffen

vor 4 Tagen
4 Min. Lesezeit

KI-Agenten übernehmen bei Cyberangriffen zunehmend Aufgaben, die bisher menschliches Eingreifen erforderten. Die Google Threat Intelligence Group (GTIG) und Mandiant beobachten den Einsatz autonomer Multi-Agenten-Systeme bei realen Angriffen sowie automatisierte Verfahren zur Schwachstellensuche und Exploit-Entwicklung. Erstmals identifizierte GTIG dabei ein Framework, das Schwachstellen selbstständig analysiert, Exploits entwickelt und diese ohne menschliches Eingreifen ausführt.



Abbildungen: Google Threat Intelligence Group (GTIG)
Abbildungen: Google Threat Intelligence Group (GTIG)

Der aktuelle „AI Threat Tracker“ beschreibt eine Verschiebung von der einfachen Nutzung großer Sprachmodelle hin zu autonomen Abläufen. Angreifer setzen Open-Source-Frameworks wie CAIRN, CyberStrikeAI und PentAGI ein, um einzelne Phasen von Angriffen zu automatisieren. GTIG hat CAIRN und PentAGI bereits im praktischen Einsatz beobachtet, bei CyberStrikeAI und HexStrike AI wurden Experimente von Angreifern festgestellt.


CAIRN kam unter anderem bei Angriffen auf Ziele im US-amerikanischen Luft- und Raumfahrtsektor zum Einsatz. Das Framework arbeitet mit mehreren spezialisierten Agenten, die gemeinsam auf ein Angriffsziel hinarbeiten. PentAGI wurde zwischen Ende August und Anfang Oktober 2026 von einem Angreifer als Basis einer angepassten Plattform genutzt, mit der systematisch Organisationen in Asien ausgespäht und auf Schwachstellen untersucht wurden.



Erstmals Exploit-Entwicklung ohne menschliches Eingreifen


Eine neue Stufe der Automatisierung beobachtete GTIG bei der Schwachstellenanalyse. Im vergangenen Quartal identifizierten die Forscher erstmals Angreifer, die LLM-Frameworks für eine vollständig automatisierte Suche und Ausnutzung von Schwachstellen ohne menschliches Eingreifen verwendeten.

Auf einem offen zugänglichen Staging-Server entdeckte GTIG ein Multi-Agenten-Framework mit der Bezeichnung exploit_agent. Es ist mit mehreren leistungsfähigen und lokalen LLMs verbunden und darauf ausgelegt, kontinuierlich verschiedene Versionen verbreiteter Webanwendungen zu vergleichen.

Das System untersucht Code vor und nach der Veröffentlichung von Patches, analysiert die Unterschiede auf mögliche Schwachstellen, erstellt daraus Exploits und führt diese anschließend automatisch aus. Auf dem Server fanden die Forscher außerdem Skripte für Aktivitäten nach einer erfolgreichen Kompromittierung, darunter interne Aufklärung, Brute-Force-Angriffe, die Installation von Webshells sowie das Entfernen von Webshells anderer Angreifer.

Telemetriedaten deuteten darauf hin, dass der Betreiber insbesondere französische Websites aus der Medien- und Unterhaltungsbranche sowie dem Bildungsbereich ins Visier nahm.



Zahl der Zero-Day-Exploits steigt im August auf 22


Die zunehmende Nutzung von LLMs zeigt sich auch in den von GTIG untersuchten Schwachstellenzahlen. Zwischen Jänner und August 2026 haben sich die gesamten Veröffentlichungen von Schwachstellen und Exploits laut der Analyse nahezu verdoppelt.

Bei Zero-Day-Exploits fiel der Anstieg zunächst geringer aus. Während 2025 durchschnittlich acht Zero-Day-Exploits pro Monat verzeichnet wurden, waren es 2026 durchschnittlich elf. Im August 2026 stieg die Zahl allerdings auf 22.

GTIG sieht insbesondere bei bereits gepatchten Schwachstellen Potenzial für stärkere Automatisierung. KI-Systeme können unterschiedliche Codeversionen, Release Notes, Sicherheitsanalysen und vorhandenen Proof-of-Concept-Code vergleichen. Dadurch lässt sich die Zeit zwischen der Veröffentlichung eines Patches und der Entwicklung eines funktionsfähigen Exploits verkürzen.

Gleichzeitig entstehen durch LLMs zahlreiche vermeintliche Exploits, die nicht funktionieren. Bei zwei im Oktober 2026 veröffentlichten PHP-Schwachstellen erschienen in den ersten Tagen nach dem offiziellen Patch Hunderte behauptete, aber nicht funktionsfähige Proofs of Concept, die laut GTIG wahrscheinlich mit Unterstützung von LLMs erstellt wurden.



KI-Plattform soll mehr als 100.000 Konten steuern


KI wird jedoch nicht nur für technische Angriffe eingesetzt. GTIG beobachtet auch eine stärkere Integration von LLMs in Informationsoperationen. Staatlich unterstützte Gruppen, kommerzielle Anbieter von „Influence-as-a-Service“ und andere Akteure verwenden die Systeme unter anderem für synthetische Inhalte, automatisierte Verteilung und den Aufbau entsprechender Infrastruktur.

Bei einer Untersuchung identifizierte GTIG einen kommerziellen Anbieter, der die Gemini API zusammen mit weiteren KI-Diensten bei der Entwicklung einer Plattform einsetzte, die mehr als 100.000 Konten auf großen Plattformen verwalten sollte. Die Architektur kombinierte automatisierte Agenten, Verfahren zur Umgehung von Erkennung, die Manipulation von Gerätekennungen und Cloud-basierte Smartphone-Farmen.

Virtuelle Smartphones sollten dabei wie reale Mobilgeräte erscheinen. Neu erstellte Konten sollten zudem zunächst eine automatisierte Alterungsphase durchlaufen. LLMs sollten realistisches Nutzerverhalten simulieren – etwa wie lange ein Nutzer einen Beitrag betrachtet, scrollt oder mit Inhalten interagiert –, bevor die Konten für gezielte Botschaften verwendet werden.

Bei der Erzeugung von Bildern sollten bewusst typische Fehler von Smartphone-Kameras simuliert werden, darunter Bildrauschen und ungleichmäßige Lichtverhältnisse.



LLMJacking verursacht bis zu eine Million Dollar Kosten


Ein weiterer Bereich ist der Missbrauch fremder KI- und Cloud-Ressourcen. Mandiant bearbeitete 2026 mehrere sogenannte LLMJacking-Vorfälle, bei denen finanziell motivierte Angreifer Cloud-Umgebungen kompromittierten und die Rechen- beziehungsweise LLM-Kontingente der betroffenen Organisationen verwendeten.

Der finanzielle Schaden kann dabei schnell steigen. In einzelnen Fällen lagen die betrügerisch verursachten Kosten an einem einzigen Tag bei mehr als 100.000 US-Dollar. Bei den schwerwiegendsten beobachteten Fällen erreichte der kumulierte Ressourcenmissbrauch vor der Behebung bis zu eine Million US-Dollar.

In einem untersuchten Fall erzeugte ein Botnet oder Proxy-Dienst innerhalb von rund 24 Stunden Millionen LLM-API-Aufrufe, bevor die verwendeten Zugangsdaten gesperrt wurden.

Parallel dazu beobachtet GTIG sogenannte „LLM Mixers“. Diese illegalen Dienste verkaufen Zugang zu LLM-Angeboten und leiten Anfragen dafür über gestohlene Zugangsdaten und kompromittierte Rechenressourcen. Bei untersuchten Angeboten auf russisch- und chinesischsprachigen Untergrundmarktplätzen reichten die beworbenen Preise von 0,10 bis 25 US-Dollar pro Million Tokens.



Die Beobachtungen zeigen damit mehrere Entwicklungen gleichzeitig: KI-Agenten automatisieren zunehmend einzelne Schritte realer Cyberangriffe, LLMs werden für die Entwicklung von Exploits und den Aufbau von Informationsoperationen eingesetzt, und gestohlene KI-Ressourcen entwickeln sich zu einem eigenen Geschäftsmodell. Gleichzeitig weist GTIG darauf hin, dass autonome Angriffswerkzeuge derzeit Geschwindigkeit gegen Tarnung eintauschen: Ihre automatisierte Ausführung hinterlässt erkennbare Spuren und kann damit auch die Entdeckung und Abwehr erleichtern.



it&d business Redaktion



Kommentare


bottom of page