„Menschen sind nicht unfehlbar – AI ist es auch nicht“
AI verändert die Cybersecurity mit enormer Geschwindigkeit. Doch mehr AI bedeutet nicht automatisch intelligentere Angriffe. Im Exklusivinterview mit it&d business erklären Christopher Fielder und Dennis Pielken von Arctic Wolf, warum Angreifer durch AI teilweise sogar „fauler“ werden, weshalb bereits 60 Prozent der Security-Alerts automatisiert bearbeitet werden und warum menschliche Expertise trotzdem unverzichtbar bleibt.
AI beschleunigt die Cybersecurity auf beiden Seiten. Angreifer können schneller Exploits entwickeln und benötigen dafür teilweise deutlich weniger Know-how als früher. Gleichzeitig setzen Verteidiger AI ein, um große Mengen an Security-Alerts zu analysieren und automatisiert darauf zu reagieren. Für Christopher Fielder und Dennis Pielken von Arctic Wolf liegt die entscheidende Frage deshalb nicht darin, ob AI den Menschen ersetzt. Vielmehr geht es darum, wo Maschinen selbstständig entscheiden können – und wann der Mensch übernehmen muss.
Christopher Fielder ist Field Chief Technology Officer bei Arctic Wolf und verantwortet als Editor-in-Chief auch die Security Reports des Unternehmens. Er arbeitet seit 2001 in der Cybersecurity und war unter anderem für die US Air Force und die Central Intelligence Agency tätig sowie als Penetration Tester und Incident Responder. Seit 2020 ist er bei Arctic Wolf.
Dennis Pielken ist Director Concierge Security Services EMEA bei Arctic Wolf. Er verfügt über rund 18 Jahre Erfahrung in der Cybersecurity und war vor seiner Tätigkeit bei Arctic Wolf insbesondere im Bereich Digital Forensics tätig – von Endpoint- bis zu Network-Forensics.
Herr Fielder, Herr Pielken, was verändert sich 2026 tatsächlich in der Cybersecurity?
Christopher Fielder: Wenn ich es auf zwei Buchstaben reduzieren müsste, wäre die Antwort: AI. Wir sehen praktisch täglich Veränderungen darin, wie wir Bedrohungen identifizieren, wie wir darauf reagieren und wie neue Bedrohungen entwickelt werden.
Gleichzeitig dürfen wir aber die Grundlagen nicht vergessen. Viele der fundamentalen Prinzipien der Cybersecurity gelten weiterhin. Defense in Depth bleibt wichtig, Vertraulichkeit, Integrität und Verfügbarkeit bleiben wichtig – und vor allem dürfen wir den menschlichen Faktor nicht verlieren.
Was sich wirklich verändert, sind die Geschwindigkeit und die Menge der Bedrohungen. Deshalb müssen auch Erkennung und Reaktion zunehmend mit Maschinengeschwindigkeit erfolgen. Wir werden nicht alles verhindern können. Umso wichtiger ist es, Angriffe möglichst schnell zu erkennen, darauf zu reagieren und ihre Auswirkungen zu begrenzen.
Sehen Sie durch AI tatsächlich neue Angriffsmethoden – oder vor allem eine Beschleunigung dessen, was es bereits gibt?
Dennis Pielken: Der Begriff „Machine Speed“ braucht aus meiner Sicht etwas Differenzierung. Natürlich macht AI beispielsweise die Entwicklung von Exploits einfacher. Die Einstiegshürde sinkt und die Zeit von der Entdeckung einer Schwachstelle bis zu ihrer möglichen Ausnutzung hat sich massiv verkürzt.
Aber es gibt auch Angriffe, bei denen Geschwindigkeit gar nicht das Ziel ist. Denken Sie an Living-off-the-Land-Techniken. Dort versucht ein Angreifer, vorhandene Werkzeuge und Funktionen eines Systems zu nutzen und möglichst unauffällig zu bleiben.
Wer sich unbemerkt bewegen will, muss langsam sein. Deshalb werden solche Angriffe durch AI nicht automatisch schneller.
Was AI aber definitiv verändert, ist die Zahl der Menschen, die solche Angriffe durchführen können. Man benötigt weniger Spezialwissen, und viele Schritte können automatisiert werden. Dadurch muss nicht mehr permanent ein Mensch vor der Tastatur sitzen.
Christopher Fielder: Ich würde sogar sagen: Wir sehen sehr viel mehr Angriffsversuche, aber die Angreifer werden dadurch nicht flächendeckend schlauer.
Viele werden eher fauler, weil sie AI die Arbeit erledigen lassen.
Früher musste ein Angreifer lernen, wie man ein System ausnutzt, eine Schwachstelle identifiziert und bestimmte Werkzeuge verwendet. Heute greifen viele auf vorhandene Anleitungen, Videos und AI zurück.
Im Grunde sehen wir damit eine neue Generation von „Script Kiddies“ – nur dass AI ihnen einen großen Teil der Arbeit abnimmt.
Das heißt aber nicht, dass Unternehmen sicherer sind. Denn wenn Hightech-Methoden nicht funktionieren, greifen Angreifer weiterhin zu Lowtech – Social Engineering und Phishing funktionieren nach wie vor. Der Angriff auf MGM Resorts ist dafür ein gutes Beispiel: Berichten zufolge identifizierten die Angreifer einen Mitarbeiter und nutzten anschließend Social Engineering beim Helpdesk, um Zugriff auf dessen Account zu erhalten.
Das zeigt: Wir müssen uns auf beide Seiten vorbereiten – auf hochautomatisierte Angriffe ebenso wie auf sehr einfache Methoden.
Auf der Verteidigerseite ist Automatisierung damit ebenfalls unumgänglich. Wie viel kann AI heute tatsächlich übernehmen?
Christopher Fielder: In unserem aktuellen Security Operations Report sehen wir, dass rund
60 Prozent der Alerts im Arctic Wolf SOC vollständig automatisiert durch AI bearbeitet werden können.
Dort ist kein menschlicher Eingriff erforderlich.
Bei weiteren 38 Prozent arbeitet AI gemeinsam mit einem Menschen. Die AI sammelt und korreliert Informationen und bereitet die Entscheidung vor, aber am Ende trifft ein Mensch die endgültige Entscheidung.
Die verbleibenden zwei Prozent gehen unmittelbar an den Menschen. Das sind hochkritische Situationen, etwa eine aktive Bedrohung, bei der wir gar nicht erst versuchen, die Entscheidung vollständig der AI zu überlassen.
Entscheidend ist letztlich das Vertrauen in die jeweilige Entscheidung. Je höher die Sicherheit des Systems ist, desto stärker können wir automatisieren. Sobald Zweifel bestehen, muss ein Mensch eingebunden werden.
Herr Pielken, was kann AI dabei besser als ein menschlicher Analyst?
Dennis Pielken: Ein gutes Beispiel ist Alert Fatigue. Wenn ein Analyst über Stunden immer wieder ähnliche Alerts untersucht und viele davon False Positives sind, steigt irgendwann die Wahrscheinlichkeit eines Fehlers. Menschen ermüden bei repetitiven Aufgaben.
Genau dort ist AI sehr stark. Sie kann solche wiederkehrenden Aufgaben übernehmen, Informationen korrelieren und damit die Belastung der Analysten reduzieren.
Gleichzeitig müssen wir aber berücksichtigen, dass auch AI Fehler machen oder halluzinieren kann. Auf der offensiven Seite ist das weniger problematisch. Ein Angreifer kann viele Versuche starten und damit leben, wenn einige davon scheitern. Auf der Verteidigerseite müssen wir sehr viel genauer sein. Wir können uns nicht einfach darauf verlassen, dass eine Entscheidung wahrscheinlich richtig ist.
Ein wichtiger Punkt ist deshalb das Training. Wir betreiben seit mehr als zehn Jahren Security Operations und verarbeiten täglich Milliarden von Telemetriedaten. Das sind reale Daten aus realen Umgebungen und keine synthetisch erzeugten Trainingsdaten.
Wie verhindern Sie, dass ein AI-System trotzdem eine falsche Entscheidung automatisiert ausführt?
Dennis Pielken: Wir setzen nicht einfach ein einziges großes Modell ein, das alles entscheiden soll. Stattdessen arbeiten unterschiedliche spezialisierte AI-Agenten an bestimmten Aufgaben. Die Ergebnisse werden anschließend zusammengeführt.
Zusätzlich gibt es ein separates System, das diese Ergebnisse bewertet und überprüft. Wenn dieses System Zweifel hat oder etwas nicht eindeutig ist, wird die Entscheidung an einen Menschen weitergegeben.
Der Analyst bekommt dann aber nicht einfach einen ungefilterten Alert. Die Informationen wurden bereits gesammelt und korreliert, und das System zeigt auch, an welchen Stellen Unsicherheit besteht. Dadurch kann der Mensch sehr schnell eine fundierte Entscheidung treffen.
Wichtig ist außerdem die kontinuierliche menschliche Kontrolle. Wir müssen verhindern, dass die Agenten und das System, das sie überprüft, gemeinsam in eine falsche Richtung driften. Deshalb gibt es laufend menschliche Spot Checks.
Christopher Fielder:
AI ist zunächst einmal nur ein Werkzeug. Entscheidend ist, wie sie trainiert wurde.
Wir haben den Vorteil, dass wir auf mehr als ein Jahrzehnt realer Security-Erfahrung zurückgreifen können. Das ist ein wesentlicher Unterschied zu Systemen, die ausschließlich mit synthetischen Daten trainiert werden.
Arctic Wolf spricht dabei von einem „Swarm of Experts“. Was steckt dahinter?
Dennis Pielken: Die Idee ist, dass wir spezialisierte AI-Agenten einsetzen. Ein Agent übernimmt eine bestimmte Aufgabe, ein anderer eine andere. Anschließend werden die Ergebnisse orchestriert und zusammengeführt.
Das ist aus meiner Sicht wesentlich sinnvoller, als einem einzigen großen Modell zu vertrauen, das alles können soll. Auch bei großen Modellen besteht immer die Gefahr von Halluzinationen oder falschen Schlussfolgerungen.
Deshalb haben wir zusätzlich einen „Judge“, der die Ergebnisse überprüft. Wenn etwas nicht plausibel oder eindeutig ist, geht die Entscheidung an einen Menschen. Wenn die Sicherheit hoch genug ist, können wir automatisieren.
Christopher Fielder: Ein spezialisierter Agent lässt sich für eine konkrete Aufgabe wesentlich gezielter trainieren. Wenn man versucht, ein einziges Modell für alles einzusetzen, steigt das Risiko von Ungenauigkeiten und Halluzinationen.
Wenn dagegen mehrere spezialisierte Agenten Informationen austauschen und ihre jeweiligen Aufgaben erledigen, lässt sich daraus ein deutlich verlässlicheres Gesamtergebnis erzeugen.
Gerade in Europa spielt neben Security auch Compliance eine immer größere Rolle. Bedeutet compliant zu sein automatisch, sicher zu sein?
Christopher Fielder: Nein. Compliance ist ein zweischneidiges Schwert. Sie ist wichtig, weil sie einen Mindeststandard definiert. Aber genau darin liegt auch die Gefahr: Unternehmen können glauben, sie seien sicher, nur weil sie compliant sind.
Für mich ist Compliance die Basis, nicht das Ziel. Gute Security-Programme gehen deutlich darüber hinaus. Sie kombinieren unterschiedliche Standards mit Awareness, Phishing-Simulationen, 24/7-Monitoring, Patch Management und weiteren Maßnahmen.
Das Problem ist außerdem, dass Compliance-Vorgaben der Realität manchmal hinterherhinken. Die Bedrohungslandschaft verändert sich sehr schnell. Deshalb kann man sich nicht darauf verlassen, dass ein erfüllter Standard automatisch bedeutet, gegen aktuelle Bedrohungen geschützt zu sein.
Dennis Pielken: Für mich ist ohnehin nicht die entscheidende Frage, ob ein Unternehmen irgendwann kompromittiert wird, sondern wann. Dann zeigt sich, wie gut Compliance und tatsächliche Security-Maßnahmen zusammenspielen.
Am Ende geht es um den Blast Radius. Kann ich einen Angriff schnell eindämmen und den Schaden begrenzen? Oder führt ein einzelner Vorfall dazu, dass das gesamte Unternehmen betroffen ist und am nächsten Tag auf der Titelseite steht?
Das ist für mich ein wesentlicher Bestandteil von Cyberresilienz.
Arctic Wolf hat sein Angebot in Richtung einer umfassenderen Plattform erweitert. Geht dadurch der ursprüngliche Fokus auf menschliche Security-Expertise verloren?
Christopher Fielder: Nein, im Gegenteil. Die Plattform ermöglicht uns, mehr Daten aus unterschiedlichen Bereichen zusammenzuführen – vom Endpoint über Cloud-Umgebungen bis hin zu mobilen Geräten.
AI und Automatisierung sollen dabei vor allem den operativen Druck von unseren Mitarbeitern nehmen. Dadurch können sich unsere Experten stärker auf die Zusammenarbeit mit den Kunden konzentrieren: auf proaktive Planung, auf Response und auf Containment.
Der Kern bleibt für uns menschliche Security-Expertise. Wenn ein Kunde mit einem Menschen sprechen möchte, kann er mit einem Menschen sprechen. Wir wollen niemanden dazu zwingen, ausschließlich mit einem AI-System oder einem Chatbot zu kommunizieren.
Wenn wir ein Jahr nach vorne schauen: Was wird die Cybersecurity 2027 bestimmen?
Christopher Fielder: Das ist schwer vorherzusagen, weil wir selbst noch lernen, wie AI von Angreifern eingesetzt wird. Aber ich gehe davon aus, dass wir noch mehr Angriffsversuche sehen werden, mehr Exploit-Entwicklung, mehr identifizierte Schwachstellen und mehr Versuche, in Unternehmen einzudringen.
Gerade deshalb werden die Grundlagen noch wichtiger. Unternehmen brauchen ein gutes Security-Programm, einen funktionierenden Incident-Response-Plan und Partner, auf die sie sich verlassen können.
Wir müssen davon ausgehen, dass irgendwann etwas passiert. Entscheidend ist dann, wie schnell wir es erkennen, wie schnell wir reagieren und wie stark wir die Auswirkungen begrenzen können.
Könnte AI irgendwann so gut darin werden, Schwachstellen zu finden, dass das Problem weitgehend verschwindet?
Dennis Pielken: Nein. Wir haben enorme technische Altlasten. Es gibt sehr viel alten Code, etwa in C, und darin stecken Schwachstellen und Logikfehler, die uns noch lange beschäftigen werden. Wir stehen hier eher am Anfang einer Reise.
Was sich meiner Meinung nach grundlegend verändern muss, ist das Patch Management. In vielen Unternehmen ist es noch üblich, einen Patch erst über Wochen zu testen, durch Change-Management-Prozesse zu schicken und anschließend auszurollen. Wenn Schwachstellen aber immer schneller ausgenutzt werden können, funktioniert dieses Modell irgendwann nicht mehr.
Wir werden deshalb neu darüber diskutieren müssen, wie Patches validiert und freigegeben werden und welches Risiko größer ist: einen Patch schneller einzuspielen oder eine bekannte Schwachstelle länger offen zu lassen.
AI kann uns helfen, Schwachstellen schneller zu finden. Aber sie wird Schwachstellen nicht verschwinden lassen.
Christopher Fielder: Schwachstellen wird es weiterhin geben. Selbst ein Patch oder ein Update kann neue Schwachstellen einführen. Dasselbe gilt für Code, der von AI geschrieben wurde.
Wir haben in unserer Forschung sogar gesehen, dass verfügbare AI-Modelle von Angreifern gezielt so trainiert werden können, dass sie verwundbaren Code erzeugen – in der Hoffnung, dass Menschen diesen Code übernehmen.
Menschen sind nicht unfehlbar. AI ist es auch nicht.
Wir werden Schwachstellen deshalb nicht vollständig beseitigen. Was wir aber erreichen können, ist, sie schneller zu erkennen und schneller darauf zu reagieren.
Ist Cybersecurity damit letztlich eine nie endende Aufgabe?
Christopher Fielder: Ja. Aber das sehe ich nicht pessimistisch. Wir können nicht jeden Vorfall verhindern – genauso wenig, wie wir verhindern können, dass ein Kind irgendwann vom Fahrrad fällt.
Was wir tun können, ist, ihm einen Helm aufzusetzen und dafür zu sorgen, dass die Folgen möglichst gering bleiben.
Genau darum geht es auch in der Cybersecurity: Wir werden nicht jede Bedrohung verhindern können. Entscheidend ist, ihre Auswirkungen so gering wie möglich zu halten.
it&d business Redaktion
Kommentare