Die Zukunft ist Maschine gegen Maschine – aber nicht ohne Menschen

Barracuda-Manager Jesus Cordero-Guzman über Cyberangriffe in Maschinengeschwindigkeit, die Grenzen klassischer Security-Awareness und eine neue Bedeutung digitaler Identität. Im Exklusivinterview mit it&d business erklärt er, warum Unternehmen AI mit AI begegnen müssen – menschliche Kontrolle dadurch aber keineswegs überflüssig wird.

Foto: Barracuda

AI verändert das Tempo der Cybersecurity. Für Jesus Cordero-Guzman, Director Solution Architects bei Barracuda Networks, liegt darin eine der entscheidenden Veränderungen: Angreifer müssen nicht zwangsläufig neue Methoden entwickeln – mit AI-Agenten können sie bekannte Angriffe in einem bisher nicht gekannten Tempo automatisieren und skalieren.

Damit gerät auch die Verteidigung unter Druck: Menschen können mit Maschinengeschwindigkeit nicht mithalten. Für Cordero-Guzman führt deshalb kein Weg daran vorbei, auch Cybersecurity stärker zu automatisieren. Gleichzeitig warnt er davor, den Menschen aus der Gleichung zu nehmen. Agenten brauchen Kontrolle, Entscheidungen müssen nachvollziehbar bleiben – und Unternehmen müssen grundsätzlich neu darüber nachdenken, was digitale Identität heute überhaupt bedeutet.

Herr Cordero-Guzman, wo sehen Sie derzeit die entscheidende Veränderung bei Cyberangriffen?

Wir befinden uns in einer Situation, die es in dieser Form bisher nicht gegeben hat. Dabei geht es für mich weder um irgendwelche romantischen Geschichten aus der Finanzwelt noch um ein futuristisches Terminator- oder Skynet-Szenario. Es geht um die Möglichkeiten einer Technologie, die wir in den vergangenen Jahren entwickelt haben.

Angreifer warten nicht darauf, dass Regularien, Gesetze, Genehmigungen oder Budgets geklärt sind. Unternehmen müssen sich dagegen erst fragen: Wie implementieren wir AI? Ist das konform mit unseren Regularien und Gesetzen?

Für die Angreifer bedeutet AI, dass ihnen im Prinzip Hunderte oder Tausende Agenten zur Verfügung stehen können. Dinge, für die sie mit Social Engineering oder anderen Methoden früher Monate gebraucht haben, lassen sich damit heute in Minuten oder Sekunden automatisieren.

Entstehen dadurch tatsächlich völlig neue Angriffsarten – oder werden vor allem bekannte Angriffe schneller und skalierbarer?

Genau das ist der Punkt. Es geht nicht darum, dass wir durch AI plötzlich neue, kompliziertere und noch nie dagewesene Angriffe erleben. Es geht um das Volumen und die Geschwindigkeit.

Was ein Mensch früher in Monaten geschafft hat, können Agenten automatisiert in Minuten erledigen. Ein Mensch kann mit dieser Maschinengeschwindigkeit nicht mithalten.

Deshalb müssen wir lernen, eine neue Generation von Cybersecurity-Systemen und -Frameworks aufzubauen, mit denen wir auf Machine Speed reagieren können. Mit den klassischen Security-Ansätzen allein wird das nicht funktionieren.

„Es geht nicht um völlig neue Angriffe. Es geht um Volumen und Geschwindigkeit.“

Wenn die Verteidigung ebenfalls auf Machine Speed kommen muss: Können wir den Menschen dann überhaupt noch in der Entscheidungsschleife behalten?

Interessanterweise habe ich vor ungefähr zwei Jahren meinem Team gesagt, dass Manager künftig nicht mehr nur Menschen managen werden, sondern auch AI-Agenten. Damals haben viele gesagt: Jesus, du spinnst, das wird nicht so schnell passieren.

Heute stellt sich längst die Frage: Wie viel Autonomie wollen wir diesen Systemen geben? Natürlich brauchen wir Geschwindigkeit. Aber wir brauchen ebenso Kontrolle und saubere Daten. Wenn ein Agent lernt, muss ein Experte weiterhin überprüfen und auditieren können, was er gelernt hat. Entscheidungen müssen protokolliert und gegebenenfalls revidiert werden können.

Die Zukunft wird Maschine gegen Maschine sein – eigentlich ist sie das bereits. Aber nicht ohne Menschen. Wir sind noch nicht so weit, dass wir die Kontrolle vollständig aus der Hand geben können. Maschinen automatisieren, aber unter Kontrolle und Kommando von Menschen.

„Die Zukunft ist Maschine gegen Maschine – aber nicht ohne Menschen.“

Gleichzeitig wird beispielsweise Phishing durch AI immer überzeugender. Reicht es dann überhaupt noch, Mitarbeiter darin zu trainieren, verdächtige Nachrichten zu erkennen?

Ich bin ein starker Kritiker der Art von Trainings, die wir in den vergangenen zehn Jahren gemacht haben. Wir haben Menschen beispielsweise beigebracht, auf einzelne Buchstaben in Links oder andere kleine Auffälligkeiten in einer E-Mail zu achten.

Damit haben wir unsere Leute auf Fehler trainiert, die Menschen gemacht haben. Mit AI verändert sich das. Solche Inhalte können mittlerweile so überzeugend sein, dass das menschliche Auge sie nur noch sehr schwer erkennen kann.

Deshalb muss AI mit AI bekämpft werden. Wir brauchen intelligentere Systeme in der E-Mail-Security und beim Schutz von Identitäten, die erkennen können, dass etwas eine Anomalie ist. Der Mensch wird solche Angriffe zunehmend nicht mehr allein erkennen können.

„AI muss mit AI bekämpft werden.“

Damit wird Identität zu einem zentralen Thema. Was bedeutet digitale Identität in einer Welt, in der sich auch Stimme, Gesicht und Verhalten imitieren lassen?

In der Vergangenheit haben wir unter Identität vor allem Credentials verstanden: Username, Passwort, MFA-Token oder vielleicht einen Hardware-Token. Wir haben gedacht: Wenn ich diese Dinge und meine Geräte schütze, dann habe ich meine Identität geschützt.

Das reicht nicht mehr. Meine Identität geht heute weit darüber hinaus. Denken Sie allein an Ihr Smartphone und die vielen Anwendungen darauf, in denen Sie sich authentifizieren, Daten erzeugen und Daten konsumieren.

Zu meiner Identität gehören auch meine Verhaltensmuster: Wann beginne ich morgens zu arbeiten? Was mache ich zuerst? Welche Anwendungen öffne ich? Auf welche Daten greife ich normalerweise zu?

Wenn ich beispielsweise normalerweise nicht mit Finanzdaten arbeite und plötzlich beginne, mit meinem Account Daten aus der Finanzabteilung abzurufen, müssen Systeme erkennen können, dass das eine Anomalie ist. Die Daten, die ich generiere und konsumiere, sind heute ebenfalls Teil meiner Identität.

Wird damit die legitime Identität für Angreifer wichtiger als der klassische technische Einbruch?

Wenn ich heute ein Angreifer wäre, würde mich die Firewall eines Unternehmens zunächst gar nicht interessieren. Ich möchte jemand sein, der bereits hinein darf.

Wenn ich Ihre Identität habe – Passwort, MFA und alles, was dazugehört –, kann ich durch die Tür in das Unternehmen marschieren, ohne dass zunächst jemand etwas bemerkt. Dann kann ich anfangen herauszufinden, in welchem Netz ich mich befinde und welche Systeme ich erreichen kann.

Deshalb bekommt Identität heute eine völlig neue Bedeutung. Sie ist die Tür, durch die Angreifer hineinwollen.

Hinzu kommt, dass wir seit vielen Jahren sehr naiv mit Social Media umgehen. Wir geben enorm viel über unsere eigene Identität preis. Heute können all diese Informationen gegen uns verwendet werden.

„Identität wird zur Tür, durch die Angreifer hineinwollen.“

Wenn sich solche Angriffe nicht vollständig verhindern lassen: Läuft Cybersecurity dann zunehmend auf Schadensbegrenzung hinaus?

Nein, Schadensbegrenzung allein wäre mir zu wenig. Aber wir müssen unsere Denkweise verändern.

Früher hatten wir eine sehr reaktive Mentalität. Auch Hersteller wie Barracuda – und da muss ich selbstkritisch sein – haben gedacht: Wenn wir neue Produkte auf den Markt bringen, sind alle gerettet. Wir müssen sie nur an der richtigen Stelle installieren, dann können wir nachts gut schlafen.

Das ist nur bedingt wahr. Hundertprozentige Sicherheit werden wir niemals erreichen. Deshalb müssen wir Systeme so aufbauen, dass Unternehmen resilient sind. Wenn wir angegriffen werden: Wie reagieren wir? Wie schnell können wir uns erholen? Wie stellen wir Business Continuity sicher?

Wir müssen wissen, dass ein Angriff passieren kann, und darauf vorbereitet sein.

„Hundertprozentige Sicherheit werden wir niemals erreichen. Entscheidend ist, wie wir reagieren und wie schnell wir uns erholen.“

Wenn immer mehr Security-Prozesse automatisiert werden: Welche Rolle bleibt dann überhaupt noch für den Menschen?

Ich glaube, dass ausgerechnet das Menschliche wieder zum Premium werden kann.

Je mehr Prozesse wir automatisieren, desto mehr Zeit können wir wieder für das Wesentliche gewinnen. In der Cybersecurity haben wir in den vergangenen 30 Jahren oft vor allem Produkte verkauft und platziert, die einen Traum schützen sollen. Aber was dieser Traum des Kunden eigentlich war, hat uns viel zu wenig interessiert.

Jeder Mensch, der ein Unternehmen gründet, hatte einen Traum und wollte etwas verwirklichen. Vielleicht können wir uns durch die Automatisierung wieder hinsetzen, einen Kaffee trinken und sagen: Erzähl mir von deinem Problem. Was ist es, das dich wirklich beschäftigt?

Wir müssen Businesspläne, Systeme und Geschäftsmodelle verstehen. Erst dann können wir sagen, welche Security-Aspekte berücksichtigt werden müssen. Darauf freue ich mich.

„Je mehr Technologie wir entwickeln und verwenden, desto mehr Menschlichkeit werden wir brauchen.“

Auf der anderen Seite gibt es weiterhin Menschen, die auf Phishing-Links klicken. Wie viel Verantwortung bleibt beim Nutzer?

Sehr viel. Ich glaube, wir kommen langsam an einen Punkt, an dem beides nebeneinander existiert.

Wir haben weiterhin die „Happy Clickers“. Mit AI oder ohne AI: Der Mensch bleibt neugierig. Wir wollen sehen, was passiert.

Auf der anderen Seite haben wir aber auch Situationen, in denen der Mensch gar nichts mehr machen muss. Über versteckte Anweisungen, Prompt Injection, Prompt Poisoning oder Data Poisoning können Systeme angegriffen oder manipuliert werden. Es gibt also Szenarien, in denen der Mensch ohne entsprechende technische Unterstützung weitgehend hilflos ist.

Wir haben in den vergangenen Jahren im Namen der Produktivität häufig Sicherheit geopfert, weil wir Dinge schneller und einfacher machen wollten. Deshalb brauchen wir beides: weiterhin Awareness und Menschen, die nicht naiv durch die digitale Welt gehen – und Systeme, die genau dort die Lücke schließen, wo wir als Menschen nicht mehr mithalten können.

Was bedeutet das schließlich für Unternehmen, die AI selbst für ihre Security einsetzen wollen?

Eine Sache wird dabei meiner Meinung nach noch viel zu wenig beachtet: die Daten.

LLMs lernen nicht nur aus den Daten, die wir ihnen bewusst geben. Deshalb muss ein Unternehmen sehr genau wissen, mit welchen Daten seine AI-Systeme arbeiten und lernen sollen.

Ich werde nur ein guter Spieler, wenn ich einen guten Trainer habe. Dasselbe gilt hier. Welche Daten verwende ich? Sind sie für mein Unternehmen überhaupt gut genug? Und welche Guardrails brauche ich, damit die Daten, mit denen ich trainiere, mein Unternehmen nicht verlassen?

Das klingt vielleicht nach einem Randthema. Aber es ist ein wichtiges Thema.

it&d business Redaktion