Es kann kein Vertrauen ohne Verifikation geben

ESET-CTO Juraj Malcho über den Hype um künstliche Intelligenz, die Risiken autonomer AI-Agenten und darüber, warum AI Cybersecurity nicht neu erfindet, sondern vor allem bestehende Möglichkeiten massiv skaliert. Im Exklusivinterview mit it&d business erklärt er, warum aus „Trust and Verify“ keinesfalls bloßer Glaube werden darf – und weshalb menschliche Verantwortung mit zunehmender Automatisierung wichtiger wird.

Foto: ESET

Noch vor wenigen Monaten war Agentic AI vor allem eines der großen Zukunftsversprechen der IT-Branche. Mittlerweile verschiebt sich die Diskussion zunehmend von der Frage, was autonome AI-Agenten alles erledigen können, zu einer unangenehmeren Frage: Worauf dürfen sie eigentlich zugreifen – und wer trägt die Verantwortung, wenn sie selbstständig handeln?

Das Thema ist inzwischen bei den Standardisierungsgremien angekommen. Das US-amerikanische NIST warnt etwa davor, Agenten einfach die Credentials ihrer menschlichen Nutzer mitzugeben. Stattdessen sollen AI-Agenten als eigenständige Identitäten behandelt werden, mit eigenen Berechtigungen und möglichst eng definierten Zugriffsrechten.

Bemerkenswert daran: Viele dieser Fragen spielten bereits im Mai auf der ESET World 2026 eine zentrale Rolle in der Keynote von Juraj Malcho, CTO von ESET. Er warnte davor, AI-Systeme ohne ausreichendes Verständnis ihrer Ergebnisse einzusetzen. Unternehmen müssten wissen, ob ihre Daten sicher und privat bleiben – gerade weil Mitarbeiter Geschäftsdaten oftmals schlicht in öffentliche Chatbots eingeben. Gleichzeitig bezeichnete er Large Language Models als einen neuen Ausgangspunkt der Software-Supply-Chain, von dem Unternehmen nicht vollständig abhängig werden dürften.

Im anschließenden Exklusivinterview mit it&d business wird Malcho noch grundsätzlicher. Seine zentrale These: AI verändert die Grundmechanismen der Cybersecurity weniger, als der aktuelle Hype vermuten lässt. Sie ist zunächst ein Werkzeug, das Menschen schneller und skalierbarer macht. Gleichzeitig warnt Malcho davor, dass aus „Trust and Verify“ im Umgang mit AI bloßes „Believe“ wird.

Herr Malcho, derzeit entsteht der Eindruck, AI würde die gesamte IT- und Security-Branche fundamental verändern. Sie klingen deutlich weniger dramatisch. Warum?

Aus Security-Sicht verändert sich gar nicht so viel. Es geht um Automatisierung und darum, dass ein weiterer Akteur oder Player ins Feld kommt. Natürlich nutzen wir alles, was technologisch möglich ist. Aber grundsätzlich ist das nichts Neues für uns.

Als ich vor rund 20 Jahren zu ESET kam, hatte das Unternehmen etwa 25 Mitarbeiter. Damals hatte Trend Micro beispielsweise drei Schichten mit jeweils 120 Personen, die an Detection arbeiteten. Für uns war das kaum vorstellbar. Wir haben uns immer gefragt: Wie können wir diese Dinge effizienter und schlanker machen?

Was sich heute tatsächlich verändert, ist etwas anderes: Menschen ohne entsprechendes Fachwissen erhalten Zugang zu Werkzeugen, die ihnen das Gefühl geben, plötzlich Dinge tun zu können, für die ihnen eigentlich die Expertise fehlt.

Meine Frage bei all diesen AI-powered oder AI-enabled Tools lautet: Was ist der effektivste Weg, um das gewünschte Ergebnis zu erreichen?

Sie sehen AI also primär als Werkzeug – und weniger als Revolution?

Genau. Wenn etwas bereits hundertmal gemacht wurde, dann sollten wir mit AI ruhig die langweilige Arbeit überspringen. Aber wenn ich etwas Neues entwickeln muss, brauche ich weiterhin Verständnis dafür, was ich eigentlich tue.

Und hier kommen wir für mich zu einem ganz entscheidenden Punkt. Auf der RSA Conference sagte jemand sinngemäß, wir hätten uns von „Trust and Verify“ hin zu „Trust“ entwickelt. Meine unmittelbare Reaktion darauf war: Nein. Wir haben uns von „Trust and Verify“ zu „Believe“ bewegt.

Und dieses Konzept gefällt mir überhaupt nicht.

„Es kann kein Vertrauen ohne Verifikation geben. In dem Moment, in dem man einfach glaubt, gibt man auf. Der Job scheint erledigt.“

Glaube kann psychologisch beruhigend sein. Aber das ist im Wesentlichen auch schon seine Funktion. Vertrauen dagegen braucht Verifikation.

Gleichzeitig investiert ESET selbst stark in AI. Wie passt das zusammen?

Man kann AI natürlich nicht ignorieren – insbesondere nicht aus Sicht der Angreifer. AI verstärkt letztlich das, was wir ohnehin tun, und damit auch menschliches Verhalten. Was gut ist, kann verstärkt werden. Was schlecht ist, ebenfalls.

Das haben wir schon bei sozialen Netzwerken gesehen. Man muss dafür nicht einmal über Large Language Models sprechen.

Deshalb beschäftigen wir uns intensiv damit. Wir sehen eine enorme Zunahme des Informationsvolumens. Ich würde bewusst nicht nur von mehr Angriffen sprechen – es ist generell mehr Information unterwegs. Die entscheidende Aufgabe besteht darin, herauszufinden, welcher Teil davon tatsächlich relevant ist.

Für uns ist AI letztlich ein Werkzeug.

„AI verstärkt das, was wir ohnehin tun. Das Gute lässt sich verstärken – aber das Schlechte ebenso.“

Sie haben in Ihrer Keynote aber auch von AI als Supply-Chain-Thema gesprochen. Was meinen Sie damit?

Wenn wir in eine Zukunft gehen, in der Prozesse sehr stark durch LLMs oder andere Technologien automatisiert werden, dann beginnt an dieser Stelle gewissermaßen die Supply Chain. Und davon kann man nicht einfach vollständig abhängig sein.

Wir haben selbst Erfahrungen damit gemacht. Alle wollen plötzlich Codex und alle möglichen Cloud-Tools einsetzen. Aber man muss sehr genau hinschauen, ob dadurch Produktivität und Qualität tatsächlich steigen.

Wo ziehen Sie die Grenze – wann reicht AI als Werkzeug nicht mehr aus?

Für Hobbyprojekte oder Proofs of Concept können solche Ansätze großartig sein. Ich kann mit einem Kunden sprechen, eine Idee visualisieren und am nächsten Tag sagen: Hier ist die geänderte Version. Das ist fantastisch.

Aber bei sicherheitskritischen Aufgaben sieht es anders aus. Wenn die Frage beispielsweise lautet: „Kannst du mein Haus absichern?“, ist das eine völlig andere Situation – insbesondere dann, wenn mir nicht einmal das zugrunde liegende Modell gehört. Das würde ich nicht machen.

Wenn Agenten selbstständig auf Anwendungen und Daten zugreifen können: Wird damit aus einem klassischen Insider-Risiko nicht plötzlich ein viel größeres, weil AI die Möglichkeiten eines einzelnen Mitarbeiters massiv skaliert?

Ja, das ist eine gute Art, es auszudrücken. Das eigentliche Problem ist wiederum, dass Menschen verstehen müssen, was heute möglich ist.

Denn grundsätzlich hat sich die Situation durch AI nicht verändert: Ein Unternehmen hat Mitarbeiter, und diesen Mitarbeitern wird für ihre Aufgaben ein bestimmtes Maß an Vertrauen und Zugriff eingeräumt.

Nur ist dieser Mitarbeiter jetzt plötzlich nicht mehr „ein Mitarbeiter“. Durch AI kann er gewissermaßen zu hundert Mitarbeitern werden.

Jemand ohne technischen Hintergrund kann beispielsweise plötzlich Aufgaben übernehmen oder simulieren, für die früher ganz andere Fähigkeiten notwendig gewesen wären. Genau darin liegt das Problem.

Heißt das, AI vergrößert nicht nur die Fähigkeiten, sondern auch die Verantwortung eines Mitarbeiters?

Sie erweitert zunächst einmal seine Möglichkeiten. Technologie augmentiert Menschen. Was immer Sie können und welche Handlungen Sie durchführen dürfen: AI kann das verstärken.

Aber wenn Ihr Verantwortungsniveau nicht ebenfalls steigt, macht AI Sie deshalb nicht plötzlich zum CEO eines Unternehmens mit 50.000 Mitarbeitern.

Sie bleiben dieselbe Person. Sie erledigen bestimmte Aufgaben nur schneller. Wenn Sie darüber hinausgehen wollen, kann AI ein Enabler sein. Aber Sie selbst müssen diese Möglichkeiten erschließen – und letztlich muss immer jemand sagen: Ja, ich bin mit dieser Entscheidung einverstanden.

Genau das versuche ich auch meinen Kindern mitzugeben: AI ist großartig, aber ihr müsst darüberstehen. Sie ist ein Werkzeug. Entscheidend ist eure Idee.

Meine Frage wäre immer: Warum hast du dieses AI-Tool verwendet? Und warum zeigst du mir gerade dieses Ergebnis?

Wenn du mir den Zweck dahinter nicht erklären kannst, haben wir ein Problem.

„AI ist großartig. Aber du musst darüberstehen. Sie ist ein Werkzeug – entscheidend ist deine Idee.“

Das klingt fast wie ein Gegenentwurf zur Vorstellung, AI werde menschliches Denken zunehmend ersetzen.

Es geht um Kontext und um die Breite einer Entscheidung. Das ist für mich Intelligenz. AI wird besser werden, ihr Kontext wird größer werden. Aber am Ende muss weiterhin jemand sagen: Ich akzeptiere das.

Stellen wir uns vor, ich hätte irgendwann ein CEO-Modell für ein Unternehmen mit 50.000 Mitarbeitern. Dieses Modell schlägt morgens nach meinem Kaffee vor, was heute zu tun ist. Wer zieht dann den Abzug? Wer genehmigt die Entscheidung?

Diese Verantwortung verschwindet nicht einfach.

Sie haben im Gespräch sogar Kunst und Musik angesprochen. Hat AI Ihre persönliche Sicht darauf verändert?

Ja, tatsächlich. Ich habe meine Meinung dazu vor Kurzem geändert.

Früher habe ich bei AI-generierter Kunst oder Musik gesagt: Das gefällt mir nicht, weil dahinter keine Intention steht. Was wollte der Komponist damit ausdrücken?

Mittlerweile sehe ich, dass AI durchaus interessante Dinge erzeugen kann. Und ich meine damit nicht Hintergrundmusik für den Aufzug. AI kann mir helfen zu verstehen, warum etwas auch anders sein könnte. Das hat mit Neugier und Lernen zu tun.

Vielleicht zeigt mir AI irgendwann etwas, worauf Johann Sebastian Bach nicht gekommen wäre. Aber es muss weiterhin eine Möglichkeit geben, das Geschaffene zu verstehen und wertzuschätzen.

„Wenn niemand erklären kann, warum etwas entstanden ist, fehlt die Intention. Und diese Intention müssen wir verstehen.“

Zurück zur Cybersecurity: Werden Angreifer durch AI einen strukturellen Vorteil bekommen?

Ich könnte jetzt sagen: Ja, AI wird alles revolutionieren. Oder ich könnte sagen: Es ist einfach derselbe langweilige Kram, den wir seit Jahren machen.

Bei uns in den Labs verwenden wir den Begriff AI gar nicht so gerne. Wir sprechen eher von Smart Automation – Dinge intelligent automatisieren und Probleme mit den besten Werkzeugen lösen, die uns zur Verfügung stehen.

Für mich ist AI einfach ein weiteres Werkzeug in dieser Kette.

In Ihrer Keynote haben Sie AI auf eine sehr grundlegende Ebene heruntergebrochen: Am Ende gehe es weiterhin um Daten, die irgendwo gespeichert und verarbeitet werden müssen. Es werde vor allem mehr und schneller – mit entsprechendem Bedarf an Rechenleistung und Energie. Gilt diese Logik auch für die Angreifer?

Natürlich. Auch hier ist es für mich zunächst Automatisierung. Im Grunde hat sich nichts geändert. Dahinter stehen weiterhin Menschen mit Ideen. Das können auch Kriminelle sein. Sie haben dieselben schlechten Ideen wie vorher – sie können sie jetzt nur verstärken.

Wir sitzen auf der anderen Seite und müssen unsere Verteidigung ebenfalls skalieren.

„Angriffe skalieren. Verteidigung skaliert ebenfalls.“

Deshalb müssen wir mit allem verteidigen, was uns zur Verfügung steht, gegen Angriffe, die ebenfalls mit allem geführt werden, was dafür eingesetzt werden kann. Für Cybersecurity-Unternehmen ist es deshalb zwingend notwendig, technologisch an der Spitze der Softwareentwicklung zu bleiben.

Dann wäre es aber zu einfach zu sagen: AI macht Angreifer nur schneller, während Defender ebenfalls skalieren können?

Das würde ich tatsächlich nicht so vereinfachen.

Als Angreifer kann ich AI beispielsweise nutzen, um sehr viel schneller unbekannte Schwachstellen in Software aufzuspüren. Damit eröffnen sich auch zusätzliche Angriffsmöglichkeiten. Insofern kann die Entwicklung gefährlicher werden.

Auf der Verteidigerseite kann ich wiederum nach Dingen suchen, die nicht richtig aussehen – nach Anomalien.

Gerade bei kritischer Infrastruktur ist das Prinzip seit Jahrzehnten bekannt: Was erlaubt ist, ist erlaubt. Alles andere wird blockiert.

Mit AI lässt sich dieses Prinzip weiterentwickeln – vorausgesetzt natürlich, ich vertraue der Technologie, die diese Entscheidung trifft. Im Grunde definiere ich: Das hier ist mein Normalzustand. Alles, was davon abweicht, wird abgelehnt.

it&d business Redaktion