KI-Agenten werden autonomer – doch bei der Nachvollziehbarkeit bleiben Lücken
KI-Agenten übernehmen zunehmend Aufgaben im IT-Betrieb, gleichzeitig bleibt menschliche Kontrolle ein wesentlicher Bestandteil. 87 Prozent der dazu befragten Unternehmen setzen KI-Agenten bereits mittel bis intensiv für Observability und IT Operations ein. 44 Prozent wollen innerhalb der kommenden fünf Jahre vollständig autonome Abläufe erreichen, derzeit befinden sich zwölf Prozent auf dieser Stufe. Dennoch werden nach Einschätzung der Befragten durchschnittlich 66 Prozent der KI-gestützten Entscheidungen von Menschen überprüft. Das zeigt der „State of Observability 2026“ von Dynatrace.
Für den Report wurden im August 2026 insgesamt 1.202 Technologieverantwortliche aus Unternehmen in zwölf Ländern befragt. Die teilnehmenden Unternehmen erzielen einen Jahresumsatz von mindestens 100 Millionen US-Dollar. Die Fragen zu autonomen Operations wurden nur jenen Teilnehmern gestellt, die dafür die entsprechenden Kriterien erfüllten; wesentliche Ergebnisse dieses Bereichs basieren auf 989 Befragten. Neben den globalen Ergebnissen liegen auch Daten für Deutschland vor. Österreich wurde nicht gesondert ausgewertet.
Die Entwicklung in Richtung stärker autonomer Abläufe ist bereits weit fortgeschritten. 56 Prozent setzen KI-Agenten in mittlerem Umfang in Observability und IT Operations ein, bei weiteren 31 Prozent ist die Nutzung intensiv. Gleichzeitig zeigt der Report, dass zwischen dem geplanten Grad der Autonomie und der Nachvollziehbarkeit von KI-Entscheidungen noch Unterschiede bestehen.
Nur 27 Prozent adressieren Entscheidungen von KI-Agenten
43 Prozent der Befragten halten es für wichtig, nachvollziehen zu können, wie KI-Agenten Entscheidungen treffen und Aktionen ausführen. Derzeit adressieren diesen Punkt jedoch nur 27 Prozent. Mit wachsender Autonomie wird damit auch die Frage wichtiger, auf welcher Datengrundlage Agenten handeln und wie sich ihre Entscheidungen überprüfen lassen.
Menschliche Kontrolle ist weiterhin verbreitet. Die Befragten schätzen, dass durchschnittlich 66 Prozent der KI-gestützten Entscheidungen von Menschen überprüft werden. Unternehmen kombinieren dafür unterschiedliche Verfahren. Dazu gehören die Überprüfung der verwendeten Quelldaten, kontinuierliche Kontrollen der Qualität und Genauigkeit von KI-Ausgaben, Protokolle für Audit- und Compliance-Zwecke, menschliche Freigaben sowie die automatisierte Erkennung von Verhaltensabweichungen.
Bei der Beobachtung der KI-Systeme besteht gleichzeitig eine starke Abhängigkeit von den Werkzeugen der jeweiligen Anbieter. 66 Prozent verlassen sich bei der KI-Observability auf entsprechende Tools der KI-Anbieter. Dadurch können die Nachweise, die Unternehmen für das Verständnis ihrer KI-Systeme benötigen, über verschiedene Werkzeuge und Plattformen verteilt sein.
Hinzu kommen grundsätzliche Sichtbarkeitslücken. Nur sechs Prozent der Befragten geben an, keine nennenswerten Lücken in ihrer Observability zu haben. Mit der zunehmenden Nutzung von KI müssen Unternehmen damit nicht mehr nur klassische Anwendungen und Infrastruktur beobachten, sondern auch KI-Workloads und das Verhalten von Agenten erfassen.
Mehr KI-Projekte treiben Infrastruktur- und Energiekosten
Parallel zur stärkeren Automatisierung steigt die Zahl der KI-Projekte. 49 Prozent der Unternehmen betreiben inzwischen zwischen sechs und 25 KI-Projekte. Im Vorjahr waren es 42 Prozent.
Der Ausbau macht sich bei den benötigten Ressourcen bemerkbar. 81 Prozent berichten, dass ihre Ausgaben für Rechenleistung und Infrastruktur durch KI-Workloads gestiegen sind. Bei 78 Prozent haben sich die Energiekosten erhöht. Damit gewinnt neben der technischen Überwachung auch die Frage an Bedeutung, welche Ressourcen einzelne KI-Anwendungen benötigen.
Auf dem Weg zu stärker autonomen Operations bestehen zugleich mehrere Hürden. 31 Prozent nennen die Integrationskomplexität zwischen Legacy-Systemen und moderner Infrastruktur als Hindernis. 29 Prozent verweisen auf fehlende Kompetenzen. Jeweils 27 Prozent nennen mangelndes Vertrauen in KI-Entscheidungen ohne menschliche Überprüfung sowie regulatorische oder Compliance-Anforderungen, die menschliche Kontrolle voraussetzen.
Auch bei den Bedenken gegenüber autonomen KI-Systemen stehen konkrete betriebliche Risiken im Vordergrund. Sicherheitsrisiken werden von 30 Prozent genannt, Datenschutz von 27 Prozent und die Qualität der zugrunde liegenden Daten von 26 Prozent. Fehlende Erklärbarkeit der KI nennen 20 Prozent.
it&d business Redaktion
Kommentare