Die wahren KI-Kosten

Die Kosten für KI-Modelle sinken rasant – die Ausgaben der Unternehmen steigen dennoch drastisch. Eine aktuelle Analyse von McKinsey & Company zeigt, warum die Debatte über Token-Preise zu kurz greift und welche wirtschaftlichen Faktoren künftig über den Erfolg von KI-Agenten entscheiden. Im Zentrum steht dabei nicht mehr die Frage nach möglichst günstigen Modellen, sondern nach dem tatsächlichen Geschäftswert agentischer KI-Systeme.

Foto: it&d business, erstellt mit Unterstützung von KI

Die Diskussion rund um generative Künstliche Intelligenz wurde in den vergangenen Monaten vor allem von einem Thema dominiert: den rapide sinkenden Preisen für die Nutzung großer Sprachmodelle. Doch genau diese Entwicklung führt in vielen Unternehmen nicht zu den erwarteten Einsparungen. Im Gegenteil: Während die Kosten pro Token kontinuierlich fallen, explodieren die Gesamtausgaben für KI-Agenten. McKinsey & Company spricht in seiner aktuellen Analyse „Is that AI agent worth it? Agentic economics and the modern operating model“ von einem grundlegenden wirtschaftlichen Paradigmenwechsel. Für Unternehmen rückt damit eine neue Leitfrage in den Vordergrund: Schaffen KI-Agenten tatsächlich mehr wirtschaftlichen Nutzen, als sie im laufenden Betrieb kosten?

Sinkende Modellpreise, steigende Gesamtkosten

Auf den ersten Blick scheint die Entwicklung widersprüchlich. Laut McKinsey sind die Inferenzkosten für Modelle auf dem Leistungsniveau von GPT-3.5 innerhalb kurzer Zeit massiv gesunken. Gleichzeitig haben sich die Ausgaben von Unternehmen für Large Language Models (LLMs) bis Ende 2025 innerhalb von zwölf Monaten verdreifacht. 93 Prozent der von McKinsey befragten Unternehmen geben an, ihre KI-Budgets bereits zu überschreiten. Jedes fünfte Unternehmen hat die Nutzung von KI-Anwendungen aufgrund der steigenden Betriebskosten sogar bereits eingeschränkt. Gleichzeitig erwarten die Autoren, dass KI-Ausgaben in den kommenden Jahren auf rund ein Viertel der gesamten IT-Budgets anwachsen werden.

Die Ursachen liegen laut Analyse nicht allein im stärkeren Einsatz von KI. Auch die zunehmende Verlagerung von pauschalen Lizenzmodellen hin zu verbrauchsabhängigen Abrechnungen verändert die Kostenstruktur erheblich. Hinzu kommt, dass leistungsfähige Modelle häufig auch für vergleichsweise einfache Aufgaben eingesetzt werden und dadurch unnötig hohe Betriebskosten entstehen. Sinkende Token-Preise allein reichen deshalb nicht aus, um die tatsächlichen Gesamtausgaben zu reduzieren.

Nicht Tokens entscheiden über den Geschäftswert

McKinsey stellt deshalb die bisherige Kostenbetrachtung grundsätzlich infrage. Tokens seien lediglich die Rechnung – nicht der eigentliche Wert. Entscheidend sei vielmehr, ob ein KI-Agent korrekte Ergebnisse liefert, wie hoch der notwendige menschliche Nachbearbeitungsaufwand ausfällt, welche Rechenleistung während der Verarbeitung benötigt wird und ob der wirtschaftliche Nutzen letztlich die gesamten Betriebskosten übersteigt.

Die Analyse identifiziert dabei sechs wesentliche Kostentreiber, die den tatsächlichen Ressourcenverbrauch maßgeblich beeinflussen: den Umfang des benötigten Kontextes, wiederholte Optimierungs- und Verfeinerungsschritte (Refinement), den Grad der Autonomie eines Agenten, rechenintensive Reasoning-Prozesse, die Orchestrierung mehrerer Modelle sowie die Struktur und Aufbereitung der zugrunde liegenden Informationen. Gerade bei komplexen agentischen Systemen führen diese Faktoren dazu, dass einzelne Modellaufrufe zwar günstiger werden, die Gesamtbetriebskosten jedoch weiter steigen.

Damit verschiebt sich auch die wirtschaftliche Bewertung von KI-Projekten. Nicht mehr die reine Anzahl verarbeiteter Tokens oder die Kosten einzelner Modellaufrufe stehen im Mittelpunkt, sondern die Kosten pro tatsächlich erreichtem Geschäftsergebnis. Unternehmen benötigen dafür neue Kennzahlen, die menschliche Arbeit, maschinelle Arbeit und hybride Prozesse vergleichbar machen und den wirtschaftlichen Nutzen messbar abbilden.

KI-Governance wird zur strategischen Führungsaufgabe

Mit zunehmender Verbreitung autonomer KI-Agenten verändert sich auch die Rolle des Managements. Die Steuerung von Maschinenarbeit müsse künftig ähnlich erfolgen wie die Allokation von Kapital. Intelligenz werde zu einer eigenen Unternehmensressource, deren Einsatz gezielt geplant und wirtschaftlich bewertet werden müsse. Verantwortung, Budgets und klare Abbruchkriterien für agentische Systeme seien daher ebenso notwendig wie eindeutige Zuständigkeiten innerhalb der Organisation.

Als Praxisbeispiel verweist McKinsey auf die eigenen Erfahrungen beim unternehmensweiten Einsatz von KI. Dort entstehen bereits heute enorme Token-Mengen, deren Kosten durch intelligentes Routing zwischen verschiedenen Modellanbietern, transparente Kosteninformationen für Anwender, Leitplanken für die Nutzung sowie eine konsequente Optimierung von Prompts gesteuert werden. Auch Sicherheitsplattformen, Monitoring-Werkzeuge und Orchestrierungslösungen verursachen zusätzliche tokenbasierte Kosten und müssen deshalb in die Gesamtbetrachtung einbezogen werden.

Langfristig sieht McKinsey die eigentliche Wettbewerbsdifferenzierung ohnehin nicht mehr im eingesetzten Sprachmodell. Wertvoller werden Daten, Kontextwissen und die Fähigkeit, agentische Systeme wirtschaftlich effizient zu betreiben. Prozessvorteile allein seien künftig leichter kopierbar, während Governance, Datenqualität und intelligentes Ressourcenmanagement zunehmend über den nachhaltigen Unternehmenserfolg entscheiden. Für CIOs und Geschäftsleitungen bedeutet das einen Perspektivenwechsel: Nicht die günstigste KI ist die wirtschaftlichste, sondern jene, deren Geschäftsnutzen die Gesamtkosten dauerhaft übersteigt.

it&d business Redaktion