Österreichische Unternehmen überschätzen ihre KI-Sicherheit
Neun von zehn österreichischen Entscheidern halten ihre Sicherheitsteams für gut auf das Tempo der KI-Einführung vorbereitet. Gleichzeitig gehen die Befragten davon aus, dass im Durchschnitt nur rund 40 Prozent des böswilligen oder unerwarteten KI-Verhaltens erkannt werden. Eine Befragung von TrendAI zeigt zudem Lücken bei der Sichtbarkeit eingesetzter KI-Systeme sowie beim Schutz vor Deepfakes und Voice Cloning.
Zwischen der Einschätzung der eigenen Vorbereitung auf KI-Risiken und der erwarteten Erkennungsfähigkeit besteht in österreichischen Unternehmen eine deutliche Differenz. Während neun von zehn Entscheidern ihre Sicherheitsteams als gut vorbereitet einschätzen, gehen sie gleichzeitig davon aus, dass ein großer Teil problematischen KI-Verhaltens unentdeckt bleibt.
Grundlage der Ergebnisse ist eine globale Befragung von 3.700 Business- und IT-Entscheidern, darunter 100 Befragte aus Österreich. Die österreichischen Ergebnisse liegen bei der Einschätzung von Vorbereitung und Erkennungsfähigkeit nahe am weltweiten Durchschnitt.
„Vorbereitung und Erkennung sind zwei unterschiedliche Dinge“,
sagt Richard Werner, Security Advisor bei TrendAI. „Die Unternehmen haben in den letzten Jahren viel investiert, um Prozesse und Zuständigkeiten zum Management von KI-Risiken aufzubauen. Das schlägt sich in einer hohen gefühlten Vorbereitung nieder. Die eigene Einschätzung zur Erkennungsrate zeigt aber, dass diese Vorbereitung im Ernstfall offenbar an ihre Grenzen stößt.“
Business und IT bewerten die Sichtbarkeit unterschiedlich
Eine Voraussetzung für die Erkennung problematischen KI-Verhaltens ist die Kenntnis darüber, welche KI-Systeme innerhalb eines Unternehmens eingesetzt werden. Bei dieser Sichtbarkeit zeigen sich deutliche Unterschiede zwischen Business und IT.
48 Prozent der österreichischen Business-Entscheider geben an, eine umfassende oder hohe Sichtbarkeit ihrer KI-Systeme zu haben. Bei den befragten IT-Entscheidern liegt der Anteil mit 68 Prozent deutlich höher. Ein Teil der Unternehmen verfügt dagegen lediglich über eine teilweise oder noch im Aufbau befindliche Transparenz. Gründe dafür können unvollständig erfasste KI-Systeme oder noch nicht vollständig etablierte Überwachungsprozesse sein.
Unterschiedlich bewerten Business und IT auch die Hindernisse bei der sicheren Einführung von KI. 42 Prozent der österreichischen IT-Entscheider zählen begrenzte Sicherheits- und Datenkompetenzen zu den größten Herausforderungen. Bei den Business-Entscheidern nennen 34 Prozent unklar geregelte Verantwortlichkeiten und Ownership als zentrales Problem.
Schutz vor Deepfakes und Voice Cloning weist Lücken auf
Neben Risiken durch eigene KI-Systeme müssen Unternehmen mit Angriffen umgehen, die durch KI ermöglicht oder verstärkt werden. Bei etablierten Bedrohungen ist die Abdeckung höher als bei neueren Angriffsmethoden.
Sechs von zehn österreichischen Unternehmen verfügen bereits über solide Kontrollen gegen KI-gestütztes Phishing. Bei Video-Deepfakes berichten dagegen 48 Prozent der Befragten von getesteten Kontrollen. Auch bei der kombinierten Imitation von Video und Stimme von Führungskräften, beispielsweise im Zusammenhang mit CFO-Betrug, zeigen sich geringere Schutzfähigkeiten.
Gegen Voice Cloning verfügen 52 Prozent der Befragten über getestete Sicherheitsmechanismen. Österreich liegt bei diesen Schutzfähigkeiten unter dem globalen Durchschnitt.
Die Ergebnisse zeigen damit unterschiedliche Reifegrade je nach Angriffsform: Während KI-gestütztes Phishing bei einem größeren Teil der Unternehmen bereits durch entsprechende Kontrollen adressiert wird, sind getestete Maßnahmen gegen Deepfakes und imitierte Stimmen weniger verbreitet.
Unternehmen sind beim „Kill Switch“ zurückhaltend
Mit zunehmend eigenständig handelnden KI-Agenten stellt sich auch die Frage, wie Unternehmen eingreifen, wenn ein System unerwartetes oder schädliches Verhalten zeigt. Weniger als ein Drittel der österreichischen Befragten befürwortet uneingeschränkt einen dedizierten „Kill Switch“, mit dem KI-Agenten im Notfall abgeschaltet werden können.
Knapp die Hälfte macht den Einsatz eines solchen Mechanismus vom jeweiligen Anwendungsfall abhängig. IT-Entscheider sprechen sich insgesamt stärker für einen „Kill Switch“ aus. Gleichzeitig fehlen in vielen Unternehmen noch klare, unternehmensweite Eskalationsprozesse für entsprechende Notfälle.
„Agentic AI bringt eine neue Risikokategorie mit sich, weil Systeme zunehmend eigenständig handeln, statt nur Empfehlungen zu geben“,
erklärt Richard Werner. „Diese Lücke ernst zu nehmen, bedeutet nicht, in Alarmismus zu verfallen, sondern konsequent zu handeln: Sichtbarkeit, Testing und Eingriffsmechanismen sollten von Anfang an mitgedacht werden. Unternehmen, die das jetzt angehen, sind später klar im Vorteil.“
TrendAI empfiehlt österreichischen Unternehmen eine laufend aktualisierte Inventarisierung aller eingesetzten KI-Systeme, den Ausbau der Erkennungsfähigkeiten für Deepfakes und Voice Cloning sowie regelmäßiges KI-spezifisches Testing und Red Teaming. Dadurch soll überprüft werden, wie wirksam die vorhandenen Kontrollen tatsächlich sind.
it&d business Redaktion
Kommentare