Wer KI-Systeme testet, muss auch für die Folgen haften
- 31. Juli
- 2 Min. Lesezeit
Juraj Janosik, VP of AI beim IT-Sicherheitshersteller ESET, ordnet aktuelle KI-Vorfälle bei OpenAI und Anthropic aus Sicht der IT-Sicherheit ein. Er plädiert dafür, für KI-Systeme dieselben Sicherheitsmaßstäbe anzulegen wie für klassische Software – von kontrollierten Testumgebungen bis hin zu Transparenz und klarer Verantwortung der Anbieter.
Die jüngsten Berichte über KI-Systeme, die im Rahmen von Tests ihre vorgesehenen Grenzen überschritten und auf externe IT-Infrastrukturen zugriffen, haben eine Debatte über den sicheren Umgang mit leistungsfähigen KI-Modellen ausgelöst. Während solche Vorfälle häufig als Beleg für den technologischen Fortschritt interpretiert werden, rückt Juraj Janosik die Sicherheitsaspekte in den Mittelpunkt. In seinem Gastkommentar argumentiert er, dass Innovation und Verantwortung untrennbar zusammengehören und KI-Anbieter denselben Sicherheits- und Haftungsmaßstäben unterliegen sollten wie andere Technologieunternehmen:
"Die jüngsten Vorfälle bei OpenAI und Anthropic sollten vor allem als Warnsignal für die IT-Sicherheit verstanden werden und nicht als Beleg dafür, wie leistungsfähig moderne KI bereits ist.
Wenn ein klassischer Software- oder Sicherheitsanbieter ein System testen würde, das seine vorgesehenen Grenzen überschreitet und auf fremde IT-Infrastrukturen zugreift, wären kritische Nachfragen und eine umfassende Untersuchung selbstverständlich. Für KI-Unternehmen sollten die gleichen Maßstäbe gelten.
Aufstieg der KI ist vergleichbar mit früheren Techtrends
Dieses Muster ist in der Technologiebranche nicht neu. Auch beim Aufstieg des Cloud Computing stand zunächst die schnelle Verbreitung der Technologie im Vordergrund, während Sicherheitskonzepte erst später nachgezogen wurden. Ähnliches sehen wir heute bei künstlicher Intelligenz: Die Entwicklung und Vermarktung neuer KI-Systeme schreitet rasant voran, während Sicherheitsfragen häufig erst im Nachhinein adressiert werden. Angesichts der wachsenden Fähigkeiten dieser Systeme ist das jedoch keine tragbare Strategie mehr.
Vorfall wird eher als Marketing-Gag denn als Problem behandelt
Besonders problematisch ist, dass solche Vorfälle teilweise so kommuniziert werden, dass die technischen Fähigkeiten der KI im Mittelpunkt stehen. Dadurch entsteht der Eindruck, ein Sicherheitsproblem sei gleichzeitig eine Art Leistungsnachweis. Das ist der falsche Fokus.
Sicherheitsvorfälle sollten transparent aufgearbeitet werden und nicht als Marketinginstrument im Wettbewerb der KI-Anbieter dienen.
KI-Hersteller müssen nachbessern
Mit zunehmender Leistungsfähigkeit von KI-Agenten müssen auch die Sicherheitsanforderungen steigen. Dazu gehören strikt abgeschottete Testumgebungen, wirksame Zugriffskontrollen, unabhängige Sicherheitsprüfungen sowie eine schnelle und transparente Information betroffener Organisationen. Die Branche sollte bewährte Sicherheitsstandards konsequent anwenden, bevor solche Systeme in großem Maßstab eingesetzt werden.
Die wichtigste Erkenntnis lautet: Innovation entbindet KI-Unternehmen nicht von ihrer Verantwortung. Für sie müssen dieselben hohen Sicherheitsstandards gelten wie für jeden anderen Technologieanbieter.
Gastkommentar von Juraj Janosik
Kommentare