Beim Arbeiten mit KI ist kritisches Denken ein Muss

Elisabeth Lex, AI-Expertin an der TU Graz, unterstützt Organisationen beim Aufbau der nötigen Skills, um KI zu nutzen. Dazu gehört es auch, das, was sie liefert, zu hinterfragen.

Foto: TU Graz/Lunghammer

In vielen Unternehmen hat man die letzten Jahre hindurch Erfahrungen mit KI gesammelt, mögliche Use Cases identifiziert, PoCs entwickelt und Pilotprojekte aufgesetzt. Je stärker es nun darum geht, KI produktiv einzusetzen, umso wichtiger wird es, auch die Mitarbeiterinnen und Mitarbeiter KI-fit zu machen. Elisabeth Lex ist Professorin am Institut für Human-Centred Computing und Leiterin des AI for Society Labs an der Technischen Universität Graz Graz.   Sie unterstützt Organisationen dabei, die nötigen Skills für die Arbeit mit KI aufzubauen  – mit Schulungen und mit Workshops, wie etwa zum Thema Prompting. Dabei ist es für die Expertin für den Forschungsbereich „Vertrauenswürdige KI“ entscheidend, über konkrete Skills hinaus auch und vor allem Data Literacy und ein Grundverständnis für KI aufzubauen: „Weil es für komplexe Probleme zumeist keine einfachen Lösungen gibt, und weil am Ende meistens Menschen die Entscheidungen treffen. Es ist wichtig, zu verstehen, was KI kann – um nicht alles glauben zu müssen, was sie liefert.“

Frau Lex, wie geht man es sinnvoll an, eine Organisation KI-fit zu machen? Top-down mit dem großen Ganzen vor Augen oder bottom-up mit konkreten Initiativen?

Meiner Meinung nach ist eine Kombination aus beidem sinnvoll. Es ist grundsätzlich sehr wichtig, dass vonseiten der Unternehmensführung Visionen und klare Ziele entwickelt werden, um den Einsatz von KI mit den Unternehmenszielen in Einklang zu bringen. Der Einsatz von KI bedeutet ja auch, dass Investitionen getätigt werden müssen – in Systeme, Plattformen, Infrastruktur und Weiterbildung, aber auch, dass bestehende Prozesse eventuell aufgebrochen werden. Das geht nur mit klarer Führung. Gleichzeitig ist es sehr wichtig, die Menschen im Unternehmen frühzeitig einzubinden. Oftmals bringen diese – vielleicht sogar aus dem privaten Bereich – schon Erfahrungen mit. Außerdem kennen sie die Arbeitsprozesse und Pain Points sehr gut und haben oft konkrete Wünsche, wo KI entlasten könnte.

Wie bereit sind die Mitarbeiterinnen und Mitarbeiter tatsächlich für den Umgang mit KI?

Meiner Erfahrung nach hängt das stark von der Branche und vom Unternehmen ab, aber was immer wieder kommt, ist die Angst, ersetzt zu werden, nicht mehr mitzukommen, oder auch mit einer empathielosen, nüchternen Maschine konfrontiert zu werden. Auch Angst vor Überwachung am Arbeitsplatz ist ein großes Thema.

Man denkt oft, dass technologieaffine Personen bedingungslos positiv zu KI eingestellt sind, aber dadurch, dass solche Leute die Grenzen von KI oft besser einschätzen können, ist das nicht notwendigerweise so. Weniger technologieaffine Personen haben dafür oft die Vorstellung, dass KI uns Menschen komplett ersetzt, was ja nicht der Fall ist.

Definitiv zu beobachten ist, dass die Digital Natives die KI, die sie auch privat nutzen, gerne im Unternehmen einsetzen möchten. Umso wichtiger ist es, klarzustellen, dass KI-Systeme beispielsweise nicht mit Firmeninterna gefüttert werden dürfen – hier gilt es, durch Schulungen Bewusstsein zu schaffen.

Viele IT- und Digital-Verantwortliche sehen in diesem Zusammenhang die Gefahr einer Schatten-KI. 

Das ist tatsächlich vielfach ein Problem, vor allem, wenn es keine klaren Vorgaben und auch keine entsprechenden internen KI-Angebote gibt, auf die Mitarbeiter:innen zurückgreifen können. Um dem zu begegnen, sollten Unternehmen klare Richtlinien vorgeben, wie KI genutzt werden darf, zum Beispiel, dass interne und sensible Daten nicht in KI-Systeme eingegeben werden dürfen, die außerhalb der Organisation liegen. Ein sehr guter Ansatz, um Datenschutz und sichere Nutzung zu gewährleisten, ist es auch, interne Tools bereitzustellen, etwa einen internen Chatbot, der auf Firmendaten trainiert wurde, um relevante Fragen zu beantworten.

Gibt es angesichts der heterogenen Erwartungen der Menschen in einem Unternehmen ein Rezept dafür, wie man sie ins Boot holt?

Unternehmen sollten Bedenken ernst nehmen und ganz klar den Nutzen kommunizieren, den sie sich von KI versprechen. Wichtig ist dabei Transparenz: Werden überhaupt Daten gesammelt? Wenn ja, welche? Können Mitarbeiter:innen aus der Datensammlung aussteigen? Und so weiter. Ein gutes Tool stellen Schulungen dar, die in verständlicher Sprache eine Einführung in das Thema KI geben und die viel Raum für Interaktion und Diskussion lassen. In meinen eigenen Schulungen lege ich besonders darauf Wert, klarzustellen, was KI leisten kann, welche Daten gesammelt werden, wie man die Datensammlung beeinflussen kann und welche Potenziale und Risiken sich ergeben. Meiner Erfahrung nach sehen viele Menschen KI ganz anders, wenn sie mehr darüber erfahren. Oft ist den Menschen auch nicht klar, dass sie bereits KI in vielen alltäglichen Situationen nutzen.

Welche Skills sollten jetzt vor allem forciert werden – angesichts der Geschwindigkeit, mit der sich die KI-Technologien weiterentwickeln? Wird beispielsweise Prompting in zwei Jahren ganz anders aussehen?

Natürlich verändert sich der KI-Markt sehr schnell. Allerdings gibt es durchaus Kompetenzen, die meiner Meinung nach langfristig gebraucht werden. Am Beispiel Prompting:  Es ist wichtig zu lernen, gezielt mit KI zu interagieren. Ich gehe davon aus, dass sich Prompting verändern wird, aber man kann es mit der Bedienung von Suchmaschinen vergleichen. Früher musste man eine Suchan-frage am besten in einem oder maximal zwei Worten beschreiben, heute kann man mithilfe ganzer Sätze suchen. Wichtig ist, den Satz so zu formulieren, dass er ausdrückt, was man finden möchte – das heißt, die Grundidee ist dieselbe, nur ist das „Tool“ mächtiger geworden. Es wird also stets ein wichtiger Skill bleiben, ein Problem zu konkretisieren und Fragestellungen gut zu spezifizieren, auch wenn sich die Tools ändern. Man sollte sich jedoch nicht nur auf konkrete Skills fokussieren, sondern vor allem darauf, KI-Literacy aufzubauen, also grundlegendes Verständnis dafür, was KI ist und wie die Basistechnologien funktionieren.

Wie schafft man das am besten?

Ziel ist zu verstehen, wo die Stärken und Schwächen von KI liegen. Zum Beispiel sind die generierten Texte von Chatbots das Ergebnis von Wahrscheinlichkeiten und Statistik – ein Chatbot hat kein Wissen im klassischen Sinn.

KI „denkt“ nicht, sondern berechnet Wahrscheinlichkeiten basierend auf den großen Datenmengen, die sie im Training „gesehen“ hat. KI kann aber sehr überzeugend klingende Antworten generieren, die inhaltlich völlig falsch sein können. Ohne Informationskompetenz und die Fähigkeit, kritisch zu hinterfragen, ist es schwer, die Korrektheit der Antwort zu bewerten.

Auch sogenannte Biases, also Verzerrungen in den Trainingsdaten, wirken sich direkt auf die Ergebnisse aus. Wenn ein System auf verzerrte Daten trainiert wurde, dann produziert es auch verzerrte Ergebnisse. KI-User müssen sich deshalb im Klaren sein, dass sie Ergebnisse hinterfragen müssen. Kritisches Denken ist ein absolutes Muss im Umgang mit KI.

it&d business Redaktion