KI-Agenten können bei der Verfolgung ihrer Ziele Aktionen ausführen, die niemand angefordert oder vorgesehen hat. Gefährlich wird das etwa, wenn Daten gelöscht, Zugriffsrechte erweitert oder Informationen nach außen gegeben werden. Thomas Boele von Check Point Software erklärt, warum Berechtigungen und Prompt-Schutz allein nicht ausreichen und wie sich gefährliche Abweichungen vor der Ausführung erkennen lassen.