Greg Qualls, Senior Director bei Upsun, hinterfragt angesichts möglicher Fehlentscheidungen autonomer KI-Agenten das bisherige „Human-in-the-Loop“-Konzept. Anweisungen im Prompt reichen für ihn nicht als Kontrolle aus. Stattdessen brauche es technische Grenzen und eine Infrastruktur, die riskante Handlungen verhindert oder sicherstellt, dass deren Folgen rückgängig gemacht werden können.
