KI-Agenten unter Kontrolle: Max Schwarz über Guardrails
KI-Agenten sollen autonom handeln – aber bitte nicht außerhalb der Regeln. Im KEX Lab zeigt Max Schwarz von DevControl, wie ein Policy Gateway Compliance und Autonomie zusammenbringen soll.
Ein KI-Agent soll helfen. Also fragt er nach Zugriff, bekommt ihn – und erledigt die Aufgabe. Klingt erst einmal genau nach dem, was wir von einem Agenten erwarten.
Blöd nur, wenn anschließend E-Mail-Adressen, Kontostände oder andere Kundendaten dort liegen, wo sie definitiv nicht hingehören.
Genau an diesem Punkt setzt Max Schwarz, Gründer und CEO von DevControl, in seinem Lab auf der Demo Stage der KI Exchange 2026 an. Denn je mehr KI-Agenten nicht nur antworten, sondern tatsächlich auf Systeme zugreifen und Aktionen ausführen, desto wichtiger wird die Frage: Wie gibt man ihnen genügend Freiheit zum Arbeiten, ohne bei Compliance und Governance die Kontrolle zu verlieren?
Der Agent will doch nur helfen
Für seine Live-Demo holt Schwarz einen Teilnehmer auf die Bühne und lässt ihn mit einem KI-Assistenten arbeiten. Der bekommt Aufgaben, bittet um Berechtigungen – und der Mensch entscheidet, ob er sie erteilt.
Das Ergebnis ist ziemlich menschlich: Wenn die KI überzeugend erklärt, warum sie etwas braucht, klickt man eben schnell auf „Erlauben“.
Genau darin sieht Schwarz ein Problem. Ein KI-Agent verfolgt zunächst sein Ziel. Er möchte eine Aufgabe lösen. Ob er dafür gerade auf Informationen zugreift, die er nicht lesen sollte, oder Daten an einen Ort schreibt, an dem sie nichts verloren haben, muss deshalb technisch begrenzt werden.
Sein Beispiel zeigt das ziemlich drastisch: Eine scheinbar harmlose Freigabe kann dazu führen, dass Kundendaten plötzlich in einer Tabelle auf einem Laptop landen.
Autor
