Agent Permission Gateway: KI-Agenten mit Least Privilege
Kontrolllayer zwischen KI-Agenten und ihren Werkzeugen: enge Rechte, kurzlebige Tokens, Freigabe-Gate, Audit-Log. Demo-Referenzarchitektur, kein Produkt.
- Branche
- Branchenübergreifend · Mittelstand · KI-Betrieb
- Aufbau, geschätzt
- 4–6 Wochen
Auf einen Blick
- Es beginnt mit
- Agent fordert Tool-Aktion
- Die Maschine übernimmt
- 9 von 10 Schritten
- Beim Menschen bleibt
- Human-in-the-Loop-Freigabe
- Unterm Strich
- nur mit FreigabeIrreversible Aktionen
Das Problem
Mal ehrlich: Die meisten KI-Agenten laufen heute mit einem geteilten Admin-API-Key und der Hoffnung, dass die Anweisung „sei vorsichtig" reicht. Tut sie nicht.
Der Replit-Vorfall — eine gelöschte Produktionsdatenbank trotz gegenteiliger Anweisung — und EchoLeak (CVE-2025-32711, Zero-Click-Datenabfluss aus M365 Copilot) zeigen, was passiert, wenn ein Agent mehr darf, als er sollte.
Diese Demo zeigt, wie ein Gateway dazwischen die Frage „Welche Rechte hat die KI?" technisch beantwortbar macht — nicht per Prompt, sondern per Berechtigung.
Sobald ein Agent echte Aufgaben übernimmt, wird seine Berechtigung zum eigentlichen Risiko — nicht seine Halluzination. Die OWASP Top 10 for Agentic Applications (Dezember 2025) benennen das direkt: ASI03 Identity & Privilege Abuse, ASI02 Tool Misuse und ASI10 Rogue Agents.
In der Praxis fehlt den meisten Setups (a) eine eigene Identität pro Agent, (b) eng geschnittene Rechte pro Werkzeug, (c) eine Freigabe vor irreversiblen Aktionen und (d) ein lückenloses Protokoll, wer was veranlasst hat. Stattdessen: ein geteilter Generalschlüssel und gut gemeinte Prompts.
Die dokumentierten Eskalations-Muster sind konkret: Delegationsketten reichen das volle Rechte-Set weiter statt nur das Nötige; gecachte Tokens werden über Nutzer hinweg wiederverwendet; Autorisierung passiert nur am Start, nicht pro Schritt (TOCTOU). Und fast jeder reale Vorfall ist ein Confused Deputy: Niemand hackt den Agenten — man überredet ihn über eine in Daten versteckte Anweisung.
Der Ablauf, Schritt für Schritt
Scrollen Sie durch. Das Diagramm bleibt stehen und markiert den Schritt, bei dem Sie gerade sind.
- 01
Agent fordert Tool-Aktion
z. B. Datensatz ändern
Ein Agent will ein Werkzeug nutzen — etwa einen Datensatz ändern, eine E-Mail senden oder eine Zahlung auslösen. Statt direkt auf das Tool zuzugreifen, läuft die Anfrage durch das Gateway.
- 02
Identität & Scope prüfen
Wer? Welche Rechte?
Das Gateway prüft zuerst: Welcher Agent fragt, und welche Rechte hat genau dieser Agent? Keine geteilten Admin-Keys — jeder Agent hat eine eigene Identität mit eng geschnittenem Scope.
- 03
JIT-Token ausstellen
Vault · kurzlebig
Für die konkrete Aufgabe stellt ein Secrets-Manager (Vault) ein kurzlebiges Just-in-Time-Token aus. Es gilt nur für diesen einen Schritt und verfällt danach — ein gekapertes Token ist schnell wertlos.
- 04
Autorisierung pro Schritt
Policy-Engine (OPA)
Eine Policy-Engine (OPA) entscheidet pro Schritt, ob diese konkrete Aktion erlaubt ist — nicht nur einmal am Anfang. Das schließt die TOCTOU-Lücke zwischen Prüfung und Nutzung.
- 05Verzweigung
Irreversibel?
Jetzt die Schlüsselfrage: Ist die Aktion irreversibel oder erheblich? Geld bewegen, Daten löschen, extern kommunizieren — oder nur etwas Lesendes, Unkritisches?
- 06Mensch entscheidet
Human-in-the-Loop-Freigabe
Slack / Teams
Bei irreversiblen Aktionen läuft die Anfrage nicht durch, sondern in eine Freigabe-Queue in Slack oder Teams. Ein Mensch entscheidet, der Workflow dokumentiert die Entscheidung.
- 07
Im Scope — kein Gate
direkt erlaubt
Unkritische Aktionen im erlaubten Scope laufen ohne Gate direkt weiter — Least-Privilege bremst nur dort, wo es zählt, nicht überall.
- 08
Tool-Aktion ausführen
nur im erlaubten Scope
Erst jetzt wird die Tool-Aktion tatsächlich ausgeführt — ausschließlich im erlaubten Scope und mit dem kurzlebigen Token. Selbst ein überredeter Agent kann nur das, wofür er Rechte hat.
- 09
Audit-Log schreiben
append-only
Jeder Schritt — Identität, Token, Autorisierung, Freigabe, Ausführung — wird append-only ins Audit-Log geschrieben: Agent-Identität, Tool, Payload-Hash, Override, Zeitstempel.
- 10
Abgeschlossen & protokolliert
auditierbar
Die Aktion ist abgeschlossen und lückenlos protokolliert. „Wer hat das freigegeben?" ist ab jetzt ein Datenbankeintrag, kein Krisenmeeting.
Was sich ändert
Möglicher Aufbau, kein fertiges Produkt
Die Zahlen sind modellierte Zielwerte für einen möglichen Aufbau, abgeleitet aus Branchenwerten und eigenen Tests. Sie stammen nicht aus einem Kundenprojekt, echte Werte hängen von Ihrem Betrieb ab. Wir verkaufen diesen Aufbau nicht als fertiges Produkt: Wir messen, wo Ihr Engpass liegt, und bauen dann mit Ihrem Team. Für zertifizierungspflichtige Systeme (etwa KIS, gematik, DATEV-zertifiziert) arbeiten wir mit spezialisierten Partnern.
Vorher vs. Nachher
| Aspekt | Vorher | Nachher |
|---|---|---|
| Zugang | Vorher: geteilter Admin-Key für alles | Nachher: eigene, enge Credentials pro Agent |
| Irreversible Aktion | Vorher: läuft ungeprüft durch | Nachher: Freigabe-Gate, Mensch entscheidet |
| Token | Vorher: dauerhaft gültig | Nachher: Just-in-Time, kurzlebig |
| Autorisierung | Vorher: nur am Start geprüft (TOCTOU) | Nachher: pro Schritt geprüft |
| Nachvollziehbarkeit | Vorher: verstreute Logs | Nachher: ein unveränderliches Audit-Log |
| Prompt Injection | Vorher: „sei vorsichtig" im Prompt | Nachher: externe Inhalte = Daten, nicht Befehle |
Technik
Technologie-Stack
Integrationen
Systeme, an die dieser Aufbau anschließen kann
- n8n (self-hosted)Orchestrierung
- Zentrale Gateway-Engine: Policy-Prüfung, Token-Ausstellung, Freigabe-Gates und Audit-Log
- Make / ZapierAgenten-Anbindung
- Bestehende KI-Workflows werden per Webhook über das Gateway geführt
- Vault / Secrets-ManagerJIT-Credentials
- Stellt kurzlebige, aufgaben-gebundene Tokens aus statt fest verdrahteter Keys
- Policy-Engine (OPA)Berechtigung
- Entscheidet pro Schritt, ob eine Tool-Aktion erlaubt ist — Least-Privilege als Code
- Slack / TeamsFreigabe-Gate
- Menschliche Freigabe für irreversible Aktionen, direkt im Chat
- PostgreSQLAudit-Log
- Unveränderliches Protokoll aller Agenten-Schritte und Freigaben
Sicherheit & Compliance
Worauf der Aufbau achtet
- Datensouveränität durch Self-Hosting
- Das gesamte Gateway läuft self-hosted (n8n) im eigenen Rechenzentrum oder EU-Hosting. Agenten-Credentials und Audit-Daten verlassen nie das Haus.
- Least-Privilege erzwungen
- Rechte werden pro Tool fein abgestuft und kurzlebig vergeben. Ein Agent kann technisch nur das, wofür er gerade autorisiert ist — nicht, was sein geteilter Key zufällig erlauben würde.
- Externe Inhalte als Daten behandelt
- Alles, was der Agent aus E-Mails, Dokumenten, Webseiten oder Tickets liest, wird als Daten behandelt, nicht als Befehl — die Grundabwehr gegen indirekte Prompt Injection wie bei EchoLeak.
- Unveränderlicher Audit-Trail
- Jeder Agenten-Schritt und jede Freigabe wird append-only mit Zeitstempel, Identität und Payload-Hash protokolliert — nachvollziehbar bei Vorfällen und Streitigkeiten.
Häufige Fragen
Wie sähe das bei Ihnen aus?
Dieser Ablauf ist eine Demo. Ob er sich bei Ihnen lohnt, hängt davon ab, wo es bei Ihnen hakt. Wie man das herausfindet, zeigt die Methode. Einen eigenen Ablauf einordnen können Sie im Selbst-Check, kostenlos und ohne Gespräch.