Zum Hauptinhalt springen
Möglicher AufbauCompliance & Recht

Agent Permission Gateway: KI-Agenten mit Least Privilege

Kontrolllayer zwischen KI-Agenten und ihren Werkzeugen: enge Rechte, kurzlebige Tokens, Freigabe-Gate, Audit-Log. Demo-Referenzarchitektur, kein Produkt.

Branche
Branchenübergreifend · Mittelstand · KI-Betrieb
Aufbau, geschätzt
4–6 Wochen

Auf einen Blick

Es beginnt mit
Agent fordert Tool-Aktion
Die Maschine übernimmt
9 von 10 Schritten
Beim Menschen bleibt
Human-in-the-Loop-Freigabe
Unterm Strich
nur mit FreigabeIrreversible Aktionen

Das Problem

Mal ehrlich: Die meisten KI-Agenten laufen heute mit einem geteilten Admin-API-Key und der Hoffnung, dass die Anweisung „sei vorsichtig" reicht. Tut sie nicht.

Der Replit-Vorfall — eine gelöschte Produktionsdatenbank trotz gegenteiliger Anweisung — und EchoLeak (CVE-2025-32711, Zero-Click-Datenabfluss aus M365 Copilot) zeigen, was passiert, wenn ein Agent mehr darf, als er sollte.

Diese Demo zeigt, wie ein Gateway dazwischen die Frage „Welche Rechte hat die KI?" technisch beantwortbar macht — nicht per Prompt, sondern per Berechtigung.

Sobald ein Agent echte Aufgaben übernimmt, wird seine Berechtigung zum eigentlichen Risiko — nicht seine Halluzination. Die OWASP Top 10 for Agentic Applications (Dezember 2025) benennen das direkt: ASI03 Identity & Privilege Abuse, ASI02 Tool Misuse und ASI10 Rogue Agents.

In der Praxis fehlt den meisten Setups (a) eine eigene Identität pro Agent, (b) eng geschnittene Rechte pro Werkzeug, (c) eine Freigabe vor irreversiblen Aktionen und (d) ein lückenloses Protokoll, wer was veranlasst hat. Stattdessen: ein geteilter Generalschlüssel und gut gemeinte Prompts.

Die dokumentierten Eskalations-Muster sind konkret: Delegationsketten reichen das volle Rechte-Set weiter statt nur das Nötige; gecachte Tokens werden über Nutzer hinweg wiederverwendet; Autorisierung passiert nur am Start, nicht pro Schritt (TOCTOU). Und fast jeder reale Vorfall ist ein Confused Deputy: Niemand hackt den Agenten — man überredet ihn über eine in Daten versteckte Anweisung.

Der Ablauf, Schritt für Schritt

Scrollen Sie durch. Das Diagramm bleibt stehen und markiert den Schritt, bei dem Sie gerade sind.

Der Ablauf01 / 10
  1. 01

    Agent fordert Tool-Aktion

    z. B. Datensatz ändern

    Ein Agent will ein Werkzeug nutzen — etwa einen Datensatz ändern, eine E-Mail senden oder eine Zahlung auslösen. Statt direkt auf das Tool zuzugreifen, läuft die Anfrage durch das Gateway.

  2. 02

    Identität & Scope prüfen

    Wer? Welche Rechte?

    Das Gateway prüft zuerst: Welcher Agent fragt, und welche Rechte hat genau dieser Agent? Keine geteilten Admin-Keys — jeder Agent hat eine eigene Identität mit eng geschnittenem Scope.

  3. 03

    JIT-Token ausstellen

    Vault · kurzlebig

    Für die konkrete Aufgabe stellt ein Secrets-Manager (Vault) ein kurzlebiges Just-in-Time-Token aus. Es gilt nur für diesen einen Schritt und verfällt danach — ein gekapertes Token ist schnell wertlos.

  4. 04

    Autorisierung pro Schritt

    Policy-Engine (OPA)

    Eine Policy-Engine (OPA) entscheidet pro Schritt, ob diese konkrete Aktion erlaubt ist — nicht nur einmal am Anfang. Das schließt die TOCTOU-Lücke zwischen Prüfung und Nutzung.

  5. 05Verzweigung

    Irreversibel?

    Jetzt die Schlüsselfrage: Ist die Aktion irreversibel oder erheblich? Geld bewegen, Daten löschen, extern kommunizieren — oder nur etwas Lesendes, Unkritisches?

  6. 06Mensch entscheidet

    Human-in-the-Loop-Freigabe

    Slack / Teams

    Bei irreversiblen Aktionen läuft die Anfrage nicht durch, sondern in eine Freigabe-Queue in Slack oder Teams. Ein Mensch entscheidet, der Workflow dokumentiert die Entscheidung.

  7. 07

    Im Scope — kein Gate

    direkt erlaubt

    Unkritische Aktionen im erlaubten Scope laufen ohne Gate direkt weiter — Least-Privilege bremst nur dort, wo es zählt, nicht überall.

  8. 08

    Tool-Aktion ausführen

    nur im erlaubten Scope

    Erst jetzt wird die Tool-Aktion tatsächlich ausgeführt — ausschließlich im erlaubten Scope und mit dem kurzlebigen Token. Selbst ein überredeter Agent kann nur das, wofür er Rechte hat.

  9. 09

    Audit-Log schreiben

    append-only

    Jeder Schritt — Identität, Token, Autorisierung, Freigabe, Ausführung — wird append-only ins Audit-Log geschrieben: Agent-Identität, Tool, Payload-Hash, Override, Zeitstempel.

  10. 10

    Abgeschlossen & protokolliert

    auditierbar

    Die Aktion ist abgeschlossen und lückenlos protokolliert. „Wer hat das freigegeben?" ist ab jetzt ein Datenbankeintrag, kein Krisenmeeting.

Was sich ändert

Möglicher Aufbau, kein fertiges Produkt

Die Zahlen sind modellierte Zielwerte für einen möglichen Aufbau, abgeleitet aus Branchenwerten und eigenen Tests. Sie stammen nicht aus einem Kundenprojekt, echte Werte hängen von Ihrem Betrieb ab. Wir verkaufen diesen Aufbau nicht als fertiges Produkt: Wir messen, wo Ihr Engpass liegt, und bauen dann mit Ihrem Team. Für zertifizierungspflichtige Systeme (etwa KIS, gematik, DATEV-zertifiziert) arbeiten wir mit spezialisierten Partnern.

Vorher vs. Nachher

AspektVorherNachher
ZugangVorher: geteilter Admin-Key für allesNachher: eigene, enge Credentials pro Agent
Irreversible AktionVorher: läuft ungeprüft durchNachher: Freigabe-Gate, Mensch entscheidet
TokenVorher: dauerhaft gültigNachher: Just-in-Time, kurzlebig
AutorisierungVorher: nur am Start geprüft (TOCTOU)Nachher: pro Schritt geprüft
NachvollziehbarkeitVorher: verstreute LogsNachher: ein unveränderliches Audit-Log
Prompt InjectionVorher: „sei vorsichtig" im PromptNachher: externe Inhalte = Daten, nicht Befehle

Technik

Technologie-Stack

n8n (self-hosted)Policy-Engine (OPA)Vault / Secrets-ManagerPostgreSQL (Audit-Log)Slack / Teams (Freigabe-Gate)OpenAI / Claude (über Gateway)

Integrationen

Systeme, an die dieser Aufbau anschließen kann

n8n (self-hosted)Orchestrierung
Zentrale Gateway-Engine: Policy-Prüfung, Token-Ausstellung, Freigabe-Gates und Audit-Log
Make / ZapierAgenten-Anbindung
Bestehende KI-Workflows werden per Webhook über das Gateway geführt
Vault / Secrets-ManagerJIT-Credentials
Stellt kurzlebige, aufgaben-gebundene Tokens aus statt fest verdrahteter Keys
Policy-Engine (OPA)Berechtigung
Entscheidet pro Schritt, ob eine Tool-Aktion erlaubt ist — Least-Privilege als Code
Slack / TeamsFreigabe-Gate
Menschliche Freigabe für irreversible Aktionen, direkt im Chat
PostgreSQLAudit-Log
Unveränderliches Protokoll aller Agenten-Schritte und Freigaben

Sicherheit & Compliance

Worauf der Aufbau achtet

Datensouveränität durch Self-Hosting
Das gesamte Gateway läuft self-hosted (n8n) im eigenen Rechenzentrum oder EU-Hosting. Agenten-Credentials und Audit-Daten verlassen nie das Haus.
Least-Privilege erzwungen
Rechte werden pro Tool fein abgestuft und kurzlebig vergeben. Ein Agent kann technisch nur das, wofür er gerade autorisiert ist — nicht, was sein geteilter Key zufällig erlauben würde.
Externe Inhalte als Daten behandelt
Alles, was der Agent aus E-Mails, Dokumenten, Webseiten oder Tickets liest, wird als Daten behandelt, nicht als Befehl — die Grundabwehr gegen indirekte Prompt Injection wie bei EchoLeak.
Unveränderlicher Audit-Trail
Jeder Agenten-Schritt und jede Freigabe wird append-only mit Zeitstempel, Identität und Payload-Hash protokolliert — nachvollziehbar bei Vorfällen und Streitigkeiten.

Häufige Fragen

Nein — eine Demo-Referenzarchitektur. Sie zeigt das Prinzip; die Umsetzung wird auf Ihre Tools (Make, n8n, Zapier, Ihren Identity-Provider) zugeschnitten. Es ist kein zertifiziertes Sicherheitsprodukt.
Nein. Die Prinzipien — eigene Identität, Least-Privilege pro Tool, Just-in-Time-Tokens, Audit-Log — funktionieren plattformunabhängig und self-hosted. Eine 99-$-Enterprise-Suite ist für den typischen Mittelständler weder vorhanden noch nötig.
Nein, nichts tut das zuverlässig. Das Gateway begrenzt aber den Schaden: Selbst ein gekaperter Agent kann nur das tun, wofür er Rechte hat — und Irreversibles nur mit menschlicher Freigabe. Aus „die KI wurde überredet" wird so kein „die KI hat die Produktion gelöscht".
Nein. Es ergänzt Ihre Security-Governance, ersetzt sie nicht. Es setzt Least-Privilege für Agenten durch und macht jede Aktion auditierbar — die Risikobewertung und den Rahmen setzt weiterhin ein Sicherheits- oder Datenschutzverantwortlicher.