Interne Wissens-KI: RAG-Assistent, DSGVO-konform
Ein RAG-Chatbot beantwortet Team-Fragen aus Confluence, Jira und Git — On-Premise, mit Quellenangaben statt Halluzinationen. Demo-Referenzarchitektur.
- Branche
- Technik · Wissensmanagement
- Aufbau, geschätzt
- 8 Wochen
Auf einen Blick
- Es beginnt mit
- Mitarbeiter-Frage
- Die Maschine übernimmt
- 9 von 9 Schritten
- Beim Menschen bleibt
- Nichts — der Ablauf läuft durch
- Unterm Strich
- <30 SekSuchzeit pro Frage
Das Problem
„Frag mal Markus, der weiß das." — Markus ist im Urlaub. Oder seit drei Monaten nicht mehr im Unternehmen.
Das Wissen ist ja da: in Confluence-Seiten, Jira-Tickets, README-Dateien, alten Architektur-Entscheidungen. Nur findet es niemand. Also wird dieselbe Frage zum vierten Mal im Team-Chat gestellt, der Senior-Entwickler unterbricht zum vierten Mal seine Arbeit — und die Doku, die es beantwortet hätte, bleibt ungelesen.
Die naheliegende Abkürzung — interne Doku in ein öffentliches KI-Tool kopieren — ist für viele Unternehmen keine Option. Quellcode, Kundendaten, Betriebsgeheimnisse in einer fremden Cloud? Eben.
Dieser Showcase zeigt den anderen Weg: eine Wissens-KI, die im eigenen Netz läuft, nur antwortet, was sie belegen kann, und nur zeigt, was der Fragende sehen darf.
Entwicklungs- und Engineering-Teams verlieren täglich Zeit mit Wissenssuche: Die Antwort existiert irgendwo in Confluence, Jira, GitLab oder auf Netzlaufwerken — aber die Suche dauert 20 bis 30 Minuten oder endet beim erfahrensten Kollegen, der dadurch selbst nicht mehr zum Arbeiten kommt. Bei neuen Mitarbeitenden zieht sich die Einarbeitung über Monate, weil Wissen nur über Zuruf weitergegeben wird.
Gleichzeitig verbieten Datenschutz und IP-Schutz die einfache Lösung: Interne Dokumentation, Quellcode oder Kundendaten dürfen nicht in öffentliche KI-Dienste kopiert werden. Gerade in regulierten oder sicherheitskritischen Umfeldern kommt hinzu: Nicht jeder darf alles sehen. Ein Wissens-Chatbot, der Berechtigungen ignoriert, wäre ein größeres Risiko als gar keiner. Und ein Chatbot, der bei Wissenslücken überzeugend klingende Antworten erfindet, untergräbt das Vertrauen schneller, als er Nutzen stiftet.
Szene nachgestellt
Mittwoch, 14:40
Wo stand noch mal die Regel für Reisekosten?
Die Antwort steht irgendwo im Wiki, in einer PDF oder in einer Mail von 2023. Die Wissens-KI findet sie und sagt, woher sie stammt.
Der Ablauf, Schritt für Schritt
Scrollen Sie durch. Das Diagramm bleibt stehen und markiert den Schritt, bei dem Sie gerade sind.
- 01
Mitarbeiter-Frage
Slack / Web-UI
Ein Mitarbeiter stellt eine Frage — direkt im Slack-Channel oder über die interne Web-Oberfläche. Zum Beispiel: „Wie deployen wir den Service X auf die Staging-Umgebung?"
- 02
SSO & Berechtigungen
Keycloak
Das System prüft über das Single Sign-On (Keycloak), wer fragt — und lädt dessen Gruppen und Berechtigungen. Diese bestimmen, welche Wissensquellen für die Antwort überhaupt infrage kommen.
- 03
Vektor-Suche
Qdrant, ACL-gefiltert
Die Frage wird in einen Vektor umgewandelt und gegen die Qdrant-Datenbank gesucht. Entscheidend: Die Suche ist hart auf Dokumente gefiltert, die der Fragende im Quellsystem sehen dürfte.
- 04Verzweigung
Quellen gefunden?
Das System entscheidet: Gibt es ausreichend relevante, belastbare Textabschnitte für eine fundierte Antwort — oder nicht?
- 05
On-Prem LLM
Antwort generieren
Das lokal betriebene LLM (Ollama auf eigener GPU-Hardware) formuliert die Antwort ausschließlich aus den gefundenen Abschnitten. Es darf nichts hinzuerfinden — jede Aussage muss sich auf eine Quelle stützen.
- 06
Ehrliche Lücke
Ansprechpartner nennen
Keine belastbare Quelle? Dann erfindet das System nichts, sondern antwortet ehrlich: „Dazu habe ich keine dokumentierte Antwort" — und nennt den fachlich zuständigen Ansprechpartner.
- 07
Antwort + Quellen
Links & Stand
Die Antwort wird mit Quellenangaben ausgeliefert: Links zu den Confluence-Seiten, Jira-Tickets oder READMEs inklusive Datum des letzten Stands. Jede Aussage ist nachprüfbar.
- 08
Audit-Log
DSGVO-Löschfristen
Frage, Antwort und genutzte Quellen werden im Audit-Log dokumentiert — mit definierten Löschfristen nach DSGVO. So bleibt nachvollziehbar, wer wann welches Wissen abgerufen hat.
- 09
Abgeschlossen
Feedback erfasst
Der Mitarbeiter bewertet die Antwort mit einem Klick. Das Feedback fließt in die Verbesserung der Suche und deckt Dokumentationslücken systematisch auf.
Was sich ändert
Möglicher Aufbau, kein fertiges Produkt
Die Zahlen sind modellierte Zielwerte für einen möglichen Aufbau, abgeleitet aus Branchenwerten und eigenen Tests. Sie stammen nicht aus einem Kundenprojekt, echte Werte hängen von Ihrem Betrieb ab. Wir verkaufen diesen Aufbau nicht als fertiges Produkt: Wir messen, wo Ihr Engpass liegt, und bauen dann mit Ihrem Team. Für zertifizierungspflichtige Systeme (etwa KIS, gematik, DATEV-zertifiziert) arbeiten wir mit spezialisierten Partnern.
Vorher vs. Nachher
| Aspekt | Vorher | Nachher |
|---|---|---|
| Wissenssuche | Vorher: 20–30 Min über Confluence, Jira, Chats | Nachher: Eine Frage, Antwort in Sekunden |
| Datenfluss | Vorher: Copy-Paste in externe KI-Tools | Nachher: 100% On-Premise, nichts verlässt das Netz |
| Verlässlichkeit | Vorher: Veraltete Doku, Hörensagen | Nachher: Jede Antwort mit Quellenlink und Stand |
| Zugriffsschutz | Vorher: Wissen per Zuruf, unkontrolliert | Nachher: Antworten respektieren Berechtigungen |
Technik
Technologie-Stack
Integrationen
Systeme, an die dieser Aufbau anschließen kann
- Ollama (On-Premise LLM)KI-Engine
- Lokal betriebenes offenes Sprachmodell auf eigener GPU-Hardware — Antwortgenerierung ohne externe API
- QdrantVektor-Datenbank
- Semantische Suche über alle indexierten Wissensquellen mit ACL-Filterung pro Anfrage
- Confluence & JiraWissensquellen
- Nächtliche Synchronisation von Seiten und Tickets inklusive Original-Berechtigungen
- GitLabCode & Doku
- READMEs, Architektur-Entscheidungen und Wikis aus den Repositories — mit Secrets-Filter
- KeycloakSSO & Berechtigungen
- Single Sign-On und Gruppenauflösung — bestimmt, welche Quellen pro Nutzer durchsucht werden
Sicherheit & Compliance
Worauf der Aufbau achtet
- 100% On-Premise
- LLM, Vektor-Datenbank und Workflows laufen vollständig auf eigener Infrastruktur. Keine externen KI-APIs, einsetzbar auch in abgeschotteten Netzen.
- Berechtigungs-Vererbung
- Zugriffsrechte aus Confluence, Jira und GitLab werden bei jeder Suche durchgesetzt. Niemand bekommt Antworten aus Dokumenten, die er nicht öffnen dürfte.
- Secrets-Redaktion
- API-Keys, Tokens und Zugangsdaten werden vor der Indexierung erkannt und entfernt — sie erreichen den Suchindex gar nicht erst.
- Audit-Log & DSGVO
- Jede Frage und Antwort wird revisionssicher protokolliert, mit definierten Löschfristen und Auskunftsfähigkeit nach DSGVO.
Häufige Fragen
Wie sähe das bei Ihnen aus?
Dieser Ablauf ist eine Demo. Ob er sich bei Ihnen lohnt, hängt davon ab, wo es bei Ihnen hakt. Wie man das herausfindet, zeigt die Methode. Einen eigenen Ablauf einordnen können Sie im Selbst-Check, kostenlos und ohne Gespräch.