Der Mitarbeiter glaubt, er macht alles richtig
Teil 6: Die Vektordatenbank-Falle: Warum „lokale Datenhaltung" allein keine DSGVO-Lösung ist
Was viele Unternehmen glauben – und warum es so nicht stimmt
Der Mitarbeiter glaubt, er macht alles richtig
Die Situation ist typisch: Ein Unternehmen möchte KI produktiv nutzen. Die IT richtet ein RAG-System ein – RAG steht für Retrieval-Augmented Generation, also eine KI, die auf eigene Dokumente zugreifen kann. Verträge, Handbücher, Produktdokumentationen, Kundendaten – alles wird in eine Vektordatenbank geladen, die sicher im eigenen Rechenzentrum oder bei einem deutschen Hosting-Anbieter liegt.
Der Geschäftsführer nickt. Die Daten liegen intern. DSGVO-konform. Fertig.
Was dabei übersehen wird, ist der zweite Teil des Systems – und genau dort verlassen die Daten das Unternehmen.
Was eine Vektordatenbank wirklich tut
Eine Vektordatenbank speichert Dokumente nicht als lesbaren Text, sondern als mathematische Repräsentationen – sogenannte Embeddings. Das ermöglicht semantische Suche: Das System findet nicht nur exakte Treffer, sondern inhaltlich verwandte Passagen.
Wenn ein Mitarbeiter eine Frage stellt – zum Beispiel: „Was sind die Zahlungsbedingungen im Vertrag mit Kunde Müller?" – passiert folgendes:
-
Die Frage wird in einen Vektor umgewandelt
-
Die Datenbank sucht die relevantesten Textpassagen aus den gespeicherten Dokumenten
-
Diese Passagen – also echte Ausschnitte aus echten Unternehmensunterlagen – werden zusammen mit der Frage als Kontext an das KI-Modell übergeben
-
Das Modell formuliert die Antwort
Schritt 3 ist das Problem.
Denn wenn das KI-Modell nicht lokal im eigenen Haus läuft, sondern ein externer Dienst ist – also GPT-4 von OpenAI, Claude von Anthropic oder Gemini von Google – dann werden genau diese Dokumentenausschnitte als Teil des Prompts an deren Server übermittelt. In den USA. Außerhalb der EU. Außerhalb Ihrer Kontrolle.
Die Vektordatenbank liegt im Rechenzentrum Frankfurt. Die Vertragsdaten landen trotzdem in San Francisco.
Warum das so oft übersehen wird
Das Missverständnis ist nachvollziehbar. Der Begriff „lokale Datenhaltung" klingt nach Sicherheit – und die Datenbank liegt ja tatsächlich lokal. Was viele nicht auf dem Schirm haben: In einem RAG-System ist die Datenbank nur die Bibliothek. Das Modell ist der Leser. Und wenn der Leser extern sitzt, müssen die Bücher zu ihm transportiert werden – Seite für Seite, Anfrage für Anfrage.
Technisch ausgedrückt: Die Chunks – also die Textfragmente, die das RAG-System als relevant identifiziert – werden im Klartext in den Prompt eingebettet und mit jeder Anfrage an den externen Provider gesendet. Kein Anbieter, der externe Modelle nutzt, kann das vermeiden. Es ist kein Fehler im System. Es ist die Funktionsweise.
Die zwei Wege, die wirklich funktionieren
Es gibt keine Abkürzung. Wer sicherstellen will, dass Unternehmensdaten das eigene Netzwerk nicht verlassen, hat genau zwei Optionen:
Option 1: Lokales KI-Modell
Das Modell läuft vollständig auf eigener Infrastruktur – im eigenen Rechenzentrum oder auf einem dedizierten Server beim Managed-Service-Anbieter. Keine Anfrage verlässt das interne Netz. Weder der Prompt noch die Dokumentenausschnitte noch die Antwort.
Der Nachteil: Lokale Modelle sind leistungsfähig, aber in manchen Disziplinen noch nicht auf dem Niveau der großen externen Anbieter. Für viele Unternehmensaufgaben reicht das vollkommen aus – für andere nicht.
Option 2: DSGVO-Filter vor dem externen Modell
Wer die Leistungsfähigkeit externer Modelle wie GPT-4 oder Claude nutzen möchte, ohne sensible Daten preiszugeben, braucht eine Zwischenschicht: einen Filter, der den ausgehenden Prompt automatisch analysiert und sensible Inhalte anonymisiert, bevor sie das Unternehmensnetz verlassen.
Genau das leistet der EDNT DSGVO-Filter:
-
Erkennung: Der Filter analysiert den Prompt in Echtzeit – inklusive der eingebetteten Dokumentenausschnitte aus der Vektordatenbank
-
Anonymisierung: Personenbezogene Namen, Kontodaten, Kundennummern, API-Keys und weitere konfigurierbare Kategorien werden durch eindeutige Platzhalter ersetzt
-
Externe Verarbeitung: Das externe Modell erhält und verarbeitet ausschließlich die anonymisierte Version – es sieht keine Realdaten
-
Re-Identifikation: Die Antwort kommt zurück, der Filter setzt die Platzhalter wieder durch die Originaldaten ein – für den Anwender vollständig transparent
Das Ergebnis: volle Leistung des externen Modells, null unkontrollierter Datenabfluss.
Was das für Ihr Unternehmen konkret bedeutet
Wenn Sie heute ein RAG-System betreiben oder planen – mit Anbindung an OpenAI, Anthropic oder Google – dann sollten Sie eine Frage klar beantworten können:
Was genau wird bei jeder Anfrage an den externen Provider gesendet?
Nicht nur die Frage des Mitarbeiters. Sondern auch welche Dokumentenausschnitte, mit welchen Inhalten, wie oft, und ob darunter personenbezogene Daten im Sinne der DSGVO sind.
Wenn diese Frage nicht klar beantwortet werden kann, ist das System aus Compliance-Sicht nicht kontrolliert – unabhängig davon, wo die Vektordatenbank gehostet wird.
Das ist keine theoretische Gefahr. Mit dem schrittweisen Inkrafttreten des EU AI Act bis 2026 werden unkontrollierte Datenübermittlungen an externe KI-Systeme zum handfesten Haftungsrisiko – für das Unternehmen und für die verantwortlichen Personen.
Sicherheit entsteht im Gesamtsystem, nicht im Einzelbaustein
Eine DSGVO-konforme KI-Lösung ist kein Produkt, das man kauft. Es ist eine Architekturentscheidung. Die Vektordatenbank ist nur ein Baustein – und sie allein schützt keine Daten, wenn das Modell, das sie abfragt, extern betrieben wird.
Die richtige Frage lautet nicht: „Wo liegen unsere Daten?" Sondern: „Wohin fließen unsere Daten bei jeder einzelnen Anfrage?"
Wer diese Frage für sein KI-System beantworten kann und will, ist beim EDNT Open-WebUI Service richtig. Wir helfen Ihnen, die Architektur so aufzusetzen, dass Datensouveränität keine Hoffnung ist – sondern eine technische Eigenschaft des Systems.
Sprechen Sie uns an, wenn Sie Ihr bestehendes oder geplantes RAG-System auf diesen Punkt hin prüfen möchten.
Kontaktieren Sie uns