Wenn wir Unternehmen zu KI beraten, kommt fast immer derselbe Moment: Die Begeisterung über den Use Case trifft auf die Frage „Und wo laufen dann unsere Daten?". Für viele Anwendungsfälle lautet die ehrliche Antwort bei Cloud-KI: auf Servern eines US-Anbieters, unter US-Recht, zu Bedingungen, die sich ändern können. Es geht auch anders — und wir wissen das nicht aus Whitepapern, sondern weil wir es selbst betreiben.
Was bei uns lokal läuft
DATUREX betreibt eigene GPU-Server in deutschen Rechenzentren. Darauf laufen produktiv unter anderem: lokale Sprachmodelle (LLMs) für Textaufgaben und unsere Compliance-Plattform, eine Sprach-zu-Text-Transkription für Besprechungen und Diktate, OCR-Pipelines für Dokumentenerkennung sowie Retrieval-Augmented Generation (RAG) über interne Wissensbestände. Die Aufnahme eines Diktats verlässt dabei nie unsere Systeme — das ist der ganze Punkt.
Der Datenschutz-Effekt: weniger Baustellen, nicht null Baustellen
Lokale KI löst eine ganze Kategorie von DSGVO-Problemen, die bei US-Cloud-KI aufwendig bearbeitet werden müssen:
- Kein Drittlandtransfer: Keine Angemessenheits-Diskussion, keine Standardvertragsklauseln, keine Abhängigkeit vom Bestand des EU-US Data Privacy Framework.
- Kein fremder Auftragsverarbeiter für den Kern-Use-Case: Die AV-Vertragskette wird kürzer und prüfbarer.
- Kein Trainings-Risiko: Ihre Eingaben landen nicht als Trainingsmaterial in einem Fremdmodell — eine Sorge, die bei besonderen Datenkategorien (Art. 9 DSGVO) regelmäßig zum Ausschlusskriterium wird.
- Volle Protokollhoheit: Wer was wann verarbeitet hat, lässt sich lückenlos nachweisen — relevant für DSFA, ISO 27001 und den EU AI Act.
Wichtig für die Ehrlichkeit: Lokal heißt nicht automatisch konform. Zweckbindung, Betroffenenrechte, Löschkonzepte und die Frage, ob der Use Case überhaupt eine Rechtsgrundlage hat, bleiben Arbeit — sie wird nur ohne Übersee-Komplexität erledigt.
Praxisbeispiel aus unseren Projekten: Für Mittelständler haben wir OCR-gestützte Dokumentenauswertung und Transkriptions-Werkzeuge komplett on-premise umgesetzt — angebunden an bestehende Systeme, ohne dass personenbezogene Daten das Unternehmen bzw. das deutsche Rechenzentrum verlassen.
Wann sich lokale KI rechnet — und wann nicht
Die Hardware-Frage ist kleiner geworden: Für viele Unternehmens-Use-Cases (interne Assistenz, Dokumenten-KI, Transkription) reichen heute Modelle, die auf einem einzelnen GPU-Server laufen. Unsere Faustregel aus der Beratung:
- Lokal lohnt sich, wenn sensible Daten verarbeitet werden (Gesundheit, Personal, Mandate), wenn der Use Case dauerhaft läuft oder wenn Datensouveränität vertraglich bzw. regulatorisch gefordert ist.
- Cloud bleibt legitim für unkritische, sporadische Aufgaben ohne personenbezogene Daten — dann aber bewusst entschieden und dokumentiert, nicht als Schatten-IT.
So starten Unternehmen pragmatisch
- Use Case vor Technik: Welcher Prozess kostet heute Zeit und enthält sensible Daten? Das ist der Kandidat.
- Pilot auf gemieteter oder eigener GPU: Klein anfangen, mit echtem Prozess und echten Nutzern — nicht mit einer Labor-Demo.
- Compliance von Anfang an: DSFA, Verarbeitungsverzeichnis-Eintrag und AI-Act-Einordnung gehören in den Pilot, nicht in die Nacharbeit.
- Betrieb planen: Modell-Updates, Monitoring und Zugriffskontrolle sind der Unterschied zwischen Demo und Produktivsystem.
Fazit
Lokale KI ist für uns kein Dogma, sondern das Ergebnis einer nüchternen Rechnung aus Datenschutz, Kontrolle und Kosten — und sie ist der Grund, warum wir bei KI-Projekten beides mitbringen: die Entwicklung (lokale KI & LLMs bei unserer Entwicklungsschmiede) und die Compliance (Datenschutz, EU AI Act). Einen Überblick über unsere eigene Infrastruktur gibt der Entwicklungsbereich.