Fragt man in einem mittelständischen Unternehmen, welche KI-Werkzeuge im Einsatz sind, nennt die Geschäftsführung meist zwei oder drei. Fragt man die Beschäftigten, werden es schnell zehn. Der Vertrieb formuliert Angebote mit ChatGPT, das CRM hat seit dem letzten Update einen Assistenten, und im Personalwesen sortiert eine Software Bewerbungen vor. Ein KI-Audit schließt diese Lücke zwischen Annahme und Wirklichkeit.
Was ein KI-Audit ist
Der Begriff ist gesetzlich nicht definiert, und vorgeschrieben ist ein KI-Audit auch nicht. Gemeint ist eine strukturierte Bestandsaufnahme: Welche KI-Systeme nutzt das Unternehmen, wofür, mit welchen Daten, und ist das zulässig? Am Ende steht ein Bericht mit Bestandsliste, Einstufung und einem Maßnahmenplan.
Warum sich die Bestandsaufnahme jetzt lohnt
- Verbotene Praktiken: Seit dem 2. Februar 2025 sind bestimmte Anwendungen untersagt, etwa Emotionserkennung am Arbeitsplatz. Manches eingekaufte Tool bringt so eine Funktion mit, ohne dass es jemand bemerkt hat.
- KI-Kompetenz: Art. 4 AI Act verlangt, dass Unternehmen den sachkundigen Umgang ihrer Beschäftigten mit KI unterstützen. Das geht nur, wenn bekannt ist, wer womit arbeitet.
- Transparenz: Seit dem 2. August 2026 müssen Chatbots und KI-generierte Inhalte als solche erkennbar sein.
- Hochrisiko-KI: Für Systeme nach Anhang III, etwa im Recruiting, gelten die Pflichten ab dem 2. Dezember 2027. Wer so ein System betreibt, sollte es vorher wissen.
Dazu kommen Anlässe aus dem Alltag: der Lieferantenfragebogen eines Kunden, der nach dem Umgang mit KI fragt, oder der Betriebsrat, der eine Übersicht verlangt.
Was geprüft wird
- Inventar: alle Werkzeuge mit KI-Funktion, auch die über private Konten genutzten.
- Rolle und Risikoklasse: Ist das Unternehmen Betreiber oder Anbieter, und wie ist jedes System einzustufen?
- Schulung und Kennzeichnung: Wer wurde geschult, und erkennen Kunden, wenn sie mit einer KI sprechen?
- Datenschutz und Verträge: Welche personenbezogenen Daten fließen wohin, gibt es einen Auftragsverarbeitungsvertrag, wird mit den Eingaben trainiert?
- Zuständigkeit: Gibt es eine KI-Richtlinie, eine Freigabe für neue Werkzeuge und eine verantwortliche Person?
Was typischerweise herauskommt
Die Befunde ähneln sich über Branchen hinweg. KI-Werkzeuge laufen über private Konten ohne Vertrag. Niemand hat eine Übersicht, welche Software KI-Funktionen per Update nachgerüstet bekommen hat. Schulungen fanden statt, sind aber nicht dokumentiert. Der Chatbot auf der Website gibt sich nicht als KI zu erkennen. Schwer zu beheben ist davon wenig, solange jemand davon weiß.
Weiterlesen
Den Ablauf in fünf Schritten und die Abgrenzung zu Konformitätsbewertung und ISO/IEC 42001 beschreibt unser Ratgeber KI-Audit im Unternehmen. Wer selbst anfangen möchte, findet dort auch eine EU-AI-Act-Checkliste. Die Bestandsaufnahme übernehmen wir im Rahmen unserer EU-AI-Act-Beratung.