Schatten-KI: Unkontrollierte KI-Nutzung erkennen und beheben
Schatten-KI bezeichnet die Nutzung von KI-Werkzeugen für Arbeitsaufgaben ohne Freigabe und ohne Kenntnis der IT – typischerweise über private Accounts, private Geräte oder Browser-Erweiterungen. Sie ist der KI-Fall der klassischen Schatten-IT, mit einem entscheidenden Unterschied: Daten werden nicht nur an einer unkontrollierten Stelle gespeichert, sondern an einen Dritten übermittelt und dort möglicherweise weiterverwendet.
Schatten-KI entsteht nicht aus Nachlässigkeit, sondern aus einer Lücke: Es gibt eine Aufgabe, ein privat bekanntes Werkzeug löst sie, und ein offizielles Angebot fehlt. Wer das Muster kennt, kann es beheben, statt es zu bekämpfen.
Dieser Artikel beschreibt, woran sich Schatten-KI erkennen lässt, warum sie rechtlich schwerer wiegt als Schatten-IT und wie der kontrollierte Weg aussieht.
Woran sich Schatten-KI erkennen lässt
Schatten-KI ist unauffällig, weil sie keine Installation und kein Budget braucht. Sie hinterlässt trotzdem Spuren – vier davon lassen sich ohne Spezialwerkzeug prüfen.
- Netzwerk- und Proxy-Logs: Aufrufe bekannter KI-Domains aus dem Firmennetz, auch ohne installierte Anwendung.
- Browser-Erweiterungen mit KI-Funktionen, die auf Seiteninhalte zugreifen – der am häufigsten übersehene Weg.
- Ausgabenerstattungen und Kreditkartenabrechnungen: einzelne Abonnements, die als Software oder Weiterbildung gebucht werden.
- Der Arbeitsalltag selbst: auffällig schnell entstandene Texte in ungewohnter Struktur, oder Mitarbeitende, die in Besprechungen Werkzeuge erwähnen, die nie freigegeben wurden.
Warum Schatten-KI schwerer wiegt als Schatten-IT
Klassische Schatten-IT speichert Daten außerhalb der Kontrolle – ein Cloud-Ordner, ein privates Notiz-Tool. Der Schaden liegt in der fehlenden Verfügbarkeit und im Zugriff Dritter auf gespeicherte Inhalte.
Bei KI-Werkzeugen kommt eine zweite Ebene hinzu: Eingaben können zur Verbesserung der Modelle verwendet werden, und die Verarbeitung findet häufig außerhalb der EU und der Schweiz statt. Damit sind zugleich die Zweckbindung und die Regeln zur Bekanntgabe ins Ausland berührt.
Rechtlich haftet in beiden Fällen das Unternehmen. Weder die DSGVO noch das revDSG kennen eine Ausnahme für inoffizielle Werkzeuge. Bei Berufsgeheimnisträgern kommt die strafbewehrte Schweigepflicht hinzu – § 203 StGB in Deutschland, § 121 StGB in Österreich, Art. 321 StGB in der Schweiz –, und sie erfasst ausdrücklich auch Hilfspersonen.
Was im Ernstfall konkret fehlt
Der Unterschied zwischen geregelter und ungeregelter Nutzung zeigt sich erst, wenn jemand nachfragt – ein Kunde, eine Aufsichtsbehörde, ein Gericht.
| Frage im Ernstfall | Mit Schatten-KI | Mit geregelter Nutzung |
|---|---|---|
| Welche Daten sind in welches System geflossen? | Nicht rekonstruierbar | Über Audit-Logs belegbar |
| Auf welcher vertraglichen Grundlage? | Keine; Nutzungsbedingungen für Privatpersonen | Auftragsverarbeitungsvertrag |
| Wo wurden die Daten verarbeitet? | Vom Anbieter bestimmt, meist nicht dokumentiert | Vertraglich festgelegte Region |
| Wurden sie zum Training verwendet? | Abhängig von der Einstellung der einzelnen Person | Vertraglich ausgeschlossen |
| Was passiert beim Austritt? | Account und Verlauf bleiben bestehen | Zugang wird zentral entzogen |
Der falsche Reflex: verbieten
Ein Verbot ohne Alternative treibt die Nutzung auf private Handys und Heim-Laptops, wo keine Firewall mehr hinschaut. Die Produktivitätsvorteile verlassen das Unternehmen, das Risiko bleibt – nur ohne Sichtbarkeit.
Hinzu kommt ein Zweiteffekt, der selten mitgedacht wird: Nach einem Verbot melden Mitarbeitende Vorfälle nicht mehr. Wer zugeben müsste, gegen eine Weisung verstoßen zu haben, schweigt. Damit verliert das Unternehmen die Chance auf eine fristgerechte Meldung nach Art. 24 DSG oder Art. 33 DSGVO.
Ein Verbot ist deshalb nur dann sinnvoll, wenn es sich auf ein bereitstehendes Angebot beziehen kann. Die Regel lautet dann nicht „keine KI“, sondern „KI über diesen Zugang“.
Der kontrollierte Weg
Bewährt hat sich ein Vorgehen in sechs Schritten. Der erste ist der wichtigste und wird am häufigsten übersprungen.
- Transparenz ohne Schuldzuweisung schaffen: eine Bestandsaufnahme der tatsächlichen Nutzung, ausdrücklich sanktionsfrei. Wer Konsequenzen androht, erhält ein geschöntes Bild.
- Die Aufgaben verstehen, nicht nur die Werkzeuge: Für welche Tätigkeiten wurde ausgewichen? Diese Liste ist die Anforderungsliste für das offizielle Angebot.
- Ein zentrales Angebot bereitstellen, das diese Aufgaben abdeckt – mit den Modellen, die das Team ohnehin nutzen möchte.
- Zugänge zentral vergeben, Rollen definieren, Single Sign-on anbinden, damit Zugänge beim Austritt zuverlässig enden.
- KI-Richtlinie mit konkreten Datenklassen in Kraft setzen und alle Hilfspersonen einbeziehen.
- Kurz und praxisnah schulen, mit Beispielen aus dem eigenen Haus – damit ist zugleich die KI-Kompetenzpflicht aus Art. 4 EU AI Act adressiert.
Was nach der Bestandsaufnahme zu tun ist
Wenn die Bestandsaufnahme zeigt, dass Personendaten in ungeeignete Systeme geflossen sind, ist das ein Vorfall und keine Randnotiz. Zu prüfen ist, ob eine Verletzung der Datensicherheit vorliegt und ob sie meldepflichtig ist.
Die Schwelle unterscheidet sich: Nach Art. 33 DSGVO ist binnen 72 Stunden zu melden, sofern ein Risiko für die Rechte und Freiheiten besteht. Nach Art. 24 DSG ist so rasch als möglich zu melden, wenn ein hohes Risiko besteht. Beide Prüfungen sind zu dokumentieren – auch dann, wenn das Ergebnis lautet, dass keine Meldung nötig ist.
Rückwirkend lassen sich die Daten nicht zurückholen. Sinnvoll ist deshalb, den Zustand sauber zu dokumentieren, betroffene Datenkategorien zu bewerten und den Zufluss zu stoppen, statt Aufwand in eine Bereinigung zu stecken, die technisch nicht möglich ist.
Häufige Fragen
Ist Schatten-KI ein Kündigungsgrund?
Arbeitsrechtlich hängt das vom Einzelfall ab, praktisch ist die Frage meist die falsche. Solange es keine klare Weisung und kein offizielles Angebot gibt, fehlt die Grundlage für einen Vorwurf. Wer mit Sanktionen beginnt, verliert die Transparenz, die für die Behebung nötig ist.
Wie finden wir heraus, welche KI-Werkzeuge genutzt werden?
Drei Quellen kombinieren: Netzwerk- und Proxy-Logs auf bekannte KI-Domains, eine Übersicht der Browser-Erweiterungen auf den Firmengeräten und eine sanktionsfreie Befragung der Teams. Die Befragung liefert in der Praxis die meisten Erkenntnisse, weil sie auch private Geräte erfasst.
Reicht eine KI-Richtlinie gegen Schatten-KI?
Allein nicht. Eine Richtlinie ohne bereitstehendes Werkzeug beschreibt einen Zustand, den die Mitarbeitenden nicht herstellen können. Wirksam wird sie erst zusammen mit einem offiziellen Angebot, das die Aufgaben abdeckt, für die bisher ausgewichen wurde.
Sind Browser-Erweiterungen mit KI-Funktionen ein Problem?
Häufig ja, und sie werden regelmäßig übersehen. Erweiterungen mit Zugriff auf Seiteninhalte können Daten aus Fachanwendungen und Postfächern an Dritte übermitteln, ohne dass jemand aktiv etwas einfügt. Eine Freigabeliste für Erweiterungen gehört deshalb zur KI-Richtlinie.
Was ist mit Daten, die bereits abgeflossen sind?
Sie lassen sich nicht zurückholen. Zu tun ist: den Umfang dokumentieren, die betroffenen Datenkategorien bewerten, die Meldepflicht nach Art. 24 DSG beziehungsweise Art. 33 DSGVO prüfen und das Ergebnis dieser Prüfung festhalten – auch wenn keine Meldung erfolgt.
Betrifft Schatten-KI auch kleine Unternehmen?
Ja, und dort oft stärker: Je kleiner die IT, desto seltener gibt es ein freigegebenes Werkzeug und desto naheliegender ist der private Account. Die Pflichten aus Datenschutz- und Berufsrecht kennen keine Untergrenze.
Quellen
- Verordnung (EU) 2016/679 (DSGVO) · EUR-Lex
- AI Risk Management Framework (AI RMF 1.0) · NIST
- OWASP Top 10 für LLM-Anwendungen · OWASP GenAI Security Project
Weiterführende Inhalte
Bringen Sie KI sicher in Ihr Unternehmen.
Testen Sie Vidimas mit Ihrem Team – und erleben Sie, wie schnell sichere KI produktiv wird.
- Mit dem ganzen Team testen
- In Minuten eingerichtet
- Sofort produktiver arbeiten