ChatGPT im Unternehmen: Risiken, Regeln und sichere Alternativen
ChatGPT wird in vielen Unternehmen im DACH-Raum täglich genutzt – häufig ohne Wissen der IT und über private Accounts. Das Produktivitätspotenzial ist real, die Risiken sind es ebenso: vertrauliche Daten in fremden Systemen, keine zentrale Kontrolle, keine Nachvollziehbarkeit.
Die Frage ist deshalb selten, ob KI im Unternehmen ankommt, sondern über welchen Weg. Ein Verbot verlagert die Nutzung auf private Geräte und beseitigt lediglich die Sichtbarkeit, nicht das Risiko.
Dieser Artikel ordnet, was mit Eingaben tatsächlich geschieht, vergleicht die verfügbaren Stufen und beschreibt, welche Anforderungen eine Unternehmenslösung erfüllen muss.
Was mit Eingaben in ChatGPT passiert
Bei Consumer-Versionen von KI-Chatbots können Eingaben zur Verbesserung der Modelle verwendet werden. Ob das geschieht, hängt von einer Einstellung ab, die jede Person für ihren Account selbst setzt. Für ein Unternehmen ist das keine belastbare Grundlage: Eine individuell änderbare Einstellung ist keine technisch-organisatorische Maßnahme.
Die Verarbeitung findet zudem typischerweise auf Servern außerhalb der EU und der Schweiz statt. Damit rückt die Frage der Bekanntgabe ins Ausland in den Vordergrund – nach Art. 16 DSG und nach Kapitel V der DSGVO.
Business- und Enterprise-Versionen verbessern die Lage deutlich: Sie schließen das Training mit Eingaben vertraglich aus und bieten einen Auftragsverarbeitungsvertrag. Offen bleiben zwei Punkte, die sich mit dem Tarif nicht lösen lassen: die Bindung an einen einzigen Modellanbieter und die Frage, welchem Recht das Unternehmen unterliegt, das die Infrastruktur betreibt.
Die drei Stufen im Vergleich
Zwischen privatem Account und zentraler Plattform liegen mehrere Stufen. Der Vergleich betrachtet Kategorien, nicht einzelne Produkte – die Ausgestaltung unterscheidet sich je nach Anbieter und Vertrag.
| Privater Account | Business-Tarif eines Anbieters | Zentrale KI-Plattform | |
|---|---|---|---|
| Verarbeitungsstandort | Vom Anbieter bestimmt, in der Regel außerhalb der EU | Vom Anbieter bestimmt, Regionen teilweise wählbar | Wählbar, etwa EU oder Schweiz |
| Training mit Eingaben | Abhängig von einer Einstellung der einzelnen Person | Vertraglich ausgeschlossen | Vertraglich ausgeschlossen |
| Auftragsverarbeitungsvertrag | Nein | Ja | Ja |
| Rollen, Rechte, SSO | Nein | Ja | Ja |
| Nachvollziehbarkeit über Audit-Logs | Nein | Je nach Anbieter und Tarif | Ja |
| Modellauswahl | Ein Anbieter | Ein Anbieter | Mehrere Anbieter über einen Zugang |
Die typischen Risiken im Arbeitsalltag
Vier Risikofelder tauchen in der Praxis immer wieder auf. Nur das erste wird in der Regel überhaupt diskutiert.
- Datenabfluss: Kunden- und Geschäftsdaten landen per Copy-and-paste in fremden Systemen – je nach Fall ein Verstoß gegen DSGVO, revDSG, Vertraulichkeitsvereinbarungen oder das Berufsgeheimnis.
- Halluzinationen: Sprachmodelle formulieren überzeugend, aber nicht immer korrekt. Ungeprüfte Übernahme von Zahlen, Fristen oder Rechtsgrundlagen ist der häufigste inhaltliche Fehler.
- Fehlende Governance: Ohne zentrale Verwaltung gibt es keine Rollen, keine Audit-Logs und keinen Überblick, wer was mit welchen Daten tut. Beim Austritt einer Person bleibt der private Account samt Verlauf bestehen.
- Abhängigkeit von einem Anbieter: Wer Prozesse auf ein einzelnes Modell aufbaut, trägt dessen Preis-, Verfügbarkeits- und Produktentscheidungen mit – ohne Ausweichmöglichkeit.
Warum ein Verbot nicht funktioniert
Wer KI-Tools pauschal sperrt, verlagert die Nutzung auf private Geräte und Accounts. Die Schatten-KI wächst, die Kontrolle sinkt, die Produktivitätsvorteile gehen verloren – das Risiko bleibt bestehen, nur ohne Sichtbarkeit.
Hinzu kommt ein praktisches Problem: Ein Verbot lässt sich technisch kaum durchsetzen. Der Zugriff über das private Mobiltelefon ist von der Unternehmens-IT nicht kontrollierbar, und genau dorthin wandert die Nutzung.
Wirksamer ist ein offizielles Angebot, das im Arbeitsalltag mindestens so gut ist wie die private Alternative. Erst dann hat die Regel eine Chance, befolgt zu werden – und erst dann entsteht die Dokumentation, die Datenschutz und Aufsicht verlangen.
Was die Rechtslage verlangt
Der rechtliche Rahmen ist kein Hindernis für den KI-Einsatz, aber er stellt Bedingungen. Vier Punkte betreffen praktisch jedes Unternehmen im DACH-Raum.
- Datenschutz: Jede Eingabe mit Personendaten ist eine Bearbeitung – mit Verzeichnis-, Informations- und Sorgfaltspflichten nach revDSG und DSGVO.
- Auftragsverarbeitung: Der Einsatz eines KI-Anbieters braucht einen Vertrag nach Art. 28 DSGVO beziehungsweise Art. 9 DSG.
- Bekanntgabe ins Ausland: Der Verarbeitungsstandort muss bekannt und zulässig sein; für Drittstaaten braucht es eine Garantie.
- KI-Kompetenz: Art. 4 EU AI Act verlangt seit dem 2. Februar 2025 ausreichende KI-Kompetenz des Personals – unabhängig von der Risikoklasse der Anwendung.
Anforderungen an eine sichere Alternative
Eine Unternehmenslösung sollte diese Kriterien erfüllen. Sie ergeben sich unmittelbar aus den Risiken und dem rechtlichen Rahmen.
- Zugriff auf alle führenden Modelle statt Abhängigkeit von einem einzelnen Anbieter.
- Hosting und Datenhaltung in der EU oder der Schweiz, mit klarer Auskunft über den Verarbeitungsstandort.
- Vertraglich zugesichert: kein Training mit Unternehmensdaten, auch nicht in aggregierter Form.
- Zentrale Verwaltung mit Rollen, Rechten und Single Sign-on, damit Zugänge beim Austritt zuverlässig enden.
- Audit-Logs, die belegen, wer wann worauf zugegriffen hat.
- Auftragsverarbeitungsvertrag für DSGVO und revDSG, auf Wunsch mit Verschwiegenheitsverpflichtung für Berufsgeheimnisträger.
Der Weg von Schatten-KI zu geregelter Nutzung
Die Reihenfolge entscheidet über den Erfolg. Wer mit der Regel beginnt statt mit dem Angebot, verliert die Nutzenden.
- Bestandsaufnahme ohne Sanktionsdruck: Welche Tools werden tatsächlich genutzt, für welche Aufgaben? Wer Konsequenzen androht, bekommt keine ehrlichen Antworten.
- Offizielles Angebot bereitstellen, das die häufigsten Aufgaben aus der Bestandsaufnahme abdeckt.
- KI-Richtlinie schreiben, die auf das Angebot verweist statt nur zu verbieten – mit klaren Datenklassen.
- Zugänge zentral ausrollen, Rollen vergeben, Single Sign-on anbinden.
- Schulen: Was das System kann, wo seine Grenzen liegen, wie Ergebnisse geprüft werden. Damit ist zugleich Art. 4 AI Act adressiert.
- Dokumentieren: Bearbeitung ins Verzeichnis aufnehmen, Datenschutzerklärung anpassen, Vertrag ablegen.
- Nachhalten: Nutzung beobachten, offene Bedarfe aufnehmen, die Richtlinie jährlich prüfen.
Fragen an den Anbieter
Diese Fragen trennen belastbare Angebote von Marketingaussagen. Sie sollten schriftlich beantwortet werden.
- In welchem Land werden die Eingaben verarbeitet, und welchem Recht unterliegt das Unternehmen, das die Infrastruktur betreibt?
- Ist das Training mit unseren Daten vertraglich ausgeschlossen – auch für Unterauftragnehmer?
- Welche Unterauftragnehmer werden eingesetzt, und wie werden wir über Änderungen informiert?
- Welche Personen beim Anbieter können auf Inhalte zugreifen, in welchen Fällen, und wird das protokolliert?
- Wie lange werden Eingaben und Verläufe gespeichert, und wie werden sie gelöscht?
- Gibt es einen Auftragsverarbeitungsvertrag, und lässt sich eine Verschwiegenheitsverpflichtung ergänzen?
Häufige Fragen
Dürfen Mitarbeitende ChatGPT beruflich nutzen?
Das entscheidet das Unternehmen, nicht das Gesetz. Zulässig ist die Nutzung, wenn keine Personendaten oder vertraulichen Informationen in ein System fließen, das dafür nicht abgesichert ist. Ohne interne Regel fehlt den Mitarbeitenden die Grundlage für diese Unterscheidung – deshalb ist die KI-Richtlinie der erste Schritt.
Ist ein Business- oder Enterprise-Tarif nicht sicher genug?
Er löst zwei wichtige Punkte: Training mit Eingaben ist vertraglich ausgeschlossen, und ein Auftragsverarbeitungsvertrag liegt vor. Offen bleiben die Bindung an einen einzelnen Modellanbieter und die Frage, welchem Recht der Betreiber der Infrastruktur unterliegt. Ob das genügt, hängt von Branche und Datenart ab.
Was kostet eine sichere KI-Plattform?
Die Preise werden in der Regel pro Person und Monat kalkuliert und hängen von Funktionsumfang und Nutzerzahl ab. Der aussagekräftigere Vergleich ist nicht der Listenpreis, sondern die Summe aus Einzellizenzen, ungenutzten Accounts und dem Aufwand, den fehlende Governance im Ernstfall verursacht.
Was ist mit Daten, die bereits in privaten Accounts liegen?
Sie lassen sich nachträglich nicht zurückholen. Sinnvoll ist, den Zustand zu dokumentieren, betroffene Datenkategorien zu bewerten und zu prüfen, ob eine Meldepflicht nach Art. 24 DSG oder Art. 33 DSGVO besteht. Anschließend gilt es, den Zufluss zu stoppen, statt rückwirkend zu bereinigen.
Brauchen wir die Zustimmung des Betriebsrats?
In Deutschland ist der Betriebsrat nach § 87 Abs. 1 Nr. 6 BetrVG zu beteiligen, wenn ein System zur Verhaltens- oder Leistungsüberwachung geeignet ist – bei Audit-Logs ist das regelmäßig der Fall. In Österreich greifen § 96 und § 96a ArbVG. In der Schweiz gibt es keine vergleichbare Mitbestimmung, aber Art. 26 ArGV 3 verbietet Überwachungssysteme zur Verhaltenskontrolle.
Wie gehen wir mit Halluzinationen um?
Technisch lassen sie sich nicht ausschließen, organisatorisch aber einhegen: Ergebnisse gelten als Entwurf, nicht als Auskunft. Für Zahlen, Fristen und Rechtsgrundlagen ist eine Prüfung an der Quelle verbindlich. Anwendungen, die auf eigene, hinterlegte Dokumente zugreifen, senken das Risiko deutlich, weil sie belegbare Fundstellen liefern.
Quellen
- Verordnung (EU) 2016/679 (DSGVO) · EUR-Lex
- Bundesgesetz über den Datenschutz (DSG, SR 235.1) · Fedlex – Schweizerische Bundeskanzlei
- Europäischer Datenschutzausschuss · EDSA
Weiterführende Inhalte
Bringen Sie KI sicher in Ihr Unternehmen.
Testen Sie Custodos mit Ihrem Team – und erleben Sie, wie schnell sichere KI produktiv wird.
- Mit dem ganzen Team testen
- In Minuten eingerichtet
- Sofort produktiver arbeiten