Welche Risiken der Schatten-KI sind real, und welche Regel hilft dagegen?
Daten, Geschäftsgeheimnisse, Haftung und falsche Ergebnisse haben unterschiedliche Ursachen. Ich ordne ein, was belegt ist, was Einschätzung bleibt und ob Nichtstun, Verbot oder Regel mit Freigabe für Ihren Betrieb trägt.
Was passiert, wenn eine Sachbearbeiterin ohne bösen Willen und in wenigen Minuten einen Kundenvertrag in ihr privates KI-Konto kopiert, sich die Kernpunkte zusammenfassen lässt und das Ergebnis in die Antwortmail übernimmt? In diesem Beispiel verließen Daten das Haus, ein Geschäftsgeheimnis läge außerhalb Ihrer Kontrolle, und ein ungeprüfter Text ginge unter Ihrem Namen nach außen. Ich trenne deshalb vier Risiken: Daten, Geschäftsgeheimnisse, Haftung und falsche Ergebnisse. Sie haben unterschiedliche Ursachen und brauchen unterschiedliche Gegenmittel.
Zum Umfang nur so viel. Laut Bitkom (Presseinformation vom 21.10.2025, Befragung von 604 Unternehmen ab 20 Beschäftigten) ist die Nutzung privater KI-Lösungen im Job in 8 Prozent der Unternehmen weit verbreitet (Bitkom, 2025). Zugang zu generativer KI stellen 26 Prozent der Unternehmen ihren Beschäftigten zur Verfügung (Bitkom, 2025). Das IW Köln nennt im IW-Kurzbericht Nr. 63 einen Anteil von 29,1 Prozent der beruflichen KI-Nutzenden, die Tools verwenden, die ihr Arbeitgeber nicht bereitgestellt hat (IW Köln, 2026). Die Bezugsgröße sind die KI-Nutzenden, nicht alle Beschäftigten.
Daten: Der Abfluss ist belegt, sein Ausmaß in Ihrem Haus nicht
Laut IBM (Cost of a Data Breach Report 2025, durchgeführt vom Ponemon Institute, Daten von 600 Organisationen weltweit) meldete ein Teil der untersuchten Organisationen einen Datenvorfall durch Schatten-KI (IBM, 2025). Bei Organisationen mit hohem Schatten-KI-Anteil lagen die durchschnittlichen Vorfallkosten um 670.000 US-Dollar höher als bei Organisationen mit geringem oder ohne Schatten-KI-Anteil (IBM, 2025).
Meine Bewertung: Die Studie ist weltweit angelegt, nicht auf den deutschen Mittelstand. Ein Vorfall ist außerdem mehr als eine Eingabe in ein Chatfenster. Die Zahl zeigt eine Richtung, keinen Betrag für Ihren Betrieb. Wie groß das Risiko bei Ihnen ist, sollten Sie an Ihren eigenen Daten und Abläufen prüfen.
Entscheidend ist der Datentyp. Die DIHK rät in ihrem Serviceportal, auf die Eingabe personenbezogener und anderer sensibler oder vertraulicher Daten bei generativen KI-Systemen generell zu verzichten. Ein Pressetext in einem privaten Konto ist eine andere Lage als ein Kundenvertrag.
Geschäftsgeheimnisse: Hier liegt die Entscheidung bei Ihnen
Das IW beschreibt die Nutzung nicht bereitgestellter Tools als Nutzung außerhalb der betrieblichen Kontrolle, mit Risiken unter anderem für Datenschutz, Geschäftsgeheimnisse und Compliance (IW Köln, 2026). Bitkom rät, in Regeln für den KI-Einsatz festzulegen, welche KI-Tools die Beschäftigten zu welchem Zweck nutzen dürfen, und dabei Risiken für den Schutz von Geschäftsgeheimnissen zu adressieren (Bitkom, 2025).
Aus meiner Sicht, und ausdrücklich keine Rechtsberatung: Eine schriftliche Regel, welche Inhalte in welche Werkzeuge gehören, ist sinnvoller als keine, weil sie festhält, was im Haus gelten soll. Wichtiger als das Werkzeug ist für mich, was Sie angeordnet und vermittelt haben.
Haftung und falsche Ergebnisse: Wer prüft, was nach außen geht?
Im Fall Moffatt gegen Air Canada (2024 BCCRT 149) haftete die Fluggesellschaft für eine irreführende Auskunft des Chatbots auf ihrer Website. Das kanadische Tribunal wies die Sicht zurück, der Chatbot sei eine eigene juristische Person, die für ihr Handeln selbst verantwortlich ist. Er sei Teil der Website, und Air Canada sei für alle Informationen auf seiner Website verantwortlich (Einordnung von Barry B. Sookman, McCarthy Tétrault, 2024). Das ist kein deutsches Recht. Ich nenne den Fall als Beispiel dafür, wie das Argument „Das hat die KI gesagt“ ausgehen kann.
Dass Ergebnisse falsch sein können, ist belegt. Die DIHK weist darauf hin, dass generative KI ungenaue, irreführende oder nicht aktuelle Aussagen erzeugen kann. Eine Untersuchung der Stanford University (Stanford HAI, 2024) fand bei Lexis+ AI in mehr als 17 Prozent der Fälle falsche Informationen, Westlaw AI-Assisted Research halluzinierte in mehr als 34 Prozent der Fälle. Das sind Fachwerkzeuge für juristische Recherche, keine privaten Chatkonten, und die Zahlen sind auf Ihre Texte nicht übertragbar. Deshalb sollte ein Mensch jeden Text lesen, bevor er nach außen geht, ganz gleich, womit er entstanden ist.
Ob ein deutsches Gericht eine fehlende KI-Regel als Pflichtverletzung der Geschäftsführung werten würde, ist nicht abschließend geklärt. Das gehört in eine Rechtsberatung.
Nichts ändern, verbieten oder regeln: Was jede Option kostet
Ich vergleiche die drei Wege hier nur qualitativ. Aufwand und Wirkung im Einzelnen sind Thema einer späteren Folge.
- Nichts ändern. Kein Aufwand, und vertretbar, wenn Sie geprüft haben, dass kaum Nutzung stattfindet und keine sensiblen Daten betroffen sind. Der Nachteil: Laut Bitkom wissen 17 Prozent der Unternehmen nicht sicher, ob ihre Beschäftigten im Job private KI-Lösungen nutzen, gehen aber davon aus (Bitkom, 2025). Diese Option sollten Sie deshalb erst wählen, wenn Sie den Stand im eigenen Haus kennen.
- Verbieten. Klar und schnell zu erklären. Das IW schreibt, reine Verbote würden vor allem engagierte Beschäftigte treffen und dort wenig ändern, wo KI mangels Orientierung ohnehin keine Rolle spielt (IW Köln, 2026). Ein Verbot ohne Kontrolle bleibt eine Behauptung, mit Kontrolle kostet es laufend Aufwand.
- Freigeben und regeln. Sie stellen ein geprüftes Werkzeug bereit und legen fest, welche Daten hineindürfen und was vor dem Versand nach außen geprüft wird. Das IW nennt als praktische Hebel Kompetenzaufbau, datenschutzkonforme Tools und klare, kommunizierte Nutzungsregeln (IW Köln, 2026). Der Nachteil sind Pflegeaufwand und Lizenzkosten. Klären Sie vorab, wer Regel und Werkzeug aktuell hält und wer prüft, dass beides im Alltag gilt.
Meine Empfehlung: Eine Regel für Daten und Prüfung, Verbote nur für wenige Datenklassen
Ich empfehle den dritten Weg, ergänzt um ein enges Verbot für die Datenklassen, bei denen ein Abfluss nicht reparierbar ist. Das ist meine Bewertung auf Basis der Risiken oben: Daten und Geschäftsgeheimnisse lassen sich aus meiner Sicht über eine Regel zu Dateninhalten steuern, falsche Ergebnisse über eine Prüfpflicht vor dem Versand. Ein Verbot des Werkzeugs ersetzt beides nicht.
Die Regel berührt auch Artikel 4 der KI-Verordnung. Nach der Fassung auf dem AI Act Service Desk der EU-Kommission ergreifen Betreiber von KI-Systemen Maßnahmen, um die KI-Kompetenz ihres Personals zu unterstützen, ohne für eine Person ein bestimmtes Niveau an KI-Kompetenz garantieren zu müssen. Laut der FAQ der EU-Kommission zu AI Literacy können die nationalen Marktüberwachungsbehörden Verstöße gegen diese Pflicht mit Sanktionen ahnden (dort: „penalties“). Eine kurze, schriftlich festgehaltene Unterweisung zu den erlaubten Datenklassen und zur Prüfpflicht vor dem Versand halte ich für einen sinnvollen Anfang. Was Artikel 4 im Einzelnen verlangt, ist Thema einer eigenen Folge und keine Rechtsberatung.
Als Messkriterium für die nächsten 12 bis 24 Monate taugt eine einfache Frage: Können Sie belegen, was Sie angeordnet und vermittelt haben, und wissen Sie, welche Werkzeuge tatsächlich geöffnet werden?