Shadow AI: Das unterschätzte Datenrisiko

Freitagnachmittag. Ein Angebot muss raus, und der Ton stimmt noch nicht ganz. Also kopiert Ihre Mitarbeiterin den Entwurf schnell in ChatGPT und tippt: »Formuliere das freundlicher.« In dem Entwurf stehen der Name des Kunden, die Projektsumme und zwei interne Konditionen, die sonst niemand sieht. Zehn Sekunden später klingt der Text besser. Niemand wollte etwas Falsches. Und trotzdem haben gerade schützenswerte Daten Ihr Unternehmen verlassen – auf einen Server, über den Sie keine Kontrolle haben.

Diese Szene passiert täglich, in Kanzleien, Praxen und Handwerksbetrieben. Sie hat einen Namen: Shadow AI. Und sie ist kein Problem einzelner »unvorsichtiger« Mitarbeiter, sondern eine Führungs- und Governance-Frage.

Was ist Shadow AI?

Shadow AI – auf Deutsch etwa »Schatten-KI« – meint die Nutzung von KI-Werkzeugen ohne Wissen und ohne Freigabe der Leitung oder der IT. Gemeint sind die großen Chatbots wie ChatGPT, Google Gemini oder Microsoft Copilot, aber auch die vielen kostenlosen Tools, die eine Rechnung zusammenfassen, einen Text übersetzen oder ein Bild aufhübschen.

Das Wichtigste zuerst: Fast niemand tut das aus böser Absicht. Der Antrieb ist Produktivitätsdruck. Die Aufgabe muss fertig werden, das Tool hilft, also wird es benutzt. Genau das macht Shadow AI so schwer greifbar – es gibt keinen Angreifer, den man aussperren könnte. Es gibt nur hilfsbereite Menschen, die einen Umweg nehmen, weil ihnen niemand einen sicheren Weg gezeigt hat. Erhebungen zeigen zudem regelmäßig, dass ein erheblicher Teil der Beschäftigten solche Werkzeuge längst nutzt, ohne dass die Leitung davon weiß – häufig parallel zu den offiziell bereitgestellten Programmen.

Warum das zum Problem wird

Was in so ein Chatfenster wandert, verlässt Ihr Haus. Kundendaten, Verträge, Angebote, Quellcode, interne Notizen – all das landet bei einem Dritten. Oft stehen die Server in den USA, außerhalb der europäischen Datenschutzregeln. Bei vielen kostenlosen Diensten dürfen Ihre Eingaben zudem zum Training des Modells weiterverwendet werden. Der Unterschied liegt dabei oft im Tarif: Kostenlose Verbraucherzugänge behandeln Eingaben anders als kostenpflichtige Geschäftsversionen, bei denen sich die Datenverarbeitung vertraglich festlegen lässt. Das heißt: Ihre Daten helfen, ein fremdes Produkt zu verbessern, und Sie wissen weder, wo sie liegen, noch, wer sie später zu Gesicht bekommt. Dasselbe Muster kennen viele Betriebe schon vom Firmenpostfach bei einem US-Konzern – welche E-Mail-Anbieter DSGVO-konform arbeiten, habe ich in einem eigenen Beitrag beschrieben.

Mitarbeitende können sich auf irgendeiner KI-Plattform anmelden und dort unwissend schützenswerte Informationen eingeben. Was harmlos wirkt, kann so schnell zum Datenschutzproblem werden.

Das ist keine graue Theorie. 2023 fügten Ingenieure bei Samsung internen Quellcode und Notizen aus einer Besprechung in ChatGPT ein, um sich die Arbeit zu erleichtern. Die vertraulichen Informationen waren damit außer Haus. Samsung schränkte daraufhin die interne Nutzung solcher Dienste ein. Ein Weltkonzern mit eigener Sicherheitsabteilung – und trotzdem passiert es. In einem Betrieb ohne feste Regeln passiert es leichter, nur bemerkt es dort niemand.

DSGVO und EU AI Act: die rechtliche Seite

Sobald personenbezogene Daten im Spiel sind – ein Kundenname genügt –, wird aus dem Produktivitätstrick ein Datenschutzthema. Wer solche Daten ohne Rechtsgrundlage und ohne Auftragsverarbeitungsvertrag (den Vertrag, der regelt, wie ein Dienstleister mit Ihren Daten umgehen darf) in einen KI-Dienst kippt, riskiert einen Verstoß gegen die DSGVO. Neben möglichen Bußgeldern steht dabei auch das Vertrauen der Kundinnen und Kunden auf dem Spiel, wenn deren Daten unbemerkt an Dritte gelangen. Und der entscheidende Punkt: Die Haftung liegt beim Unternehmen, nicht bei der Mitarbeiterin, die auf »Senden« geklickt hat. Wie das konkret aussieht, habe ich am Beispiel Chatbots im Beitrag ChatGPT, DSGVO und Kundendaten aufgeschrieben. Besonders heikel wird es bei Beschäftigtendaten – wohin das führen kann, zeigt der Meta-Fall im Personalbereich.

Dazu kommt der EU AI Act, die europäische KI-Verordnung. Ihr Artikel 4 verlangt von Unternehmen, für eine ausreichende »KI-Kompetenz« ihrer Belegschaft zu sorgen; diese Pflicht gilt seit Februar 2025. Im Klartext: Wer KI im Betrieb einsetzt – und das tun heute faktisch alle –, muss seine Leute schulen. Damit ist Schulung keine nette Idee mehr, sondern eine gesetzliche Vorgabe. Wen die Pflicht genau trifft und was als Nachweis zählt, habe ich im Beitrag zur KI-Schulungspflicht aus Artikel 4 auseinandergenommen. Und Shadow AI ist ein deutlicher Beleg dafür, warum diese Vorgabe sinnvoll ist: Menschen nutzen die Werkzeuge längst, sie wissen nur nicht, wo die Grenzen liegen. Der AI Act ist dabei nicht die einzige Vorgabe, die im Betriebsalltag untergeht – bei der E-Mail-Archivierung nach GoBD sieht es genauso aus.

Warum Verbote nicht helfen

Der erste Reflex vieler Chefinnen und Chefs ist ein Verbot. »KI ist hier untersagt« – E-Mail an alle, fertig. Das Problem: Es funktioniert nicht. Die Werkzeuge sind zu gut und zu nah. Sie liegen auf jedem privaten Handy, in jedem Browser, einen Klick entfernt. Wer die Nutzung verbietet, schafft sie nicht ab. Er treibt sie nur tiefer in den Schatten.

Vorher hat jemand ChatGPT am Firmenrechner benutzt und Ihnen vielleicht davon erzählt. Nach dem Verbot benutzt dieselbe Person es auf dem privaten Smartphone, still und ohne Rückfrage. Sie haben dann kein Risiko beseitigt. Sie haben nur Ihre letzte Chance verloren, davon zu erfahren. Ein Verbot ist deshalb keine Lösung, sondern verlagert das Problem nur dorthin, wo es niemand mehr sieht.

Der Ausweg: regeln statt ignorieren, ermöglichen statt verbieten

Zwischen Ignorieren und Verbieten liegt der Weg, der tatsächlich trägt: geregelte, sichere Nutzung. Er besteht aus drei Teilen.

• Eine klare, verständliche KI-Richtlinie. Kein 30-seitiges Dokument, das niemand liest, sondern ein paar nachvollziehbare Sätze: Welche Werkzeuge sind erlaubt, welche Daten dürfen nie hinein, wen frage ich im Zweifel. Die meisten Mitarbeitenden wollen keine Regeln brechen. Sie brauchen nur welche, an denen sie sich orientieren können.
• Freigegebene, DSGVO-konforme Werkzeuge. Es gibt Enterprise-Vereinbarungen, bei denen Eingaben nicht zum Training verwendet werden und ein ordentlicher Auftragsverarbeitungsvertrag vorliegt. Und es gibt lokale oder selbst gehostete KI-Modelle, bei denen die Daten den eigenen Betrieb nie verlassen. Wie das aussieht, ist im Beitrag über lokale KI und Datenschutz beschrieben. Ist das sichere Werkzeug genauso bequem wie das riskante, greift niemand mehr zum riskanten.
• Schulung der Mitarbeitenden. Der wichtigste Teil. Wer versteht, warum ein Kundenname in einem fremden Chatfenster ein Problem ist, macht den Fehler seltener – nicht aus Angst, sondern aus Einsicht. Genau das verlangt auch Artikel 4 des AI Act.

Diese drei Bausteine greifen ineinander: Eine Richtlinie ohne passende Werkzeuge bleibt Theorie, freigegebene Werkzeuge ohne Schulung werden nicht genutzt, und Schulung ohne klare Regeln verpufft. Wie eine solche KI-Schulung abläuft, ist auf der Leistungsseite beschrieben.

Kurz gesagt

Shadow AI ist kein Zeichen für schlechte Mitarbeiter. Es ist ein Zeichen dafür, dass gute Mitarbeiter ein nützliches Werkzeug entdeckt haben, für das es noch keine Spielregeln gibt. Diese Spielregeln aufzustellen, ist Aufgabe der Führung – und sie ist gut zu bewältigen.

Wer einschätzen möchte, welche KI im eigenen Betrieb bereits im Umlauf ist und wie sich die Nutzung absichern lässt, kann das in einem unverbindlichen Erstgespräch über die Kontaktseite klären.