Schatten-KI: Was ist Schatten-KI?

Schatten-KI bezeichnet KI-Werkzeuge, die Mitarbeiter für ihre Arbeit nutzen, ohne dass das Unternehmen sie ausgewählt, freigegeben oder überhaupt bemerkt hat, etwa private Konten bei ChatGPT.

In vielen Betrieben ist KI längst angekommen, nur nicht über die IT-Abteilung. Mitarbeiter lassen sich Mails formulieren, Tabellen auswerten oder Protokolle zusammenfassen. Das spart Zeit. Es heißt aber auch, dass Firmendaten bei Anbietern landen, die niemand im Unternehmen geprüft hat.

Woher der Begriff stammt

Der Begriff lehnt sich an „Schatten-IT“ an. So nennt man seit Langem Software und Geräte, die Mitarbeiter ohne Wissen der IT einsetzen, etwa private Cloud-Speicher oder eigene Chat-Programme. Im Englischen heißt das neuere Phänomen „Shadow AI“.

Wie verbreitet es ist, zeigte der Work Trend Index von Microsoft und LinkedIn im Mai 2024. Für die Studie wurden 31.000 Menschen in 31 Ländern befragt. Ergebnis: 78 Prozent der KI-Nutzer bringen ihre eigenen KI-Werkzeuge mit zur Arbeit. Microsoft nennt das „Bring Your Own AI“ und weist ausdrücklich darauf hin, dass dabei Firmendaten in Gefahr geraten.

Was Schatten-KI genau umfasst

Schatten-KI hat viele Formen. Die häufigsten sind:

private Konten bei Chat-Assistenten, in die Kundenmails, Angebote oder Verträge kopiert werden
Browser-Erweiterungen, die Webseiten und Formulare mitlesen
KI-Funktionen in Apps, die nebenbei eingeschaltet werden, etwa Transkription in Videokonferenzen
kostenlose Online-Werkzeuge zum Übersetzen oder Zusammenfassen von Dokumenten

Gemeinsam ist allen: Das Unternehmen weiß nicht, welche Daten wohin gehen, wie lange sie dort bleiben und ob der Anbieter sie für das Training seiner Modelle nutzt.

Abgrenzung zu ähnlichen Begriffen

Schatten-IT: Schatten-IT ist der Oberbegriff für alle nicht freigegebenen Werkzeuge. Schatten-KI ist ein Teil davon. Sie ist schwerer zu erkennen, weil viele KI-Funktionen in Programmen stecken, die offiziell erlaubt sind.

KI-Sicherheit: KI-Sicherheit schützt KI-Anwendungen, die das Unternehmen selbst betreibt, vor Angriffen. Bei Schatten-KI fehlt diese Kontrolle von vornherein, weil niemand von der Anwendung weiß.

Prompt Injection: Prompt Injection ist ein gezielter Angriff von außen. Schatten-KI entsteht ohne böse Absicht, meist aus dem Wunsch, schneller fertig zu werden.

Was das für Ihr Unternehmen bedeutet

Schatten-KI ist ein Zeichen dafür, dass Ihre Mitarbeiter KI nützlich finden. Das ist eine gute Nachricht. Die Aufgabe ist, diese Nutzung in geordnete Bahnen zu lenken.

Bewährt hat sich ein Vorgehen in drei Schritten:

Bestand aufnehmen: Fragen Sie offen nach, wer welche Werkzeuge wofür nutzt.
Ein Werkzeug freigeben: Wählen Sie einen Anbieter mit Firmenkonten, bei dem Eingaben nicht zum Training verwendet werden. Wer Daten gar nicht aus dem Haus geben will, nutzt ein Modell auf einem eigenen Server, ähnlich wie bei Edge AI.
Klare Regeln und Schulung: Legen Sie fest, welche Daten in KI-Werkzeuge dürfen, und zeigen Sie an echten Beispielen, wie es richtig geht.

Wie eine solche Schulung bei uns aussieht, lesen Sie auf der Seite zu KI-Workshops. Einen eigenen KI-Server beschreiben wir unter KI-Server und lokale KI.

Grenzen dessen, was man sicher weiß

Zahlen zur Verbreitung stammen meist aus Umfragen, oft von Anbietern, die selbst KI-Werkzeuge verkaufen. Sie zeigen eine Richtung, aber keine genaue Größe. Für kleine deutsche Betriebe gibt es kaum eigene Daten.

Ob durch Schatten-KI bereits Schäden entstanden sind, ist schwer zu messen. Ein Datenabfluss fällt oft erst auf, wenn vertrauliche Inhalte an anderer Stelle wieder auftauchen. Wer seine Mitarbeiter fragt, weiß daher meist mehr als jede Statistik.

Häufig gestellte Fragen

Wie finde ich heraus, ob es in meinem Unternehmen Schatten-KI gibt?

Am einfachsten, indem Sie fragen, ohne Ärger anzudrohen. Eine kurze anonyme Umfrage zeigt meist schnell, wer welche Werkzeuge wofür nutzt. Ergänzend kann Ihre IT sehen, welche KI-Dienste aus dem Firmennetz aufgerufen werden.

Sollte ich private KI-Werkzeuge einfach verbieten?

Ein reines Verbot hilft selten. Die Arbeit, für die Mitarbeiter KI nutzen, bleibt ja bestehen. Besser wirkt ein freigegebenes Werkzeug mit klaren Regeln, welche Daten hinein dürfen und welche nicht.

Schatten-KI