Shadow-AI, im AI-Kontext.
Shadow-AI ist die Nutzung von KI-Werkzeugen durch Mitarbeitende ohne Freigabe der IT. Firmendaten landen dabei unbemerkt bei ungeprüften Anbietern.
Shadow-AI beschreibt den Einsatz von KI-Werkzeugen im Unternehmen ohne Kenntnis oder Freigabe der verantwortlichen Stellen. Typisch ist der private Zugang zu einem Chat-Dienst, in den Angebote, Verträge oder Kundendaten kopiert werden, weil es schneller geht. Das Problem ist selten böser Wille, sondern ein fehlendes freigegebenes Werkzeug für eine echte Aufgabe. Die Folgen reichen von unkontrollierter Datenweitergabe über fehlende Nachvollziehbarkeit bis zu Aussagen gegenüber Kunden, die niemand geprüft hat. Verbote allein lösen das nicht. Wirksam ist die Kombination aus einem klar freigegebenen Werkzeug, einer verständlichen Regel dazu und einer Anlaufstelle für neue Anwendungsfälle.
Beispiele aus dem Mittelstand
- Ein Vertriebsmitarbeiter kopiert eine komplette Preisliste in einen kostenlosen Chat-Dienst, um daraus ein Angebot zu formulieren.
- Eine Assistenz lädt Bewerbungsunterlagen in ein Zusammenfassungs-Werkzeug, ohne dass eine Auftragsverarbeitung besteht.
- Ein Geschäftsführer stellt fest, dass in drei Abteilungen vier verschiedene KI-Dienste laufen, von denen die IT keinen kannte.
Folge-Fragen
Wie findet man Shadow-AI im eigenen Haus?
Anonyme Abfrage im Team plus Blick in Ausgaben und Netzwerkprotokolle. Die Abfrage bringt meist mehr, wenn sie ohne Schuldfrage gestellt wird.
Hilft ein Verbot?
Nur zusammen mit einer Alternative. Wer eine Aufgabe schneller erledigen kann, sucht sich sonst den nächsten Weg vorbei an der Regel.
Was gehört in eine KI-Richtlinie?
Welche Werkzeuge freigegeben sind, welche Daten nie hineingehören, wer bei neuen Anwendungsfällen entscheidet und wie Ergebnisse geprüft werden.
Wie hängt das mit der KI-Verordnung zusammen?
Ohne Inventar der eingesetzten Systeme lässt sich keine Einstufung vornehmen. Shadow-AI macht dieses Inventar unvollständig und damit wertlos.
Verwandte Begriffe
Shadow-AI in der Praxis.
Wo dieser Begriff in deinem Geschäft konkret wird, beginnt die Arbeit. Wir nennen klar, ob die Idee in unser Studio passt.
Digital-Audit