Schatten-KI

Generative künstliche Intelligenz (KI) ist längst keine Zukunftsmusik mehr. Sie bietet erhebliche Chancen für Effizienz und Strategie. Schnell ist sie zur Realität in den täglichen Arbeitsabläufen der Mitarbeiter geworden. Erkannt hat man auch die mit KI verbundenen Risiken. Beispielsweise sind Risikomanagementsysteme für Hochrisiko-KI-Systeme einzurichten, deren Funktion und Wirksamkeit ist zudem kontinuierlich zu kontrollieren. Wenig Beachtung hingegen findet die sogenannte Schatten-KI, die Nutzung frei verfügbarer KI-Werkzeuge für geschäftliche Zwecke ohne offizielle Genehmigung der Unternehmensführung. Diese Praxis birgt Gefahren bis hin zur Existenzgefährdung. 

Schatten-KI ist weitaus mehr als ein reines IT-Problem. Sie untergräbt nicht nur Investitionen in die Cybersicherheit, sondern schafft enorme strategische, rechtliche und betriebswirtschaftliche Risiken. Sie ist eine latente Gefahr für den Erfolg und die Wettbewerbsfähigkeit eines Unternehmens, ja sogar für dessen langfristiges Überleben.

Das betrifft alle Organisationen, die KI anwenden oder dies für die Zukunft planen. Schatten-KI benötigt deshalb die Aufmerksamkeit und das Handeln der Unternehmensführung und des Aufsichtsrats. Der folgende Beitrag behandelt spezifisch die Verantwortung von Vorstand und Aufsichtsrat. Die Risikolage durch Schatten-KI und die vorgeschlagenen Antworten darauf gelten unabhängig von der Governance-Struktur.

Die Verlockung ist groß: Mitarbeiter nutzen externe KI-Tools, um E-Mails zu formulieren, Berichte zusammenzufassen oder Programmcodes zu optimieren. Mit jeder Eingabe in ein solches System riskieren sie jedoch, hochsensible Unternehmensdaten in eine unkontrollierte externe Umgebung zu übertragen. Bestehende Sicherheitsmaßnahmen wie Firewalls sind hier oft wirkungslos, da sie den Inhalt des verschlüsselten Datenverkehrs zu legitimen Diensten nicht analysieren können. 

Zwei alltägliche Szenarien verdeutlichen die Risiken:

• Der unbeabsichtigte Verstoß gegen die Datenschutz-Grundverordnung (DSGVO): Ein Personalleiter kopiert die Bewerbungsunterlagen eines Kandidaten – inklusive Name, Adresse und Lebenslauf – in ein frei zugängliches KI-Tool, um eine schnelle Zusammenfassung zu erhalten. In diesem Moment werden personenbezogene Daten an einen Drittanbieter übermittelt, potenziell außerhalb der EU, ohne Rechtsgrundlage und ohne Wissen des Betroffenen. Dies stellt einen klaren Verstoß gegen die DSGVO dar, der empfindliche Bußgelder nach sich ziehen kann.

• Der Diebstahl geistigen Eigentums: Eine Ingenieurin fügt Teile eines innovativen Quellcodes in ein externes KI-Programmierwerkzeug ein, um Optimierungsvorschläge zu erhalten. Dieser Code, das Herzstück eines zukünftigen Produkts und zentrales geistiges Eigentum (IP), befindet sich nun auf fremden Servern. Diese Daten könnten dann zum Training globaler KI-Modelle verwendet werden mit der Folge, dass der Wettbewerbsvorteil unwiederbringlich verloren geht.

Diese Beispiele zeigen: Schatten-KI ist ein unkontrolliertes Tor, durch das die wertvollsten Daten eines Unternehmens abfließen können. Sie bedroht die Grundfesten der Governance, den Schutz des geistigen Eigentums und die Compliance des Unternehmens. 

Über den unkontrollierten Datenabfluss hinaus eröffnet Schatten-KI die Tür zu einer noch heimtückischeren Gefahr: der aktiven Sabotage durch Datenmanipulation (Data Poisoning). Hierbei manipulieren externe Akteure gezielt die Daten, mit denen KI-Modelle trainiert werden, um deren Verhalten zu korrumpieren. Damit steht letztlich auch die Existenz des Unternehmens auf dem Spiel.

Wird eine Führungskraft ausschließlich mit gefälschten Berichten und manipulierten Marktdaten geschult – ihre zukünftigen Entscheidungen wären zwangsläufig fehlerhaft und schädlich für das Unternehmen. Genau das passiert bei der Datenmanipulation einer KI. Die Konsequenzen für das Unternehmen können verheerend sein:

• Sabotage von Geschäftsprozessen: Eine KI für die Analyse von Finanzdaten könnte durch manipulierte Trainingsdaten dazu gebracht werden, systematisch Risiken zu unterschätzen oder falsche Investitionsempfehlungen zu geben.
• Reputationsschaden: Ein kundenorientierter Chatbot könnte manipuliert werden, um unangemessene, falsche oder sogar beleidigende Antworten zu generieren, was das Vertrauen der Kunden nachhaltig erschüttert.
• Wettbewerbsnachteil: Angreifer könnten eine KI so manipulieren, dass sie unbemerkt die Produkte eines Konkurrenten bevorzugt oder interne strategische Analysen in eine für den Angreifer vorteilhafte Richtung lenkt.

Die Nutzung unkontrollierter externer KI-Tools macht ein Unternehmen anfällig für solche Angriffe, da keine Kontrolle über die Datenintegrität oder die Sicherheit der Modelle besteht. Dies transformiert das Risiko von einem passiven Datenverlust zu einer aktiven strategischen und operativen Bedrohung.

Die Nutzung von Schatten-KI geschieht nicht in einem rechtsfreien Raum. Sie kollidiert direkt mit einem dichten Netz von Gesetzen und Vorschriften.

• Datenschutz-Grundverordnung (DSGVO): Die Prinzipien der Rechtmäßigkeit, Fairness und Transparenz sind mit Schatten-KI unvereinbar. Da die Datenverarbeitung heimlich und außerhalb der etablierten Unternehmensprozesse stattfindet, ist eine Einhaltung der Grundsätze wie „Privacy by Design“ und „Privacy by Default“¹ de facto unmöglich. Ebenso können die vorgeschriebenen Datenschutz-Folgenabschätzungen² für Hochrisiko-Verarbeitungen nicht durchgeführt werden.
• EU AI Act: Die im Juli 2024 in Kraft getretene EU-KI-Verordnung legt strenge Anforderungen an KI-Systeme fest, insbesondere an solche mit hohem Risiko. Ein KI-Tool, das beispielsweise zur Vorauswahl von Bewerbern eingesetzt wird, fällt in diese Kategorie. Die Nutzung eines nicht genehmigten Schatten-KI-Systems würde zwangsläufig gegen die Kernanforderungen der Verordnungverstoßen, darunter die Einrichtung eines Risikomanagementsystems³, eine transparente technische Dokumentation⁴ und die Gewährleistung menschlicher Aufsicht.⁵ Die Nichteinhaltung kann zu Strafen führen, die die der DSGVO noch übertreffen.

Angesichts dieser geballten Risiken, die aus der Schatten-KI entstehen können, darf der Vorstand deren Nutzung nicht dulden. Ansonsten würde die Geschäftsführung in einem Zustand der „vorsätzlichen Blindheit“ agieren – ein untragbares Risiko für Strategie und Compliance. Einen derartigen Zustand muss der Aufsichtsrat verhindern. Das gebietet seine gesetzliche Pflicht zur Kontrolle und Beratung. 

Es geht nicht um ein pauschales Verbot von KI-Technologien. Das würde Innovation ersticken und das Unternehmen ins Hintertreffen geraten lassen. Ziel muss die effektive Vorbeugung sein.

Das bloße Verbot, Schatten-KI zu nutzen, ist nicht zielführend. Stattdessen ist der Drang der Mitarbeiter nach Effizienz in sichere und produktive Bahnen zu lenken. Aufgabe des Vorstands ist es, geeignete Maßnahmen zu entwickeln und umzusetzen, die den sicheren Weg zum einfachsten Weg machen. In diesem Prozess sollte der Aufsichtsrat entsprechend seiner Pflicht zur Beratung und Kontrolle der Geschäftsführung den Vorstand kritisch-konstruktiv begleiten.

Beide Gremien sollten dabei beachten, dass Risikomanagement unter den Bedingungen von KI keine rein defensive Funktion mehr ist. Es dient vielmehr der strategischen Wertschöpfung, um die Zukunftsfähigkeit eines Unternehmens zu sichern und Wettbewerbsvorteile zu schaffen. Ziel eines strategisch ausgerichteten Risikomanagements ist der Aufbau von Resilienz. 

Konkrete Ansatzpunkte, um die KI-Nutzung in sichere Bahnen zu lenken, sind:

• Sichere und leistungsstarke KI-Plattform: Verbreitet sind veraltete IT-Strukturen, sogenannte technische Schulden, die durch die Anwendung von KI überfordert sind. Die Geschäftsführung muss eine compliancekonforme KI-Plattform installieren, die die Bedürfnisse der Mitarbeiter erfüllt und gleichzeitig die Kontrolle über die Daten gewährleistet. Sollte der Vorstand nicht selbst die Initiative ergreifen, muss der Aufsichtsrat vom Vorstand proaktiv eine KI-Governance-Strategie einfordern.
• Fokus auf die Risikokultur: Technische Systeme und Prozesse allein garantieren kein wirksames Risikomanagement. Das Gleiche gilt für starre bürokratische Regelwerke, die die Mitarbeiter überfordern. Ein entscheidender Erfolgsfaktor ist die Risikokultur, also die geteilten Werte, Überzeugungen und Verhaltensweisen in Bezug auf Risiken. Risikoverantwortung trägt nicht nur die Unternehmensführung, sie muss vielmehr in der gesamten Organisation verankert sein. Risikokultur muss Offenheit, Kreativität und kritisches Denken betonen; dann kann die Organisation schneller und agiler auf neue Bedrohungen reagieren. Sie ist zugleich das geeignete Instrument, um dem Handeln in Graubereichen vorzubeugen, indem sie für Einsicht in die damit verbundenen potenziellen Risiken sorgt. Jeder Mitarbeiter muss sich der Gefahren einer nicht autorisierten Nutzung von KI bewusst sein.

Um den Vorstand kritisch-konstruktiv begleiten zu können, sollte der Aufsichtsrat dem Impuls widerstehen, das Thema Schatten-KI an den Prüfungsausschuss zu delegieren. Wesen der Schatten-KI ist es, dass sie unter dem Radar der autorisierten Risikomanagementsysteme laufen. Der Prüfungsausschuss ist im Wesentlichen ein Instrument der Kontrolle, weniger der Vorbeugung. Sollte der Prüfungsausschuss im Rahmen seiner Arbeit auf kritische Sachverhalte im Zusammenhang mit KI stoßen, muss er seine Bedenken, Fragen und Anregungen an den Vorstand und gegebenenfalls den Aufsichtsratsvorsitzenden geben. 

Der Einsatz und die Risiken von KI sind ein strategisches Thema und sollten deshalb im Aufsichtsratsplenum behandelt werden. Die folgenden kritischen Fragen sind dabei zu klären:

Die unkontrollierte Verbreitung von Schatten-KI ist eine der größten stillen Bedrohungen für Unternehmen im digitalen Zeitalter. Sie gefährdet Geschäftsgeheimnisse, untergräbt die Compliance, öffnet die Tür für Sabotage und birgt unkalkulierbare Haftungsrisiken. Das gilt grundsätzlich für alle Unternehmen, große wie kleine, Kapital- wie Personengesellschaften.

Für Aufsichtsräte ist es entscheidend, dieses Thema auf die strategische Agenda zu setzen und von der Geschäftsführung einen klaren, proaktiven und präventiven Governance-Ansatz einzufordern. Nur so können sie ihrer Überwachungspflicht nachkommen und sicherstellen, dass die Potenziale der künstlichen Intelligenz als kalkulierter Wettbewerbsvorteil genutzt und nicht zu einem unkontrollierbaren Risiko für das Unternehmen werden. Die Zeit zu handeln ist jetzt.

Der Artikel von Dr. Stefan Ebener und Dr. Willi Schoppen ist im Audit Committee Quarterly I/2026: Bürokratie des Audit Committee Institute e.V. gefördert durch KPMG Deutschland erschienen.

1 Vgl. Art. 25 DSGVO
2 Vgl. Art. 35 DSGVO
3 Vgl. Art. 9 EU AI Act
4 Vgl. Art. 11 EU AI Act
5 Vgl. Art. 14 EU AI Act