KI - Auswirkungen auf die Arbeitsweise des Aufsichtsrats

Künstliche Intelligenz (KI) hat sich in kürzester Zeit von einer technologischen Innovation zu einem zentralen Treiber der digitalen Transformation entwickelt. Sie verändert Wertschöpfungsketten, Entscheidungsprozesse und Geschäftsmodelle – und stellt damit neue Anforderungen an Aufsichtsräte. Für diese ist KI weit mehr als ein technisches Thema. In einer Wirtschaft, die von technologischer Dynamik sowie wachsender Komplexität geprägt ist, reichen herkömmliche Instrumente nicht mehr aus.

Aufsichtsräte sind gefordert, sowohl Kontrolle als auch Beratung neu zu verankern – auf Basis von Daten, mit Weitblick und einem klaren Bewusstsein für Verantwortung und Wirkung.

I. Überwachung der Ordnungsgemäßheit und Zweckmäßigkeit des Vorstandshandelns, insbesondere in Bezug auf Strategie und Geschäftsmodell

• Wie beeinflussen Entwicklungen im Bereich KI die Unternehmensstrategie und das Geschäftsmodell?
• Welche wesentlichen Chancen und Risiken sind mit den Entwicklungen verbunden?
• Welche KI-Tools kommen bei der Entwicklung der Strategie zum Einsatz?
• Welche Bereiche des Unternehmens sind wie von den Entwicklungen im Bereich KI betroffen?
• Inwieweit ist die Lieferkette durch KI betroffen? Welchen Einfluss hat der KI-Einsatz auf Lieferantenabhängigkeiten?
• Welche wesentlichen Investitionen werden im Bereich KI getätigt und warum?
• Welche Auswirkungen hat der KI-Einsatz auf die Nachhaltigkeit des Unternehmens?
• Wie sind die Verantwortlichkeiten/Zuständigkeiten im Unternehmen in Sachen KI festgelegt?
• Wie wird gewährleistet, dass das Unternehmen (auch in Zukunft) über in KI-Fragen ausreichend qualifizierte Mitarbeitende verfügt sowie Mitarbeitende entsprechend fortgebildet werden?
• Wie werden externe und interne Stakeholder in die KI-Strategie eingebunden?
• Inwieweit sorgt der Vorstand dafür, dass Anliegen des Unternehmens im Bereich KI-Regulierung über Interessenverbände etc. adressiert werden?
• Welche Kooperationen mit Technologieanbietern existieren? Sind sie – auch vor dem Hintergrund geopolitischer Spannungen – ausreichend diversifiziert?

II. Überwachung der Rechtmäßigkeit des Vorstandshandelns

• Welche KI-Systeme kommen im Unternehmen zum Einsatz? Welchen Risikoklassen nach der KI-Verordnung gehören sie an? Bereitet sich das Unternehmen hinreichend auf die neuen Vorgaben vor?
• Durch welche Prozesse und Maßnahmen sowie durch welche Hauptverantwortlichen wird sichergestellt, dass mit dem KI-Einsatz verbundene regulatorische Anforderungen (KI-Verordnung, Datenschutzrecht, Verbraucherschutzrecht, Antidiskriminierungsrecht etc.) eingehalten werden?
• Wie hält der Vorstand die rechtlichen Grenzen ein, wenn er selbst KI im Rahmen von Vorstandsentscheidungen einbezieht?
• Inwieweit könnte es sinnvoll sein, über das gesetzlich Erforderliche hinaus unternehmensspezifische Leitlinien zum ethischen Umgang mit KI zu formulieren? Welchen Inhalt sollten diese Leitlinien haben? Wie wird die Durchsetzung sichergestellt?

III. Überwachung der unternehmerischen Kontrollsysteme

• Wie werden die neuen Risiken und Chancen (einschließlich neuer KI-Systeme) in den unternehmerischen Systemen berücksichtigt?
• Inwieweit kommt KI in den Systemen selbst – etwa bei der Datenauswertung oder im Rahmen von Prognosen – zum Einsatz? Inwieweit wird der ordnungsgemäße Einsatz sichergestellt?
• Welche Vorkehrungen wurden getroffen, um KI-gestützte Cyberangriffe auf das Unternehmen zu verhindern bzw. im Fall eines Angriffs angemessen darauf reagieren zu können (z. B. Notfallpläne)?
• Welche Sicherheitsvorkehrungen (Cybersicherheit, Infrastruktur und Diversifikation) gewährleisten das ordnungsgemäße Funktionieren von KI-Systemen?

IV. Überwachung der Finanzberichterstattung, einschließlich der Nachhaltigkeitsberichterstattung

• Welche KI-Tools kommen im Rahmen der Informationsgewinnung/-verarbeitung und -auswertung zum Einsatz und welche Implikationen hat der Einsatz?

V. Einrichtung von Ethikräten (oder Ähnlichem)

• Welchen Mehrwert würde die Einrichtung eines KI-Ethikrats für das Unternehmen bringen?
• Welche Aufgaben sollte der Beirat haben, wie sollte er arbeiten und besetzt sein?

I. Vorstandsbesetzung und -organisation

• Verfügt der Vorstand über die erforderliche Expertise im Bereich KI?
• Bildet sich der Vorstand ausreichend fort?
• Berücksichtigt die Nachfolgeplanung ausreichend Kompetenzen im Bereich KI?
• Sollte die Ressortaufteilung im Vorstand angepasst werden oder sollten neue Vorstandsressorts gebildet werden?

II. Aufsichtsratsbesetzung

• Verfügt der Aufsichtsrat über die erforderliche Expertise im Bereich KI?
• Bildet sich der Aufsichtsrat ausreichend fort?
• Berücksichtigt die Nachfolgeplanung ausreichend Kompetenzen im Bereich KI?

III. Überwachung der Abschlussprüfung

• Findet ein Austausch mit dem Abschlussprüfer über den Einsatz und die Implikationen des Einsatzes von KI auf die Abschlussprüfung statt?

IV. Katalog an zustimmungsbedürftigen Geschäften

• Inwieweit sollte der Katalog an zustimmungsbedürftigen Geschäften erweitert werden?

V. Auswirkungen des KI-Einsatzes auf die Arbeitsweise

• Inwieweit sollte das Thema KI in der Ausschussstruktur berücksichtigt werden?
• Wird dem Thema KI ausreichend Zeit in den Aufsichtsratssitzungen gewidmet?
• Wird der Aufsichtsrat ausreichend vom Vorstand über KI-bezogene Fragestellungen informiert?
• Besitzt der Aufsichtsrat ausreichende Kenntnisse, welche KI-Tools zur Steigerung der Effektivität und Effizienz seiner Überwachungsaufgabe eingesetzt werden können? Verfügt das Gremium über ausreichend Kenntnisse bezüglich der Sorgfaltsanforderungen für die Nutzung der jeweiligen Tools?
• Inwieweit kann KI rechtssicher zur Unterstützung bei Aufsichtsratsentscheidungen eingesetzt werden? Wie prüft der Aufsichtsrat insbesondere die Plausibilität des KI-Ergebnisses? Inwieweit wird ein möglicher Bias berücksichtigt?
• Wird bei KI-bezogenen Fragestellungen in angemessenem Umfang auf die Unterstützung von Sachverständigen zurückgegriffen?
• Inwieweit kann KI rechtssicher zur Aufbereitung und Auswertung von Informationen genutzt werden?
• Sollte der Aufsichtsrat mit dem Vorstand vereinbaren, dass er von Unternehmensmitarbeitenden direkt informiert werden kann, die zentral verantwortliche Rollen im Bereich KI des Unternehmens wahrnehmen?
• Inwieweit kann KI den Aufsichtsrat rechtssicher von Verwaltungsaufgaben entlasten, z. B. bei der Protokollführung/Dokumentation?

Die Artikel von Dr. Astrid Gundel und Christian Tobias Pfaff ist im Audit Committee Quarterly-extra “Künstliche Intelligenz” des Audit Committee Institute e.V. gefördert durch KPMG Deutschland erschienen.

* Insbesondere die Vorstands- und Aufsichtsratsbesetzung sollte auch mit dem Vorstand diskutiert werden.