Künstliche Intelligenz (KI) verändert Industrien auf der ganzen Welt. Um mit ihrem wachsenden Einfluss umzugehen, hat die Europäische Union das EU-KI-Gesetz verabschiedet (EU AI Act).
Dieses wegweisende Gesetz bietet einen umfassenden Rechtsrahmen, um Rechte zu schützen, ethische KI-Praktiken zu gewährleisten und Vertrauen in KI-Technologien aufzubauen.
Für Unternehmen ist das Gesetz weit mehr als eine Richtlinie. Es ist eine Verpflichtung, die Anforderungen für einen verantwortungsvollen Einsatz von KI zu erfüllen.
Mit der zunehmenden Abhängigkeit von generativer KI und allgemeinen KI-Modellen müssen sich Organisationen schnell anpassen. Dieser Leitfaden skizziert die wichtigsten Aspekte der KI-Regulierung der EU und bietet praktische Einblicke, wie man sich an die KI-Regulierung anpassen und gleichzeitig innovativ bleiben kann. Durch die Übernahme des KI-Compliance-Rahmens der EU können Unternehmen im Zeitalter der verantwortungsvollen KI eine Vorreiterrolle einnehmen.
Was ist das EU-KI-Gesetz?
Das EU-KI-Gesetz ist der erste umfassende Rechtsrahmen für künstliche Intelligenz (KI) in der Europäischen Union. Auf Vorschlag der Europäischen Kommission werden darin Regeln festgelegt, die die Transparenz, Verantwortlichkeit und Ethik bei der Nutzung von KI-Systemen gewährleisten sollen.
Das Gesetz verfolgt einen risikobasierten Ansatz zur Kategorisierung von KI-Systemen. Es bewertet ihre möglichen Auswirkungen auf Einzelpersonen und die Gesellschaft und legt für jede Kategorie spezifische Anforderungen fest.
Das KI-Gesetz ergänzt bestehende Rechtsvorschriften wie die Datenschutz-Grundverordnung (DSGVO). Es geht auf aktuelle Herausforderungen ein, darunter das Aufkommen von generativer KI und Large Language Models (LLMs). Ziel ist es, einen ausgewogenen Rahmen zu schaffen, der Innovationen fördert, die Rechte der Bürger schützt und die Datensicherheit gewährleistet.
Wesentliche Bestandteile der EU-KI-Gesetzgebung
Die EU-KI-Gesetzgebung verwendet einen risikobasierten Ansatz, um KI-Systeme in vier Kategorien einzuteilen:
Bei diesem risikobasierten Rahmen liegt der Schwerpunkt auf Massnahmen, die die Rechenschaftspflicht im Zusammenhang mit KI betreffen. Er ermutigt Unternehmen, Risiken proaktiv anzugehen und die gesetzlichen Anforderungen zu erfüllen.
Warum das EU-KI-Gesetz für Unternehmen wichtig ist
Die KI-Gesetzgebung der EU wird erhebliche Auswirkungen auf Organisationen in der EU haben. Dies gilt auch für Unternehmen in der Schweiz, sofern sie Daten von in der EU wohnhaften Personen verwenden.
Unternehmen müssen KI verantwortungsvoll integrieren und gleichzeitig die sich entwickelnde KI-Regulierung einhalten. Bei der Anpassung an die KI-Gesetzgebung der EU geht es jedoch um mehr als nur um Compliance. Es geht darum, die Wettbewerbsfähigkeit in einer Ära zunehmender Überwachung aufrechtzuerhalten.
Welche Rolle gilt für wen?
Bei der Nutzung von KI-Systemen mit hohem Risiko unterscheidet das EU-KI-Gesetz zwischen verschiedenen Rollen:
- Anbieter/Hersteller: Eine natürliche oder juristische Person, Behörde, Agentur oder sonstige Einheit, die ein KI-System entwickelt und beabsichtigt, es in der EU in Verkehr zu bringen.
- Importeur: Eine natürliche oder juristische Person mit Sitz oder Wohnsitz in der EU, die ein KI-System unter der Marke einer natürlichen oder juristischen Person ausserhalb der EU in den EU-Markt einführt.
- Händler: Eine natürliche oder juristische Person in der Lieferkette, die weder Lieferant noch Importeur ist, aber ein KI-System auf dem EU-Markt verfügbar macht.
- Betreiber: Jede natürliche oder juristische Person, Behörde, Einrichtung oder andere Organisation, die ein KI-System unter ihrer Verantwortung einsetzt, es sei denn, das KI-System wird im Rahmen einer persönlichen, nicht beruflichen Tätigkeit eingesetzt.
- Hybrid: Obwohl es keine rechtliche Definition für diese Rolle im KI-Gesetz der EU gibt, kann eine Organisation mehrere Rollen einnehmen, z. B. wenn sie bestehende KI-Systeme kauft und nutzt, diese aber mit ihren eigenen organisatorischen Daten versorgt. Diese Rolle kann mit unterschiedlichen Verantwortlichkeiten verbunden sein, die im Einzelfall festgelegt werden müssen.
Auswirkungen auf das Unternehmen
- Notwendigkeit der Anpassung von KI-Praktiken an einen strengen Rechtsrahmen
- Entwicklung robuster Datenverwaltungs- und Risikomanagementsysteme
- Vorbereitung auf zusätzliche Kontrollen im Zusammenhang mit neuen Technologien wie generativer KI und Deep Learning
Herausforderungen bei der Einhaltung der EU-KI-Gesetzgebung
Die Einhaltung der EU-KI-Gesetzgebung stellt Unternehmen vor eine Reihe kritischer Herausforderungen:
- Komplexität der Risikoklassifizierung: Die korrekte Einstufung von KI-Systemen in die entsprechende Risikokategorie ist eine der grössten Hürden. So erfordern KI-Systeme mit hohem Risiko detaillierte Bewertungen, Audits und eine kontinuierliche Überwachung. Unternehmen, die mit generischen KI-Modellen oder Generative Adversarial Networks (GANs) arbeiten, sehen sich häufig mit Unklarheiten aufgrund überlappender Klassifizierungen konfrontiert.
- Proaktives Risikomanagement: Die Entwicklung und Implementierung eines umfassenden Risikomanagementsystems kann ressourcenintensiv sein. Organisationen müssen Risiken frühzeitig im KI-Lebenszyklus identifizieren und Schutzmassnahmen zu deren Minimierung ergreifen. Dazu gehören strenge Tests von Trainingsdaten und die Verifizierung von Large Language Models (LLMs).
- Compliance in Teams integrieren: Das Gesetz erfordert eine funktionsübergreifende Zusammenarbeit, weshalb Unternehmen spezielle KI-Compliance-Teams oder -Abteilungen einrichten müssen. Diese Teams müssen juristisches, technisches und betriebliches Fachwissen kombinieren, um die Anforderungen des Gesetzes effektiv umzusetzen.
- Operative Kosten: Die Einhaltung der KI-Gesetzgebung kann insbesondere für kleine und mittlere Unternehmen (KMU) zu erheblichen Kostensteigerungen führen. Zu diesen Kosten gehören Audits, regulatorische Berichterstattung und die Umstrukturierung von Arbeitsabläufen, um den Datenschutzgesetzen und Haftungsbestimmungen zu entsprechen.
- Balance zwischen Innovation und Einhaltung: Die Balance zwischen der Förderung von Innovation und der Einhaltung von Vorschriften bleibt eine ständige Herausforderung. Unternehmen, die generative KI-Modelle für Anwendungen wie die Bilderzeugung oder die Verarbeitung natürlicher Sprache entwickeln, müssen die vom Gesetzgeber gesetzten Grenzen sorgfältig beachten.
Vorbereitung auf die EU-KI-Gesetzgebung
Eine wichtige Voraussetzung ist der Aufbau eines Digital Trust, der die Interessen aller Stakeholder schützt und gesellschaftliche Erwartungen und Werte aufrechterhält.
Um sie auf dem Weg zum Erfolg mit KI zu unterstützen, bietet KPMG Ihnen unter anderem folgende Dienstleistungen an:
-
Bewertung und Bestätigung Ihrer KI-Readiness, z.B. mit unserem EU-KI-Readiness Assessment
-
Stärkung Ihrer Kontrollen und Governance durch Integration und Erweiterung von KI-Kontrollen und Unterstützung bei der Implementierung eines robusten KI-Risikomanagement-Rahmen
-
Stärkung Ihrer KI-Implementierung zur Vermeidung von Schwachstellen durch externe Angriff
-
Unterstützung bei der Identifizierung und Implementierung von KI-Anwendungsfälle
-
Einsatz von KI-Tools zur Stärkung Ihrer KI-Sicherheit
-
Zertifizierung Ihres KI-Managementsystems nach der führenden ISO-42001-Norm, um die Vertrauenswürdigkeit Ihrer KI-Operationen öffentlich zu demonstrieren
-
Schulung Ihrer Teams zum EU-KI-Gesetz und seinen Anforderungen, einschliesslich der Bereitstellung von Best Practices für die Entwicklung ethischer KI
Die nächste Phase der EU-KI-Gesetzgebung ist für den 1. Februar 2025 geplant. Um die Anforderungen der EU-KI-Gesetzgebung zu erfüllen, müssen Unternehmen sicherstellen, dass sie KI-Kompetenz in ihren Teams aufbauen, die Risiken bestehender KI-Systeme bewerten und verbotene Anwendungen stilllegen.
Die Zukunft der KI-Regulierung in Europa
Die Europäische Kommission hat den EU-KI-Gesetzesentwurf als Grundlage für zukünftige globale Standards in der KI-Regulierung positioniert. Prognostizierte Trends umfassen:
- Verstärkte Kontrolle von KI-Systemen mit hohem Risiko: Neue Technologien wie generative KI und Deep Learning werden voraussichtlich einer stärkeren regulatorischen Kontrolle unterliegen.
- Globale Zusammenarbeit: Bemühungen, sich mit anderen Regionen zu koordinieren, um möglicherweise internationale Rahmenbedingungen zu schaffen.
- Fokus auf allgemeine KI-Modelle: Bewältigung der besonderen Herausforderungen bei der Entwicklung und Nutzung großer Sprachmodelle (LLMs) und anderer allgemeiner KI-Modelle.
Für Unternehmen bedeutet frühzeitiges Handeln, diese Trends zu verstehen und ihre KI-Strategien entsprechend anzupassen.
Fazit
Das KI-Gesetz der EU ist ein entscheidender Schritt bei der Gestaltung der Zukunft der künstlichen Intelligenz. Durch die Einführung eines risikobasierten Ansatzes gewährleistet es den Datenschutz, fördert Massnahmen zur Rechenschaftspflicht von KI und schützt die Grundrechte.
Für Unternehmen ist es von entscheidender Bedeutung, das Gesetz zu verstehen und sich darauf vorzubereiten. Dies gewährleistet die Einhaltung der Vorschriften und trägt dazu bei, in einem sich wandelnden KI-Umfeld
Bereit für Compliance und Wettbewerbsvorteile?
Um sich in der Komplexität der EU-KI-Gesetzgebung zurechtzufinden, braucht es fachkundige Beratung und massgeschneiderte Lösungen. Bei KPMG Schweiz bieten wir spezialisierte Unterstützung in den Bereichen Datenschutz, vertrauenswürdige KI-Entwicklung, digitale Innovation und Datenmanagement. Unser Team hilft Ihnen, Ihre KI-Systeme an die regulatorischen Anforderungen anzupassen, Innovationen voranzutreiben und Vertrauen aufzubauen.
Kontaktieren Sie uns noch heute, um zu erfahren, wie unsere Dienstleistungen im Bereich Datenschutz und vertrauenswürdige KI Ihr Unternehmen im sich wandelnden KI-Umfeld voranbringen können.
