Was bedeutet das EU-Gesetz über KI für Schweizer Unternehmen?
Da die künstliche Intelligenz mehr und mehr Aspekte unseres täglichen Lebens beeinflusst, rückt die Ethik im Zusammenhang mit der Nutzung unserer Daten stärker in den Mittelpunkt des Interesses. Neue EU-Rechtsvorschriften sollen einen ethischen Rahmen schaffen, der sicherstellt, dass Unternehmen die Auswirkungen auf Menschen, Betriebe, Umwelt und viele weitere Aspekte unseres Lebens berücksichtigen. Welche Konsequenzen hat das Gesetz, das auch ausserhalb der EU angewandt wird und bei Nichteinhaltung Geldstrafen vorsieht, auf Unternehmen in der Schweiz?
Was ist das Konzept der KI?
Oxford Languages definiert Künstliche Intelligenz (KI) als «die Entwicklung von Computersystemen, die in der Lage sind, Aufgaben zu erfüllen, die normalerweise menschliche Intelligenz erfordern».
Anstelle von menschlicher Intelligenz nutzt KI unter anderem Algorithmen, die aus riesigen Datensätzen Regeln ableiten oder Muster erkennen. Die Algorithmen ermöglichen es, Verhaltensmuster oder -abweichungen zu erkennen, die die Grundlage für automatisierte Entscheidungen bilden können. Die bestehenden und potenziellen Anwendungsmöglichkeiten von KI-generierten Erkenntnissen in der Wirtschaft sind enorm, wie wir wahrscheinlich alle feststellen. Von der Bewertung der Kreditwürdigkeit über die Auswahl bei der Personalrekrutierung bis hin zur Durchführung medizinischer Diagnosen – die Liste ist nahezu endlos. In immer mehr Lebensbereichen werden Menschen durch technische Prozesse bewertet oder werden damit konfrontiert.
Herausforderungen und Risiken der KI?
KI erleichtert die menschliche Existenz in vielerlei Hinsicht. Selbstfahrende Autos, Roboter oder die Spracherkennungssoftware in unseren Smartphones sind bereits Teil unseres Lebens. Die enorme Macht, die der KI zugeschrieben wird, löst jedoch Ängste und Forderungen nach Kontrolle und Transparenz aus. Es stellt sich die Frage, ob, wie und inwieweit ein automatisierter Prozess mit den Erwartungen der Gesellschaft an Ethik und Moral vereinbart ist.
Die Zukunft vorauszusagen ist keine Magie, sondern künstliche Intelligenz.
Wie kann sichergestellt werden, dass ethische Aspekte berücksichtigt werden?
Die Europäische Kommission hat im April 2021 einen Gesetzesvorschlag mit der Bezeichnung «Gesetz über künstliche Intelligenz» erarbeitet. Das Gesetz hat einen extraterritorialen Geltungsbereich, was bedeutet, dass es wahrscheinlich auch auf Schweizer Unternehmen anwendbar sein wird. Es ist der erste europäische Rechtsrahmen für KI-Lösungen, und interessanterweise enthält er einen ethischen Kontext.
Die Resolution zielt darauf ab, einen Rahmen für vertrauenswürdige KI zu schaffen. Sie verlangt, dass KI-Systeme rechtlich, ethisch und technisch robust sind und demokratische Werte, Menschenrechte und die Rechtsstaatlichkeit respektieren.
Die Tatsache, dass rechtliche und technische Anforderungen angesprochen werden, ist natürlich weder neu noch überraschend. Auffallend ist jedoch die Betonung, die auf die geforderten ethischen Kriterien gelegt wird. Die vorgeschlagene KI-Regulierung bezieht sich auf einen vollständigen Rahmen für die Einhaltung ethischer Grundsätze und fordert die Aufstellung von Grundsätzen anstelle von einzelnen Richtlinien. Die folgenden Werte werden explizit angesprochen:
- Achtung der menschlichen Autonomie
- Schadensverhütung
- Fairness
- Erklärbarkeit
Mit anderen Worten: Wenn ein KI-System ein hohes Risiko für die Gesundheit, die Sicherheit oder die Grundrechte natürlicher Personen darstellen könnte, sind seine Anbieter verpflichtet, eine Ex-ante-Konformitätsbewertung durchzuführen.
Diese Bewertung stützt sich auf interne Kontrollen und soll die Einhaltung der EU-Regulierung gewährleisten. Die Anbieter von weniger invasiven KI-Systemen sollen zudem ermutigt werden, diese Anforderungen freiwillig anzuwenden. Zu den Voraussetzungen für den Entwicklungsprozess oder das System selbst gehören u. a. die Einrichtung von Schutzmassnahmen gegen potenzielle Verzerrungen in Datensätzen, die Verwendung angemessener Datenverwaltungs- und -managementsysteme und die Gewährleistung eines akzeptablen Masses an Transparenz. Da die Anforderung darin besteht, das gesamte Gesetz über künstliche Intelligenz einzuhalten, muss auch die Schaffung eines ethischen Rahmens mitberücksichtigt werden.
Wie können Unternehmen die ethische Bereitschaft erreichen?
Dabei sind Effektivität, Machbarkeit und Budget zu berücksichtigen. Nach einem praktikablen Ansatz sollten die von der EU genannten Schlüsselwerte in jeder Phase des Datenlebenszyklus berücksichtigt werden.
Beginnend mit der Erhebung und Beschaffung sollen beispielsweise die folgenden Verpflichtungen eingegangen werden: Keine Ausnutzung persönlicher Schwächen zur Datengewinnung, Anbieten von intuitiven und auswählbaren Formen der Zustimmung und keine Verwendung von «dunklen Mustern».
In der zweiten Phase, der Speicherung und Verwaltung, sollen mindestens die folgenden Grundsätze beachtet werden: Ausreichende Cybersicherheit für alle Formen der Datenspeicherung, Kommunikation von Änderungen in der Datenverwaltung und Transparenz über Datenschutz und -zugang.
Im nächsten Abschnitt, Analyse und Entscheidungsfindung, werden die Logik der verwendeten Modelle erläutert, die Angemessenheit der Algorithmen begründet und Massnahmen zur Beseitigung von Diskriminierungen dargelegt.
Die letzte Phase soll sich mit der Einrichtung eines wirksamen Überwachungssystems befassen, das z. B. die Bewertung der Einhaltung ethischer Standards während des gesamten Datenlebenszyklus auf der Grundlage von Key Performance Indicators (KPIs), die Möglichkeit für Kunden, negatives Feedback zu geben, und die regelmässige Überwachung automatisierter Entscheidungssysteme auf Diskriminierungsaspekte umfasst.
Durch die Berücksichtigung dieser und ähnlicher ethischer Grundsätze und Verpflichtungen sowie deren Gewährleistung und Überwachung während des gesamten Lebenszyklus sollte es möglich sein, die von der EU genannten Werte zu erfüllen, nämlich die Achtung der menschlichen Autonomie, die Vermeidung von Schäden, Fairness und Erklärbarkeit.
Folgen bei Nicht-Erfüllung der ethischen Ansprüche?
Wie bei der DSGVO gelten diese Regeln in bestimmten Fällen auch extraterritorial für Anbieter und Nutzer ausserhalb der EU. Dies bedeutet, dass auch Schweizer Unternehmen zur Kasse gebeten werden könnten. Bei Nichteinhaltung droht eine Geldstrafe von bis zu 30 Millionen Euro oder sechs Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Ganz abgesehen vom moralischen Imperativ ist es also ratsam, die ethischen Anforderungen der EU zu erfüllen, denn sonst könnte Ihre neueste KI-Lösung ausgesprochen teuer werden.
