Erste Regulierung der KI im EU-Parlament angenommen

Am 14. Juni nahm das EU-Parlament die Verhandlungen zum KI-Gesetz auf. Ziel ist es, bis Ende des Jahres mit den EU-Mitgliedstaaten eine Einigung zu finden. Die Regelungen des KI-Gesetzes würden dann ab 2026 anwendbar sein.

Im vorliegenden Rechtsentwurf wird empfohlen, dass KI-Systeme, je nach dem Risiko, das sie für die Nutzer:innen darstellen, analysiert und eingestuft werden. Die verschiedenen Risikostufen unterliegen mehr oder weniger Regulierung.

• Unannehmbares Risiko: Hierunter fallen KI-Systeme, die als Bedrohung eingestuft werden können. Solche Systeme sind gemäß dem jetzigen Entwurf (mit Ausnahme nachträglicher biometrischer Fernidentifizierung bei schweren Straftaten) verboten, z. B.:
  • kognitive Verhaltensmanipulation von Personen oder bestimmten gefährdeten Gruppen, zum Beispiel sprachgesteuertes Spielzeug, das gefährliches Verhalten bei Kindern fördert;
  • Soziales Scoring: Klassifizierung von Menschen auf der Grundlage von Verhalten, sozioökonomischem Status und persönlichen Merkmalen;
  • biometrische Echtzeit-Fernidentifizierungssystemen, zum Beispiel Gesichtserkennung.
• Hochrisiko KI-Systeme: Hierunter falls KI-Systeme, die ein hohes Risiko für die Gesundheit und Sicherheit oder für die Grundrechte von natürlichen Personen haben können. KI-Hochrisikosysteme haben bevor diese in Verwendung kommen und auch während des gesamten Lebenszyklus weitreichende Überwachungs- und Bewertungsauflagen zu erfüllen.
• Generative KI: Hierunter fallen unterschiedliche Chatbots bis ChatGPT, welche zusätzliche Transparenzanforderungen erfüllen müssen.
• Begrenztes Risiko: Hierbei handelt es sich im Wesentlichen um Kennzeichnungsanforderungen, sodass der Nutzer selbst entscheiden kann (wissentlich), ob und wie er mit KI interagieren will. Dies gilt insbesondere für KI-manipulierte Bild-, Audio- und Videoinhalte.

Weitere Details zum KI-Gesetz erhalten Sie hier: KI-Gesetz: erste Regulierung der künstlichen Intelligenz