Wenn Innovation auf Regulierung trifft Wenn Innovation auf Regulierung trifft Wenn Innovation auf Regulierung trifft

Künstliche Intelligenz (KI) hat in den vergangenen Jahren enorm an Bedeutung gewonnen. Sie ist mittlerweile in fast allen Branchen zu finden und zu einem wichtigen Instrument für Unternehmen geworden, um ihre Produktivität und Effizienz zu steigern.  Besonders generative KI bekommt aktuell viel Aufmerksamkeit, insbesondere seit dem Aufkommen von innovativen Modellen wie ChatGPT, DALL-E 2 oder VALL-E. Diese ermöglichen es, komplexe kreative Aufgaben zu erledigen, wie zum Beispiel das Schreiben von Texten, das Erstellen von Bildern oder das Komponieren von Musik. 

Bei generativer KI handelt es sich um Algorithmen, die in der Lage sind, neuartige Daten oder Inhalte zu erstellen. Häufig werden dazu künstliche neuronale Netze eingesetzt, die in einem vorgelagerten Trainingsprozess auf einem sehr großen Trainingskorpus angelernt werden, um komplexe Muster in Daten zu erkennen. Darauf basierend treffen die Algorithmen dann Vorhersagen  - beispielsweise wie das bestgeeignete nächste Wort beim Schreiben eines Textes lautet oder welche passenden Bilder es für einen bestimmten Titel gibt. Das klingt vielversprechend und ist für viele Anwendungsfälle auch tatsächlich äußerst nützlich. Doch die Verwendung bringt auch neue Probleme und Fragestellungen in Bezug auf rechtliche Aspekte und Compliance mit sich.

Eine der größten Herausforderungen im Zusammenhang mit generativen KI-Modellen ist der Schutz des geistigen Eigentums, insbesondere des Urheberrechts. Da generative KI in der Lage ist, Inhalte auf der Grundlage von bereits vorhandenen Werken zu erstellen, besteht das Risiko, dass diese neuen Inhalte gegen das Urheberrecht verstoßen. Wenn generative KI also Inhalte schafft, die denen von bestimmten Autor:innen oder Künstler:innen ähneln  - wer besitzt dann die Urheberrechte an diesen generierten Werken? Ebenso schwierig ist es, festzustellen, wer für eine Urheberrechtsverletzung verantwortlich ist, wenn ein generatives KI-Modell beteiligt war, und sowohl Quellen als auch die ursprüngliche Autorenschaft in der Regel nicht nachvollziehbar sind. Es gibt aktuell eine sehr dynamische Diskussion darüber, ob das geltende Urheberrecht derzeit überhaupt in der Lage ist, entstehende Rechtsfragen und Konflikte erfolgreich zu regeln.

Auch der Datenschutz stellt eine große Herausforderung dar, denn generative KI-Modelle benötigen große Mengen an Daten, um ihre Fähigkeiten zu verbessern. In vielen Fällen kommen diese Daten von Personen, die gar nicht wissen, dass sie Teil eines Trainingsdatensatzes sind. Dies kann zu Datenschutzproblemen führen, da personenbezogene Daten möglicherweise ohne Zustimmung der Betroffenen verwendet werden. Wenn diese Daten genutzt werden, um neue Inhalte zu generieren, ist es auch schwierig zu sagen, wer für die Verwendung der Daten und die Erstellung des Inhalts verantwortlich ist. In solchen Fällen muss die Einhaltung der Datenschutzbestimmungen sichergestellt werden, um die Rechte der Betroffenen zu schützen. 

Die oben genannten und viele weitere Herausforderungen werden auf nationaler und internationaler Ebene kontrovers diskutiert. Einer der interessantesten regulatorischen Maßnahmen für künstliche Intelligenz ist der Artificial Intelligence (AI) Act der Europäischen Kommission, das erste AI-Gesetz, das von einem großen exekutiven Organ verabschiedet wird. Dies zeigt, dass bei diesem Thema ein schnelles Handeln dringend erforderlich ist.

Die Einhaltung von Compliance-Regeln ist jedoch nicht nur eine rechtliche Angelegenheit. In einigen Branchen, wie beispielsweise der Finanzdienstleistungsbranche, unterliegen Unternehmen auch strengen Vorschriften und Regulierungen zu Transparenz, Datensicherheit und Verbraucherschutz, in denen die Verwendung von generativer KI einschränkt werden kann. Zudem müssen Unternehmen sicherstellen, dass ihre generativen KI-Modelle, genauso wie alle anderen Algorithmen, ethisch und fair sind. 

Unternehmen, die generative KI einsetzen, sollten sorgfältig überlegen, wie sie die von ihrer KI generierten Inhalte prüfen und sicherstellen können, dass diese allen geltenden Compliance-Vorschriften und Gesetzen entsprechen. Die vielfältigen Herausforderungen im Hinblick auf Compliance und Ethik, die der Einsatz generativer KI mit sich bringt, sollten ernst genommen und passende Maßnahmen ergriffen werden, die Verstößen vorbeugen und sie vermeiden  - sodass diese keine fatalen Folgen für das Unternehmen haben können.

Um die Risiken zu minimieren und ein effektives Management von KI-Lösungen sicherzustellen, haben wir das "AI in Control" Framework entwickelt. Das Framework befasst sich mit dem Management von Risiken und der Kontrolle von KI-Lösungen entlang der Bereiche Unternehmen, Lösung & Daten, Technologie und Projekt. Ergänzend dazu bieten wir technisches Know-how und Analyse-Tools an, die in bestehende Systemumgebungen integriert werden können, um eine umfassende Steuerung und Kontrolle von KI-Lösungen zu ermöglichen. Wir verfügen zudem über ein Netzwerk von KI-Expert:innen, die Kunden dabei unterstützen, ein auf ihre Anforderungen zugeschnittenes Framework zu konzipieren und zu implementieren. Dadurch ermöglichen wir es unseren Kunden, ihre spezifischen Herausforderungen anzugehen und ihre individuellen KI-Lösungen transparent und nachvollziehbar zu gestalten.