KI-Expertin Sabine Köszegi hat in Brüssel die Ethikrichtlinie für Europa mitentwickelt, arbeitet für die UNESCO und forscht zum Thema Auswirkungen von Robotik und KI auf Arbeit, Organisationen und Gesellschaft. Im Rahmen unserer Veranstaltungsreihe Ladies‘ Talk gab die Professorin für Arbeitswissenschaft und Organisation an der TU Wien einen spannenden Einblick in das Potenzial, aber auch die Risiken von KI.
Sie beschäftigen sich intensiv mit der Entwicklung und den Auswirkungen von Künstlicher Intelligenz. Der Begriff KI ist in aller Munde, aber was ist KI eigentlich und wo hat sie ihren Ursprung?
Wir sollten eigentlich nicht von künstlicher Intelligenz sprechen. Der Begriff verleitet uns dazu, zu glauben, dass Maschinen die Welt so verstehen können, wie wir sie verstehen. Aber die Prozesse der Wahrnehmung und die Verarbeitung von Information sind grundverschieden. Während wir Menschen „Sense-Maker“ sind – uns treibt die Frage nach dem „Warum“, wir haben Emotionen und beurteilen die Welt um uns herum nach Dimensionen wie gut und schlecht, schön und hässlich und vielem mehr – sind KI-Systeme reine Rechenmaschinen ohne eigenen inneren Antrieb, ohne Emotion und ohne die Fähigkeit, etwas gänzlich Neues zu schaffen. Algorithmische Systeme halten uns aber einen Spiegel vor: Sie analysieren Muster der realen Welt in den Daten, die wir digitalisiert haben, und zeigen damit recht unmissverständlich, was in unserer Gesellschaft vor sich geht.
Wie weit sind wir heute von dieser Intelligenz entfernt?
Die Geschichte der KI geht bis in die 1950er Jahre zurück. Damals stellte sich Alan Turing die Frage, ob wir Maschinen erzeugen könnten, die wie unser Gehirn funktionieren und uns beim Denken unterstützen können. Aber wir sind noch weit entfernt von einer Intelligenz, die unserer menschlichen Intelligenz nahekommt. Und dennoch sind die Leistungen von state-of-the-art KI-Systemen sehr beachtlich und erreichen oder übertreffen bei spezifischen Aufgaben die Leistungen von Menschen. Deshalb ist KI-Technologie so spannend, weil wir sie dort einsetzen können, wo wir an unsere Grenzen kommen. Wenn wir KI-Systeme sorgsam entwickeln, mit guten Daten trainieren und achtsam einsetzen, können sie von enormem Nutzen sein. Allerdings gibt es in der Praxis auch Beispiele, in denen der Einsatz von KI problematisch ist, wenn diese Grundsätze nicht beachtet werden.
Können Sie uns ein konkretes Beispiel für den Einsatz von KI geben?
Ein gutes Beispiel sind Recruiting-KIs wie sie auch in Österreich im Einsatz sind. Die Aufgabe, die wir der KI stellen ist: „Finde mir den am besten geeigneten Mitarbeiter.“ Als erstes muss man überlegen, was macht einen guten Mitarbeiter überhaupt aus – Loyalität, Erfahrung, Motivation etc. Diese Dimensionen werden in der Modellbildung festgelegt. Darüber hinaus muss man der KI ein Ziel geben, wie sollen diese Faktoren bei der Optimierung berücksichtigt werden.
Natürlich könnte man es aber auch umgekehrt angehen: Man könnte der KI die Daten der besten und schlechtesten Mitarbeiter:innen geben – das Werturteil der Menschen ist auch in diesem Fall Voraussetzung – und die KI errechnet Muster, die diese beiden Gruppen unterscheiden. Das Problem ist, dass der errechnete Algorithmus für uns Menschen nicht nachvollziehbar ist. Wir wissen nicht, wie der Algorithmus die Klassifikation in gut und schlecht vornimmt und müssten uns vollständig auf die KI verlassen.
Das bedeutet im Umkehrschluss, dass KI-Systeme nicht objektiv und neutral sind, richtig?
Genau. KI-Systeme sind nicht objektiv und neutral, sondern reproduzieren vorweggenommene soziale, moralische und ethische Werturteile. Um im Beispiel zu bleiben: Die Entscheidungen, die Recruiter:innen im Einzelfall treffen, werden durch die Modellbildung vorweggenommen. Im Big Picture bedeutet das, dass wir die Einzelentscheidung ein Stück weit den KI-Entwickler:innen und Modellbildner:innen in die Hand geben, die diese KI-Algorithmen trainieren.
Das Problem kann aber auch an nicht repräsentativen Daten liegen. Wenn beispielsweise bei medizinischer Diagnosis überwiegend Daten von männlichen Patienten vorliegen, wird der Algorithmus auf diese eine Gruppe optimieren, aber andere Personengruppen, Frauen und Kinder könnten damit völlig falsche Diagnosen oder ungeeignete Therapien bekommen.
Wenn wir uns die Zukunft der KI ansehen, vor welchen Herausforderungen werden wir stehen?
Eine der zentralen Fragen ist natürlich, welche Rolle der Mensch künftig in der Arbeitswelt haben soll. Hier beobachten wir zwei Zugänge: Der eine hat verkürzt gesagt zum Ziel, den Menschen zu ersetzen. Die Vorstellung dahinter ist, dass perfekte Maschinen im Arbeitsprozess fehlerhafte, langsame Menschen ersetzen und damit die Effizienz steigt. Hier profitieren nur wenige vom Einsatz der KI.
Dem gegenüber steht ein anderes Bild, nämlich das Bild der Mensch-Maschine-Symbiose. Hier gehen wir von der Fragestellung aus, für welche Aufgaben wünschen wir uns maschinelle Unterstützung? Ziel ist hier nicht, den Menschen zu ersetzen, sondern seine Fähigkeiten, Leistungen und Kompetenzen mithilfe von KI zu steigern. Dieser vermeintlich kleine Unterschied im Design-Ansatz hat allerdings große Auswirkungen auf die Selbstbestimmtheit, Selbstwirksamkeit und Kompetenzen von Menschen im Arbeitsprozess.
Als Gesellschaft müssen wir uns die Frage stellen, in welche Richtung wir gehen wollen. Es liegt in unserer Hand.
