Generative KI verändert die Modellvalidierung im Banking

Banken setzen zunehmend auf generative künstliche Intelligenz (Gen AI), um Prozesse zu beschleunigen, Entscheidungen zu unterstützen und komplexe Informationen aufzubereiten. Das führt zu neuen Risiken, die etablierte Validierungsprozesse an ihre Grenzen bringen. Unser englischsprachiges Whitepaper „Validation of Generative AI Models in the Banking Sector“ zeigt, wie Banken das Modellrisiko weiterentwickeln sollten und welche zusätzlichen Prüf- und Governance-Mechanismen nötig werden, um Gen AI sicherer, kontrollierter und regulatorisch belastbarer einzusetzen.

Gen AI liefert nicht nur zahlenbasierte Vorhersagen, sondern erzeugt Texte, Empfehlungen und komplexe Ableitungen. Dadurch verschieben und verändern sich Risikoprofile. Banken sollten verstehen, welche neuen Risiken Gen AI schafft, wie sich bestehende Risiken verändern und welche adäquaten Kontroll- und Überwachungsmechanismen jetzt notwendig sind.

Warum verschiebt sich das Risikoprofil mit Gen AI-Modellen?

Gen AI-Modelle sind wenig transparent und können verzerrte, unvollständige oder schlicht falsche Inhalte erzeugen. Dies birgt beispielsweise operative, regulatorische und reputationsbezogene Risiken. Anders als traditionelle Modelle sind Gen AI-Systeme weniger deterministisch, wodurch Qualitätskontrollen anspruchsvoller werden. Die Validierung muss die Wahrscheinlichkeit von Halluzinationen, Bias und fehlerhaften Schlussfolgerungen systematisch berücksichtigen – unabhängig davon, wie überzeugend die Ergebnisse erscheinen.

Welche regulatorischen Anforderungen spielen für Gen AI-Governance eine Rolle?

Gesetzgeber und Aufsichtsbehörden verschärfen die Erwartungen an Transparenz und Kontrolle. Vorgaben wie der EU AI Act, das AI Framework vom US-amerikanischen National Institute of Standards and Technology (NIST) oder die aufsichtsrechtliche Leitlinie SR 11-7 der US-Notenbank verlangen nachvollziehbare Entscheidungen, klare Verantwortlichkeiten und eine kontinuierliche Überwachung – insbesondere bei hochriskanten Anwendungsfällen wie Kreditvergabe, Compliance-Analysen oder Risikobewertungen. Für Banken bedeutet das: Gen AI sollte nicht nur leistungsfähig, sondern auch dokumentiert, erklärbar und von Dritten überprüfbar sein.

Bereit für ein Gespräch? Kontaktieren Sie uns

auto_stories

So können Banken Gen AI sicher, transparent und regulatorisch belastbar in ihre Modelllandschaften integrieren

Jetzt herunterladen

Wie sollte Gen AI-Validierung weiterentwickelt werden?

Klassische Validierungsansätze greifen für Gen AI zu kurz. Moderne Ansätze sollten architektur- und nutzungsabhängig sein. Dazu gehören:

Tests auf Halluzinationen und systematische Verzerrungen
Überprüfen der Qualität von Eingaben und Ausgaben
Analyse von Sicherheitslücken und Prompt-Stabilität
Bewerten agentischer Systeme und dynamischer Antwortketten
Prüfen von Retrieval-basierten Architekturen (engl.: Retrieval Augmented Generation, kurz RAG)

Damit verlagert sich der Fokus der Validierung auf ein stärker prozessorientiertes und kontinuierliches Vorgehen, das technische, fachliche und regulatorische Perspektiven integriert.

Wie unterstützt KPMG Banken bei der Gen AI-Validierung?

Das Whitepaper zeigt, wie Gen AI systematisch in unser bewährtes Modellvalidierungsframework eingebettet werden kann. Es beschreibt die Analyse des Modellkonzepts, die Überprüfung der technischen Umsetzung, die Bewertung von Eingabe- und Ausgabequalität sowie die Erstellung belastbarer Evidenzen für regulatorische Prüfungen. Die Publikation bietet Banken einen praxisnahen Leitfaden, wie sich Gen AI kontrolliert, zukunftssicher und regelkonform betreiben lässt – von der Implementierung über die Überwachung bis zur Dokumentation.