Künstliche Intelligenz (KI) ist längst keine Zukunftsvision mehr – sie ist Realität. Sie verändert grundlegend, wie Unternehmen arbeiten, Entscheidungen treffen und Mehrwert schaffen.

Von der Optimierung von Produktportfolios, Finanzprozessen bis zur Gewinnung von Erkenntnissen aus komplexen Datensätzen entwickelt sich KI rasch zu einem zentralen Treiber von Innovation und Wettbewerbsfähigkeit in nahezu allen Branchen. 

Mit der zunehmenden Verankerung von KI in Produkten, geschäftskritischen Prozessen und Entscheidungsfindungen müssen Unternehmen jedoch über reine Experimente hinausgehen und den Fokus auf Verlässlichkeit und Vertrauen legen. Die schnelle Einführung von KI‑Anwendungen hat neue operative, ethische und regulatorische Risiken offengelegt. Entsprechend gewinnen Themen wie die Vermeidung von KI‑Bias, eine höhere Modelltransparenz sowie die Einhaltung von regulatorischen Vorgaben und Standards wie dem EU AI Act oder der ISO 42001:2023 stark an Bedeutung. 

Um langfristig resilient und wettbewerbsfähig zu bleiben, müssen Unternehmen sicherstellen, dass KI‑gestützte Produkte/Lösungen und Prozesse zuverlässig, steuerbar und prüfbar sind. Ohne ein wirksames KI‑Risikomanagement und eine fundierte AI Assurance können die Vorteile von KI rasch durch Vertrauensverlust, regulatorische Herausforderungen und Reputationsschäden zunichtegemacht werden. 

Stefan Wälti
Stefan Wälti

Partner, Leiter Assurance Technology

KPMG Switzerland

Von der Einführung von KI zu vertrauenswürdiger Entscheidungsfindung

Der Mehrwert und die transformative Kraft von KI liegt in ihrer Vielseitigkeit. Sie reicht von KI-gestützten Produkten über die Steigerung der operativen Effizienz bis hin zur Gewinnung von Erkenntnissen durch die Analyse grosser und komplexer Datenmengen. Gleichzeitig entwickeln sich KI‑Lösungen und die damit verbundenen Risiken parallel weiter. Unbeabsichtigte Verzerrungen (Bias), mangelnde Transparenz und regulatorische Nichtkonformität sind nur einige der Herausforderungen, mit denen sich Unternehmen auseinandersetzen müssen. 

Eine wirksame KI‑Governance ist daher unerlässlich. Mit Regulierungen wie dem EU AI Act, der die Leitplanken für KI‑Governance in der EU setzt, sowie parallelen Entwicklungen in der Schweiz rund um KI‑Regulierung und digitale Verantwortung, sind Unternehmen gefordert, jetzt zu handeln und ihre Ausrichtung sicherzustellen. 

In der Schweiz zeichnet sich ein vorausschauender Ansatz zur KI‑Regulierung ab – mit einem klaren Fokus auf KI‑Ethik in der Prüfung, Verantwortlichkeit sowie sektorübergreifende KI‑Governance. Um dauerhaft regulatorisch konform zu bleiben, müssen Unternehmen sowohl die schweizerischen Rechtsrahmen als auch die weitergehenden EU-Regulierungen berücksichtigen. 

Der aktueller Stand der KI‑Implementierung

Mehr als 75 % der Unternehmen nutzen bereits aktiv eine Form von KI. Allerdings verfügt bislang kaum eines über ein belastbares Governance‑Rahmenwerk. 
 

Regulatorische Rahmenwerke wie der EU AI Act setzen zwar strenge Standards, doch die Umsetzung und Einhaltung sind nach wie vor uneinheitlich. 
 

Den meisten Unternehmen fehlt die nötige Klarheit, wie KI‑Risiken wirksam zu steuern sind – insbesondere in Bezug auf ethische Nutzung, Datenschutz und Verantwortlichkeiten. 

AI Assurance befindet sich in der Schweiz noch in einem frühen Entwicklungsstadium. Führende Unternehmen beginnen jedoch damit, AI‑Management‑Systeme (AIMS) einzuführen, die regulatorische Anforderungen, technische Validierung und ethische Leitlinien miteinander verbinden.

Zudem erstellen einzelne Unternehmen bereits Attestierungsberichte zu ihren KI‑Lösungen, um gegenüber Stakeholdern transparent aufzuzeigen, dass angemessene Prozesse und Kontrollen etabliert sind.

Unternehmen müssen die Einführung von KI mit einem doppelten Fokus angehen: die Potenziale von KI konsequent zu nutzen und gleichzeitig wirksame Assurance‑Strukturen zu verankern.

Ohne klare Assurance‑Mechanismen fällt es vielen Organisationen schwer, KI für geschäftskritische Entscheidungen einzusetzen und eine langfristige Resilienz sicherzustellen.

AI Assurance – zu Recht eine strategische Priorität?

Was ist AI Assurance?

AI Assurance bezeichnet den strukturierten Prozess zur Bewertung, Überwachung und transparenten Kommunikation der Zuverlässigkeit sowie der regulatorischen Konformität von KI‑Lösungen. Sie geht über klassische KI‑Audits hinaus. Ziel ist es, Vertrauen in KI‑gestützte Prozesse und Entscheidungen zu schaffen, indem der Einsatz von KI konsequent an ethischen und rechtlichen Anforderungen ausgerichtet wird.

Zentrale Vorteile von AI Assurance: 

  • Compliance

    Erfüllung internationaler regulatorischer Anforderungen und Standards (z. B. EU AI Act und ISO/IEC 42001:2023) bei gleichzeitiger Reduzierung von Unsicherheiten in einem sich dynamisch entwickelnden regulatorischen Umfeld.

  • Governance

    Sicherstellung, dass KI innerhalb klar definierter ethischer und operativer Rahmenbedingungen eingesetzt wird – mit eindeutigen Zuständigkeiten, klarer Verantwortlichkeit und Transparenz bei KI‑gestützten Entscheidungen.

  • Riskiskomanagement

    Frühzeitige Identifizierung und Steuerung von KI‑bezogenen Risiken entlang des gesamten Lebenszyklus. Dies unterstützt Unternehmen dabei, potenzielle Probleme präventiv zu adressieren, anstatt erst auf Vorfälle oder Fehlfunktionen reagieren zu müssen.

  • Vertrauen

    Transparente und prüfbare KI‑Prozesse stärken das Vertrauen von Management, Aufsichtsbehörden und weiteren Interessengruppen. Dies ermöglicht eine verantwortungsvolle Skalierung von KI und unterstützt die langfristige Resilienz des Unternehmens.

Gemeinsam bilden diese Vorteile die Grundlage für eine resiliente Entscheidungsfindung und eine nachhaltige Wettbewerbsfähigkeit im KI‑Zeitalter.

Herausforderungen bei der Umsetzung von AI Assurance

Unternehmen in nahezu allen Branchen integrieren KI zunehmend in ihre operativen Abläufe und Produkte. Rund 75 % der Unternehmen geben an, KI bereits aktiv in Bereichen wie Finanzen, IT oder Kundenservice einzusetzen – mit stark steigender Tendenz in den kommenden Jahren. Während KI sich von isolierten Anwendungsfällen hin zu Wertschöpfungs­potenzialen (Value Pools) und zentralen Geschäftsprozessen entwickelt, haben sich entsprechende Assurance‑Praktiken jedoch nicht im gleichen Tempo weiterentwickelt.

Zentrale Herausforderungen sind unter anderem: 

  • Komplexe Standards

    Das Navigieren durch globale Rahmenwerke wie ISO/IEC 42001 sowie durch neue und entstehende KI‑Regulierungen. 

  • Technische Einschränkungen

    Ungenügende Erklärbarkeit von Modellen sowie unzureichende Mechanismen zur Erkennung und Minderung von KI‑Bias. 

  • Kultureller Widerstand

    Schwierigkeiten, verantwortungsvolle KI‑Praktiken gegenüber Zeit‑ oder Kostendruck ausreichend zu priorisieren. 

  • Datenqualität und Bias

    KI mit unverzerrten und repräsentativen Daten zu trainieren bleibt anspruchsvoll, ist jedoch entscheidend.

  • Erklärbarkeit

    Viele KI‑Modelle funktionieren als sogenannte Black Boxes, was Transparenz, Verantwortlichkeit und Fairness erheblich erschwert. 

  • Regulatorische Compliance

    Mit der dynamischen Entwicklung regulatorischer Vorgaben Schritt zu halten, stellt eine anhaltende Herausforderung dar.

Das Fehlen robuster Governance‑Frameworks setzt viele Unternehmen erheblichen Risiken aus – von regulatorischer Nichtkonformität bis hin zu Reputationsschäden. Vor allem aber schränkt es ihre Fähigkeit ein, sich bei geschäftskritischen Entscheidungen mit der nötigen Sicherheit auf KI zu verlassen.

Die Lücke schliessen: Wo wir stehen und wo wir hinmüssen

Diese Lücke zu schliessen ist entscheidend, um über die Zeit hinweg vertrauenswürdige und resiliente KI aufzubauen. Eine wirksame AI Assurance erfordert gezielte Massnahmen, um bestehende Defizite systematisch anzugehen.

Die folgende Übersicht fasst den aktuellen Stand der Praxis zusammen und zeigt empfohlene Vorgehensweisen auf, mit denen Unternehmen den Übergang zu einer verantwortungsvollen und regelkonformen KI‑Nutzung gestalten können:

1. Risikoidentifikation


Aktueller Stand: KI‑spezifische Risiken wie Bias oder Model Drift werden häufig nicht ausreichend berücksichtigt. 

Empfohlener Ansatz: Unternehmen sollten umfassende Rahmenwerke – beispielsweise das KPMG’s Trusted AI framework – einsetzen, um technische, operative und reputations-bezogene Risiken von KI‑Lösungen systematisch zu identifizieren und zu steuern.
 

3. Einbindung der Stakeholder 


Aktueller Stand: Aktivitäten rund um KI‑Governance sind häufig isoliert organisiert, mit begrenzter funktionsübergreifender Zusammenarbeit. 

Empfohlener Ansatz: Förderung einer engen Zusammenarbeit zwischen Data Scientists, IT, Recht, Risk Management und der Geschäftsleitung, um eine abgestimmte und verantwortungsvolle KI‑Governance sicherzustellen.

2. Regulatorische Compliance


Aktueller Stand: Compliance‑Aktivitäten sind oft reaktiv und uneinheitlich, mit deutlichen Unterschieden zwischen einzelnen Ländern. 

Empfohlener Ansatz: KI‑Lösungen sollten von Beginn an proaktiv an relevante globale und lokale regulatorische Anforderungen ausgerichtet werden – sowohl in der Entwicklungs‑ als auch in der Betriebsphase.
 

4. Laufende Überwachung


Aktueller Stand: Viele Unternehmen konzentrieren sich primär auf Kontrollen vor der Einführung von KI‑Systemen, mit nur begrenzter kontinuierlicher Überwachung im laufenden Betrieb. 

Empfohlener Ansatz: Implementierung robuster, kontinuierlicher Überwachungsmechanismen, um Fairness, Transparenz und Wirksamkeit über den gesamten KI‑Lebenszyklus hinweg sicherzustellen.

AI Assurance in geschäftskritischen Plattformen

KI ist zunehmend in Software‑as‑a‑Service‑(SaaS‑) Produkten sowie in geschäftskritischen Plattformen wie ERP‑Systemen integriert. Diese Produkte und Plattformen unterstützen Kundenanforderungen sowie zentrale Prozesse, darunter Finanzberichterstattung, Controlling, Planung und operative Entscheidungsfindung.

Mit der Integration von KI in diese Umgebungen steigen die Anforderungen an Vertrauen, Kontrolle und Transparenz deutlich. Fehler, Verzerrungen (Bias) oder eine eingeschränkte Erklärbarkeit können sich unmittelbar auf finanzielle Ergebnisse, die regulatorische Compliance und Managemententscheidungen auswirken.

AI Assurance unterstützt Unternehmen dabei, sicherzustellen, dass KI‑gestützte Produkte und ERP‑Prozesse verlässlich, prüfbar und mit Governance‑, regulatorischen und Kunden-Anforderungen im Einklang bleiben. Durch die Integration von Assurance‑Mechanismen in bestehende Kontrollumgebungen stärken Unternehmen ihre Resilienz dort, wo sie am wichtigsten ist – im Kern ihrer operativen Tätigkeit.

KPMGs bewährter Ansatz für AI Assurance

Die Schliessung von Lücken in der AI Assurance erfordert gezielte und abgestimmte Massnahmen. Um diese Herausforderungen zu adressieren, bietet KPMG eine bewährte AI‑Assurance‑Methodik.

Der Ansatz fokussiert darauf, AI Assurance in bestehende Governance‑, Risiko‑ und Kontrollumgebungen zu integrieren, anstatt sie als isolierte Einzelinitiative zu behandeln.

Der Weg zur AI Assurance umfasst die folgenden Schritte:

Path to AI assurance
  • Inventarisierung und Risikokategorisierung

    Erfassung sämtlicher KI‑Modelle sowie deren Kategorisierung nach Wirkung, regulatorischer Exponierung und KI‑Modellrisiko.
     

  • Etablierung von Governance‑Frameworks

    Aufbau einer ethischen und regulatorisch abgestimmten KI‑Governance auf Basis international anerkannter Standards.

  • Durchführung von Gap‑Analysen

    Bewertung der Lösungen anhand relevanter Benchmarks (z. B. ISO/IEC 42001:2023), um Schwachstellen in den Bereichen Fairness, Transparenz und Datenschutz zu identifizieren.

  • Automatisiertes Monitoring

    Implementierung von Echtzeit‑Kontrollen zur Überwachung der Modellgenauigkeit, zur Erkennung von Modell‑Drift sowie zur Identifikation von Transparenz‑ oder Erklärbarkeitslücken.

  • Datenschutz und Datensicherheit

    Sicherstellung, dass sämtliche Trainings‑ und Betriebsdaten den geltenden Datenschutzanforderungen entsprechen, sowie Minimierung der Anfälligkeit für Missbrauch und unbefugten Zugriff.

  • Kontinuierliche Überwachung

    Pflege aktueller KI‑Lösungsinventare und laufende Überwachung der Compliance über den gesamten KI‑Lebenszyklus hinweg.
     

  • KI‑Schulungen für Mitarbeitende

    Aufbau interner Kompetenzen in den Bereichen KI‑Compliance, Ethik und KI‑Risikomanagement über alle relevanten Funktionen hinweg.
     

  • Unabhängige KI‑Audits

    Beauftragung externer Prüfer mit unabhängigen Bewertungen zur Nachweisführung der regulatorischen Konformität gegenüber Stakeholdern.
     

Wie verankern Unternehmen verantwortungsvolle KI in alltäglichen Entscheidungen?

AI Assurance geht über reine Compliance hinaus. Sie unterstützt dabei, klare Rollen, konsistente Prozesse und eindeutige Verantwortlichkeiten in der täglichen Nutzung von KI zu etablieren.

Praktische Massnahmen umfassen unter anderem:

  • Investitionen in Kompetenzen

    Aufbau von Fähigkeiten in den Bereichen KI‑Governance, Ethik und Risikomanagement in allen relevanten Teams.

  • Transparente Kommunikation

    Klare Erläuterung, wie KI‑Lösungen gesteuert, überwacht und abgesichert werden.

  • Zusammenarbeit

    Enge Abstimmung zwischen Fachbereichen, Technologie, Risk‑ und Compliance‑Funktionen sicherstellen.

Vertrauen in KI stärken – für bessere Entscheidungen

AI Assurance ermöglicht es Unternehmen, sich auf KI zu verlassen, wenn es am meisten darauf ankommt. Sie schafft Vertrauen in KI‑gestützte Produkte und Prozesse, und das auch in komplexen und stark regulierten Umgebungen.

Durch die Stärkung von Vertrauen und Kontrolle unterstützt AI Assurance die langfristige Resilienz und hilft Unternehmen, wettbewerbsfähig zu bleiben, während KI zunehmend in zentrale Geschäftsprozesse und kundenorientierten Produkten integriert wird.

Machen Sie Ihre KI vertrauenswürdig und resilient

Wir unterstützen Unternehmen dabei, zu beurteilen, wo AI Assurance erforderlich ist, Governance‑Strukturen zu stärken und AI Assurance in bestehende Kontrollumgebungen zu integrieren. 

KPMG gehört weltweit zu den ersten Unternehmen, die nach ISO/IEC 42001 für KI‑Managementsysteme zertifiziert wurden. Damit unterstreichen wir unsere führende Rolle bei der Unterstützung einer vertrauenswürdigen und resilienten KI‑Nutzung.

Ihre Ansprechperson

Stefan Wälti
Stefan Wälti

Partner, Leiter Assurance Technology

KPMG Switzerland

Verwandte Artikel und weitere Informationen

Bleiben Sie agil, wettbewerbsfähig und nachhaltig – mit unserer Expertise in Prozessdesign, internen Kontrollen und Assurance‑Technologien.

Weiterlesen

Wir unterstützen Drittanbieter von Dienstleistungen bei der Erlangung von ISAE‑Berichten und helfen ihnen, Kontrolle und Transparenz in einem dynamischen und komplexen Umfeld sicherzustellen.

Weiterlesen