KI im Finanzsektor: Warum ein belastbarer KI-Risikomanagementrahmen jetzt entscheidend ist

Künstliche Intelligenz hat sich im Finanzsektor von einem Innovationsthema zu einem geschäftskritischen IKT-Baustein entwickelt. KI-Systeme unterstützen Kreditprozesse, Betrugserkennung, Kundenservice, Dokumentenanalyse, Softwareentwicklung, Risikomodellierung und interne Kontrollprozesse. Neben kunden- und risikobezogenen Anwendungsfällen gewinnt KI auch in internen Finanzprozessen an Bedeutung, beispielsweise bei automatisierten Buchungsprozeduren und Kontenabgleichen. 

KI als reguliertes IKT-Asset: Aufseher schauen genauer hin 

Mit dieser operativen Durchdringung steigen die IKT-Risiken: Datenvergiftung, Prompt Injection, Halluzinationen, Modellmanipulation, unzureichende Nachvollziehbarkeit, Cloud-Konzentrationsrisiken und Drittparteienabhängigkeiten werden zu konkreten Governance- und Resilienzthemen. Zugleich rückt KI zunehmend in den Fokus der Aufsicht, da ihr Einsatz unmittelbare Auswirkungen auf Risikosteuerung, operationelle Resilienz, und Verbraucherschutz haben kann. 

Der zentrale Perspektivwechsel lautet: KI ist kein Sonderfall, sondern ein IKT-Asset mit besonderen Risikoeigenschaften. Finanzunternehmen und IT-Dienstleister müssen Modelle, Trainingsdaten, Prompts, APIs, Vektordatenbanken, Cloud-Services, Modellanbieter und Monitoring-Werkzeuge konsequent in ihre bestehende IKT-Governance einbinden. 

Die BaFin-Orientierungshilfe zu IKT-Risiken beim Einsatz von KI bestätigt diese Einordnung ausdrücklich: Der dort verwendete Begriff „KI-System“ wird als Kombination von IKT-Assets und IKT-Infrastruktur verstanden; KI-Systeme dienen – wie IKT-Systeme im Allgemeinen – den Geschäftsprozessen. Entscheidend ist daher nicht nur das Modell selbst, sondern seine Einbindung in Prozesse, Datenflüsse, Infrastruktur, Schnittstellen und Betriebsumgebung. Die Orientierungshilfe betont zudem, dass spezifische IKT-Risiken nicht primär aus der fachlichen Verortung entlang der Wertschöpfungskette entstehen, sondern aus der Einbindung des KI-Systems in die IKT-Landschaft und entlang des KI-Lebenszyklus zu betrachten sind. 

Zielbild: KI-Risikomanagement als Erweiterung von DORA 

Ein belastbarer KI-Risikomanagementrahmen beginnt mit einer klaren KI-Governance: Hierzu sind Verantwortlichkeiten, Managementeinbindung, Rollenmodell, Risikoappetit und Entscheidungswege eindeutig zu definieren. Darauf aufbauend benötigen Finanzunternehmen und IT-Dienstleister im Finanzsektor ein vollständiges KI-Inventar über eingesetzte Systeme, Modelle, Anbieter, Datenflüsse und unterstützte Geschäftsprozesse sowie eine Risikotaxonomie, die Governance-, Daten-, Modell-, Cyber-, Betriebs- und Drittparteienrisiken systematisch erfasst. 

Dies entspricht dem Leitbild der BaFin-Orientierungshilfe: KI-Systeme sollen innerhalb des bestehenden IKT-Risikomanagementrahmens berücksichtigt werden. Die BaFin verweist dabei insbesondere auf Governance und Organisation, Identifizierung, Schutz und Prävention, Erkennung, Reaktion und Wiederherstellung, Lernprozesse sowie Kommunikation als zentrale Bestandteile des DORA-Rahmens. Für betroffene Verantwortungsträger bedeutet dies: KI-Governance sollte nicht als paralleles Sonderregime aufgebaut werden, sondern als prüfbare Erweiterung des bestehenden DORA- und IKT-Risikomanagements. 

Banken, Kapitalverwaltungsgesellschaften, Versicherer und andere Finanzunternehmen müssen die Sicherheit und Resilienz eines KI-Systems über den gesamten KI-Lebenszyklus hinweg (Beschaffung, Entwicklung, Test, Deployment, Betrieb und Stilllegung) kontrolliert steuern. Besondere Bedeutung haben KI-spezifische Sicherheitsmaßnahmen gegen Prompt Injection, Data Poisoning, Model Extraction, Adversarial Attacks und unautorisierte Zugriffsmöglichkeiten sowie ein adäquates Drittparteienmanagement für Cloud-, Modell-, Plattform-, Open-Source- und Unterauftragnehmerabhängigkeiten. Ergänzend müssen sie KI-bezogene Ereignisse in Monitoring und IKT-Vorfallmanagement integrieren und Governance, Kontrollen, Dokumentation sowie Wirksamkeit regelmäßig kontrollieren. 

Trotz Auslagerung: Finanzunternehmen als Kunden des IT-Dienstleisters verantworten Angemessenheit und Wirksamkeit 

Ein KI-Risikomanagementrahmen ist nur belastbar, wenn er prüfbar dokumentiert und für Kunden nachvollziehbar nachgewiesen ist. 

Gerade Finanzunternehmen lagern KI-nahe Kontrollen, Datenverarbeitungen, Cloud-Plattformen, Modellbetrieb oder Sicherheitsfunktionen zunehmend an IT-Dienstleister aus, bleiben regulatorisch aber für die Angemessenheit und Wirksamkeit der ausgelagerten Kontrollen verantwortlich. Sie benötigen daher Kontrollsicherheit darüber, dass KI-spezifische Risiken beim Dienstleister wirksam gesteuert werden – etwa hinsichtlich Governance, Zugriffsschutz, Datenqualität, Modelländerungen, Monitoring, Incident Management und Drittparteienabhängigkeiten. 

Die BaFin-Orientierungshilfe unterstreicht (und auch vergangenen Veröffentlichungen folgend) die Bedeutung des IKT-Drittparteienrisikos bei KI, insbesondere bei Cloud-, Modell- und Plattformabhängigkeiten. Bei KI-Anwendungen, die kritische oder wichtige Funktionen unterstützen, sind Service Level Agreements, Sicherheitsvereinbarungen, Unterauftragnehmertransparenz sowie lückenlose Audit- und Kontrollrechte besonders relevant. Für IT-Dienstleister entsteht daraus die Chance, mit strukturierten Kontrollnachweisen nach IDW PS 951 oder ISAE 3402 Vertrauen zu schaffen und den Nachweis gegenüber regulierten Kunden zu erleichtern. 

Baker Tilly unterstützt IT-Dienstleister und Finanzunternehmen dabei, diese Nachweisfähigkeit strukturiert aufzubauen. Unser Ansatz knüpft dabei an die jeweilige Rolle im KI-Ökosystem an: IT-Dienstleister benötigen kontrollfähige Prozesse, Dokumentationen und unabhängige Nachweise – etwa im Rahmen von IDW PS 951 oder ISAE 3402 –, während Software-Dienstleister rechnungslegungsrelevanter Anwendungen zusätzlich die Anforderungen an nachvollziehbare, getestete und verlässlich verarbeitende Software (buchhaltungsrelevante Programmfunktionen) berücksichtigen müssen. Wenn KI-Funktionen in Buchungs-, Bewertungs-, Melde-, Abstimmungs- oder Kontrollprozesse eingebunden werden, kann Baker Tilly bei der prüfungsnahen Strukturierung der Softwarekontrollen und Dokumentation mit Anknüpfung an IDW PS 880 unterstützen. Für Software-Dienstleister rechnungslegungsrelevanter Anwendungen kann eine Softwareprüfung nach IDW PS 880 einen belastbaren Vertrauens- und Qualitätsnachweis schaffen: Sie bestätigt, dass Programmfunktionen, Entwicklungs- und Freigabeprozesse sowie Kontrollen geeignet sind, eine ordnungsmäßige Verarbeitung von Geschäftsvorfällen zu unterstützen. Dies ist insbesondere relevant, wenn vorgelagerte Prozesssysteme als Vorsysteme zur Finanzbuchhaltung wirken. 

Für Finanzunternehmen selbst – etwa Banken, Kapitalverwaltungsgesellschaften und Versicherungen – liegt der Schwerpunkt auf der Einbettung konkreter KI- und Agenten-Anwendungsfälle in den bestehenden IKT- und DORA-Risikomanagementrahmen. Das betrifft insbesondere Fachbereiche, die KI-Agenten bereits einsetzen oder deren Nutzung planen, da agentische Systeme eigenständig Informationen abrufen, Entscheidungen vorbereiten, Prozessschritte auslösen oder mehrere Tools orchestrieren können. Daraus ergeben sich neue Anforderungen an Rollen- und Berechtigungskonzepte, Protokollierung, Human Oversight, Datenklassifizierung, Modell- und Prompt-Governance sowie Kontroll- und Eskalationsmechanismen. Baker Tilly unterstützt hier durch Workshops zum KI-Risikomanagementrahmen, in denen Einsatzszenarien, Risiken, Kontrollanforderungen und regulatorische Anknüpfungspunkte strukturiert bewertet und in ein umsetzbares Zielbild überführt werden. 

Fazit 

KI im Finanzsektor ist regulatorisch kein Experimentierfeld mehr. Die zentrale Erwartung lautet: Verantwortungsträger müssen KI-Systeme in das bestehende DORA- und IKT-Risikomanagement einbetten. 

Daraus ergeben sich konkrete Handlungsfelder für unterschiedliche Adressaten: Finanzunternehmen und Fachbereiche müssen KI- und Agenten-Anwendungsfälle kontrolliert in ihren DORA- und IKT-Risikomanagementrahmen integrieren; IT-Dienstleister können durch belastbare Kontrollnachweise nach IDW PS 951 oder ISAE 3402 Vertrauen bei regulierten Kunden schaffen; Software-Dienstleister rechnungslegungsrelevanter Anwendungen sollten zusätzlich die Nachweisfähigkeit ihrer Softwarekontrollen mit Bezug zu IDW PS 880 sicherstellen. Entscheidend ist, KI-Risikomanagement nicht als Zusatzbürokratie zu verstehen, sondern als Voraussetzung für skalierbare, sichere und aufsichtsrobuste KI-Nutzung.