Wirtschaftsprüfer ✓Rechtsanwälte ✓ Steuerberater ✓ und Unternehmensberater ✓: Vier Perspektiven. Eine Lösung. …
Wirtschaftsprüfung und prüfungsnahe Beratung von Unternehmen ✓ Erfahrene Prüfer ✓ Exzellente Beratung ✓ …
Rechtsberatung für Unternehmen ✓ Erfahrene Rechtsanwälte ✓ Exzellente juristische Beratung ✓ Maßgeschneiderte …
Steuerberatung für Unternehmen und Familienunternehmen ✓ Erfahrene Steuerberater ✓ Exzellente Beratung ✓ …
Unternehmensberatung für Unternehmen ✓ Erfahrene Consultants ✓ Exzellente Beratung ✓ Maßgeschneiderte Lösungen » …
Pillar 2: Kürzere Abgabefristen ab dem zweiten Anwendungsjahr
Baker Tilly berät Enerix bei der Übernahme durch MVV
Einzelunternehmen verkaufen: Die GmbH als Weg zum Share Deal
Baker Tilly auf der Structured FINANCE 2026: Im Dialog über Finanzierungslösungen
Bafin veröffentlicht WpI MaRisk: Neuer Aufsichtsrahmen für kleine und mittlere Wertpapierinstitute
EmpCo-Richtlinie: Ab September gelten neue Anforderungen an Umweltwerbung
Gescheiterte Zustellung der Kündigung: Keine erneute Betriebsratsanhörung erforderlich
13. Deutscher Vergabetag des DVNW: „Perfekte KI-Angebote“ im Realitätstest
Kündigungsschutz für Geschäftsführer: BAG schafft Klarheit zur Reihenfolge von Abberufung und Kündigung
IT-Kontrollen im Ernstfall: Was die PHP-Sicherheitslücke für den Jahresabschluss bedeutet
IT-Sicherheit für Krankenkassen: § 392 SGB V, KRITIS und NIS-2
Neuer C5-Standard: Anforderungen und Änderungen für Cloud-Anbieter
Branchenübergreifende Expertise für individuelle Lösungen ✓ Unsere interdisziplinären Teams kombinieren Fachwissen …
Krankenhaussanierung: Baker Tilly beim Ecclesia-Webinar und auf dem Hauptstadtkongress 2026
Baker Tilly begleitet CERTANIA bei der Übernahme von InnoDiab
Baker Tilly berät encoviva-Gruppe bei Partnerschaft mit Adenbeck
Individuelle Beratung ✓ maßgeschneiderte Lösungen von Experten aus Wirtschaftsprüfung, Steuer-, Rechts- & …
Baker Tilly bietet ein breites Spektrum individueller und innovativer Beratungsdienstleistungen in an. Erfahren …
Baker Tilly ausgezeichnet: Platz 1 im Mittelstand
Baker Tilly setzt dynamisches Wachstum in Deutschland auch künftig eigenständig fort
Stiftungsbericht 2025 veröffentlicht
KI-Chat-Tools schaffen Effizienzsteigerungen nicht automatisch. Wirtschaftlicher Nutzen entsteht erst, wenn Banken Nutzung, Kosten, Modellwahl und Use Cases transparent steuern und auf wertstiftende Anwendungen ausrichten.
Viele Banken beschäftigen sich derzeit mit der Frage, ob und wie künstliche Intelligenz im jeweiligen Bankhaus genutzt werden soll und ob diese die Versprechen zu möglichen Effizienzgewinnen halten kann. Zur Näherung an eine Antwort führen viele der Institute daher zunächst generative KI über ein internes Chat-Tool ein. Diese Tools basieren häufig auf externen Large Language Models (LLM) wie ChatGPT, Gemini oder Claude, helfen bei der Strukturierung von Wissen und Texten und sollen Beschäftigten einen einfachen Einstieg in die Nutzung von KI ermöglichen.
Der erhoffte Effizienzgewinn stellt sich jedoch nicht immer automatisch ein. Ohne Transparenz über Nutzung, Kosten und geeignete Anwendungsfälle kann der Einsatz schnell zu zusätzlichen Aufwänden führen und damit den Eindruck verstärken, dass generative KI wirtschaftlich nicht überzeugt. Entscheidend ist daher nicht allein die Bereitstellung der Technologie, sondern eine gezielte Steuerung der konkreten Use Cases.
Externe Anbieter rechnen ihre LLM in der Regel nutzungsabhängig über Ein- und Ausgabe-Token ab. Token sind Wortbestandteile oder Zeichenfolgen von ein bis vier Zeichen, die als Ein- und Ausgabe des LLM dienen, also die Eingaben der Nutzer in den Chat und die Antworten des jeweiligen Modells im Chat selbst. Dabei entstehen variable Kosten, die stark vom Nutzungsverhalten, der Komplexität der Anfrage und dem eingesetzten Modell abhängen. Zwar gibt es derzeit Anbieter am Markt, die nicht variabel nach Token-Verbrauch abrechnen, jedoch ist im geschäftlichen Kontext eine klare Tendenz zu erkennen, Token variabel beim Kunden abzurechnen.
Ob ein positiver Business Case entsteht, entscheidet daher der Use Case. Einfache Wissensabfragen können bereits bei geringen Kosten spürbare Zeitvorteile bringen. Bei iterativen E-Mail-Überarbeitungen kann dagegen der Qualitätsgewinn im Vordergrund stehen, ohne Arbeitszeit einzusparen. Zudem spielt das genutzte Modell eine entscheidende Rolle. Aktuelle Spitzenmodelle kosten fast doppelt so viel wie ältere bzw. „einfachere“ Modelle. Es sollte daher auf Basis des Use Cases entschieden werden, welches Modell die kostengünstigste Alternative ist. Auch ältere Modelle erfüllen ihren Zweck und können vergleichsweise einfache Aufgaben wie Wissensabfragen oder Textüberarbeitungen ähnlich gut bewältigen.
Die folgenden drei Beispiele zeigen, dass die konkrete Nutzung entscheidet, ob ein LLM-Chat-Tool wirtschaftlich sein kann:
Einfache Wissensfragen wie „Wo finde ich die Arbeitsanweisung zur Freigabe einer abgelösten Kreditsicherheit?“ oder „Welche Unterlagen sieht unsere Checkliste für die Kontoeröffnung einer GmbH in Gründung vor?“ wurden bisher durch Nachschlagen, das Fragen eines Kollegen oder eine Internetrecherche gelöst. Dies erfordert – beispielsweise durch das manuelle Sichten der Suchergebnisse – Arbeitszeit.
Dieser Aufwand wird durch die Beantwortung dieser Fragen mittels eines LLM-Chat-Tools reduziert. Die Eingabe besteht in der Regel aus wenigen Token, wobei die Ausgabe je nach Frage um ein Vielfaches (bis zu 20-fach) höher ausfallen kann. Die Kosten bewegen sich bei einzelnen Abfragen bei vielen Anbietern im niedrigen einstelligen Cent-Bereich.
Obwohl sich diese variablen Kosten mit zunehmender Nutzung schnell und erheblich summieren können, überwiegt in der Gesamtsicht der zeitliche Vorteil der KI-Nutzung. Die Kostenersparnis durch die zurückgewonnene Mitarbeiterzeit übersteigt die Kosten des Tools.
Das Verfassen und Qualitätssichern von E-Mails kostet Arbeitszeit. Bei der Nutzung eines LLM-Chat-Tools kann die Qualität spürbar verbessert und der Schreibprozess unterstützt werden. Zugleich tritt die erhoffte Zeit- und somit Kostenersparnis oftmals nicht ein:
Ein Nutzer schreibt eine E-Mail vor, lässt sie durch das LLM-Chat-Tool verbessern und durchläuft mehrere Iterationen, bis das gewünschte Ergebnis erzielt wird. Ist er Empfänger einer Nachricht, verfährt er ebenso und nutzt für seine Antwort zudem die erhaltene E-Mail. Dies resultiert in einem relativ ausgewogenen Ein- und Ausgabe-Token-Verhältnis (40/60), welches im Vergleich zu einer einfachen Wissensabfrage deutlich höhere Kosten verursacht (lt. einer Analyse von Baker Tilly das bis zu 5-Fache).
Im beschriebenen Beispiel erhalten beide Nutzer qualitativ ansprechendere E-Mails, ohne durch die Überarbeitungsschleifen Arbeitszeit einzusparen. Den zusätzlichen Nutzungskosten steht damit ein Qualitätsgewinn gegenüber, dessen Wert für den jeweiligen Kommunikationszweck zu bewerten ist. Die fehlende Zeitersparnis allein würde auf einen negativen Business Case schließen lassen, der im Einzelfall gegenüber dem Qualitätsgewinn validiert werden muss.
Die Analyse von regulatorischen Dokumenten, sei es eine neue Richtlinie der EU, eine MaRisk-Novelle oder EBA-Guidelines, kostet Arbeitszeit. Allein das erste Sichten einer aktualisierten Guideline auf Veränderungen kann mehrere Stunden Arbeitszeit in Anspruch nehmen.
Der Einsatz eines LLM-Chat-Tools kann diesen ersten Schritt erheblich beschleunigen und die verbrauchte Arbeitszeit wesentlich reduzieren. Dem stehen die Tokenkosten gegenüber: Inputs und Outputs für derartige Aufgaben bewegen sich schnell im sechsstelligen Tokenbereich und verursachen einen weitaus größeren Einzelkostenblock als die vorherigen zwei Beispiele (lt. einer Baker Tilly-Analyse das bis zu 40-Fache). Dies liegt daran, dass nicht nur der Fragetext, sondern auch das – oft sehr umfangreiche – regulatorische Dokument selbst mit zur Eingabe gehört und somit zu Kosten führt. Zudem wird die KI Rückfragen stellen, um die Recherche weiter zu strukturieren.
Das Gesamtergebnis des Business Case ist durch die Zeitersparnis für eine erste Zusammenfassung und Identifikation von relevanten Passagen positiv. So können durch einen gezielten Einsatz eines LLM-Chat-Tools Zeit gespart und somit Kosten gesenkt werden. Der Fokus der Arbeit liegt nun schneller im Bereich der Interpretation, der regulatorischen Einordnung und schließlich der Umsetzung.
Ineffizient bzw. negativ wird ein Use Case immer dann, wenn die Zeit- oder Kostenersparnisse gering sind oder die User KI-Chat-Tools nachteilig nutzen (z. B. durch zu lange Chatverläufe, zu umfangreiche Anhänge, unkonkretes Prompting). Eine breite Nutzung von LLMs garantiert daher nicht per se wirtschaftlichen Erfolg. Hierfür ist eine transparente, Use-Case-basierte Steuerung erforderlich.
Damit Banken ihr Budget steuern können, müssen sie zuerst Transparenz bei den Nutzern der variabel abgerechneten Modelle schaffen. Dies kann zum einen über Transparenz hinsichtlich des tatsächlichen Tokenverbrauchs der einzelnen Nutzer geschehen.
Zum anderen kann ein zentrales Use-Case-Register etabliert werden, welches jedem Anwendungsfall beispielsweise einen fachlichen Zweck, eine Kostengröße in Abhängigkeit vom genutzten Modell und eine Kostengröße in Bezug auf den Zeitgewinn zuordnet. Kosten könnten dann anschließend anhand einer Kosten-Nutzen-Quote effektiv gesteuert werden. Eine weitere Möglichkeit ist, auf dieser Basis ein Use-Case-Budget je Bereich zu etablieren.
Ein weiteres Mittel zur Steuerung ist ein „Model-Routing“, welches je nach Anwendungsfall das passende KI-Modell auswählt. So würde ein Spitzenmodell nicht bei einer einfachen Wissensfrage, sondern nur bei aufwendigen Recherchen, wie der Analyse von umfangreichen Dokumenten, genutzt werden.
Die Einführung eines KI-gestützten Chat-Tools ist ein guter Startpunkt, um Mitarbeitende mit der Nutzung von KI vertraut zu machen. Entscheidungsgrundlage für die mittel- und langfristige KI-Strategie einer Bank sollte jedoch eine effektive Use-Case-Steuerung sein.
Ein zentrales Use-Case-Register ist dabei das entscheidende Steuerungsinstrument. Es schafft Transparenz über Zweck, Kosten, Modellwahl und erwarteten Nutzen einzelner Anwendungen. Hierdurch werden Kosten und Nutzen von KI-Lösungen transparent aufgearbeitet und die Basis für strategische Entscheidungen geschaffen. In Verbindung mit Kosten-Nutzen-Bewertungen, Use-Case-Budgets und Model-Routing können Institute die Nutzung ihrer Tools gezielt dorthin lenken, wo sie tatsächlich Effizienz schaffen.
Die Einführung eines internen LLM-Chat-Tools ist damit nicht das Ziel, sondern der Startpunkt für wirtschaftliche und akzeptierte bankspezifische GenAI-Anwendungen.
Wir unterstützen Sie gerne dabei, die Wirtschaftlichkeit und Steuerbarkeit Ihrer KI-Tools zu bewerten und die Einführung bankspezifischer GenAI-Anwendungen gezielt weiterzuentwickeln.
Simone Yuson
Director
Dr. Maike Frantzen
Manager
Sprechen Sie mit uns – einfach unverbindlich
Jetzt Kontakt aufnehmen
Alle Beiträge anzeigen