Eine Bank befähigt ihre Organisation, Künstliche Intelligenz gezielt einzusetzen

Eine Bank schafft die Grundlage für den regulierten Einsatz generativer KI

Gemeinsam mit dem Kunden haben wir dafür die Grundlage geschaffen: ein belastbares Governance-Verständnis für die geplante Lösung, klare Anforderungen für einzelne Anwendungsfälle und ein Zielbild für eine Nutzung, die regulatorische Vorgaben nicht erst im Nachgang adressiert, sondern von Anfang an in Aufbau und Betrieb integriert.

Herausforderung

Die fachliche Ausgangslage war eindeutig: Generative KI sollte für konkrete Anwendungsfälle nutzbar gemacht werden, insbesondere für Chat-Funktionen und die Auswertung von Dokumenten. Offen war zunächst, wie sich die unterschiedlichen Anforderungen systematisch und praxistauglich einordnen lassen. Denn bei der Bewertung von KI-Anwendungen reicht es nicht aus, nur die technische Funktion zu betrachten. Entscheidend ist auch, in welchem Prozess ein Anwendungsfall eingesetzt wird, mit welchen Daten er arbeitet, welche regulatorischen Anforderungen berührt werden und wie Ergebnisse später nachvollzogen werden können.

Gerade im Bankenumfeld entsteht daraus eine mehrdimensionale Aufgabe. Anforderungen aus dem EU AI Act, aus Datenschutz, DORA und MaRisk greifen an unterschiedlichen Stellen. Einige betreffen eher die Anwendungsebene, andere müssen je Anwendungsfall beurteilt werden. Gleichzeitig sollte der Freigabe- und Dokumentationsaufwand so gestaltet werden, dass er im Alltag tragfähig bleibt. Ein zu grobes Vorgehen hätte Risiken übersehen. Ein zu aufwendiges Vorgehen hätte die Nutzung unnötig erschwert.

Hinzu kam, dass Nachvollziehbarkeit nicht nur als regulatorische Pflicht verstanden wurde, sondern auch als Anforderung an die tägliche Nutzung. Fachbereiche müssen Ergebnisse nicht nur sehen, sondern einordnen können: Welche Textstellen liegen zugrunde? Wo ist eine Aussage gut belegt? Wo ist eine Interpretation unsicher? Genau diese Verbindung aus Compliance, Nutzbarkeit und technischer Umsetzbarkeit stand im Mittelpunkt des Projekts.

Vorgehen

Wir haben das Vorhaben gemeinsam mit dem Kunden in einer frühen Phase strukturiert und zunächst den Geltungsbereich sowie das gemeinsame Zielbild geschärft. Im Zentrum stand die Entscheidung, Governance nicht erst an einzelnen Anwendungsfällen aufzusetzen, sondern zunächst ein übergreifendes Framework für die geplante KI-Anwendungsplattform zu erarbeiten. So konnte geklärt werden, welche Anforderungen auf Anwendungsebene gelten und welche zusätzlich pro Anwendungsfall dokumentiert und geprüft werden müssen.

Darauf aufbauend haben wir die inhaltlichen Bausteine für eine schlanke, aber belastbare Dokumentation einzelner Anwendungsfälle herausgearbeitet. Dazu gehörten unter anderem eine Kurzbeschreibung des jeweiligen Einsatzes, die Zuordnung zu Prozessen und Datenklassen, eine Einschätzung zum EU AI Act, die Prüfung datenschutzrechtlicher Fragestellungen sowie die Einordnung weiterer regulatorischer Anforderungen, soweit sie für den jeweiligen Fall relevant sind. Besonders wichtig war dabei, die Dokumentation so anzulegen, dass sie fachlich verständlich bleibt und zugleich den Anforderungen von Kontrollfunktionen standhält.

Ein weiterer Schwerpunkt lag auf der Ausgestaltung von Nachvollziehbarkeit im Nutzungskontext. Gemeinsam wurde konkretisiert, wie Quellenhinweise im Ergebnis sichtbar gemacht werden können, wie sich Unsicherheiten in der Verarbeitung kennzeichnen lassen und welche Informationen als Teil eines Ergebnisobjekts dokumentiert werden sollten. Damit wurde Nachvollziehbarkeit nicht nur als abstraktes Prinzip beschrieben, sondern in eine Form übersetzt, die Anwender in ihrer täglichen Arbeit tatsächlich unterstützt.

Ergänzend haben wir zentrale Governance-Prinzipien für den späteren Betrieb geschärft. Dazu gehörte insbesondere die Festlegung, dass Ergebnisse im relevanten Nutzungskontext menschlich geprüft und freigegeben werden. Ebenso wurde herausgearbeitet, dass Schutzbedarf, Verfügbarkeit, Prozessbezug und Systemeinbindung je Anwendungsfall mitgedacht werden müssen, ohne die Organisation mit unnötiger Komplexität zu belasten.

Auf diese Weise wurde aus einer allgemeinen Idee für den Einsatz generativer KI eine konkret nutzbare Lösung für die Dokumentenanalyse in der Bankpraxis: mit klarer Nutzerführung, nachvollziehbaren Ergebnissen und einer Struktur, die den kontrollierten Einsatz im Fachbereich unterstützt.

Ergebnisse

• Ergebnisse sind direkt an ihren Quellen prüfbar
  Fachanwender können Aussagen der Anwendung unmittelbar auf die zugrunde liegenden Textstellen im Originaldokument zurückführen. Das erleichtert die fachliche Einordnung und reduziert den Aufwand, relevante Belege manuell im gesamten Dokument zu suchen.
• Nachvollziehbarkeit ist Teil der Nutzung, nicht nur der Dokumentation
  Die Lösung stellt Ergebnisse nicht isoliert dar, sondern verbindet sie mit Quellenangaben, Hervorhebungen im Dokument und einer Einschätzung zur Belegbarkeit. Dadurch wird Transparenz im Arbeitsablauf verankert und nicht erst nachgelagert hergestellt.
• Manuelle Prüfung kann gezielter erfolgen
  Fachbereiche sehen nicht nur das Ergebnis, sondern auch, wie belastbar eine Aussage ist. Das hilft dabei, kritische Stellen schneller zu identifizieren und Prüfaufwand dort zu konzentrieren, wo er tatsächlich notwendig ist.
• Die Nutzung generativer KI wurde in einen kontrollierbaren Rahmen überführt
  Der Kunde verfügt über eine Lösung, in der Fachnutzen und Governance zusammengedacht sind. So kann KI-gestützte Dokumentenanalyse in einem Umfeld eingesetzt werden, in dem Nachvollziehbarkeit, Nutzerverantwortung und regulatorische Anforderungen eine zentrale Rolle spielen.

Ausblick

Die geschaffene Struktur bietet eine belastbare Grundlage, um weitere Anwendungsfälle kontrolliert in die Lösung zu überführen. So kann der Kunde den Einsatz generativer KI schrittweise ausbauen, ohne Nachvollziehbarkeit und Governance erst nachträglich ergänzen zu müssen.

‍