BaFin

Thema Fintech Big Data und künstliche Intelligenz: „Maschinen dürfen auch bei automatisierten Prozessen nicht die Verantwortung tragen“

Datum: 15.06.2018

Interview mit BaFin-Präsident Felix Hufeld, Gerold Grasshoff (Senior Partner, The Boston Consulting Group), Prof. Dr. Stefan Wrobel (Leiter, Fraunhofer IAIS) und Claus Wechselmann (Geschäftsführer, PD – Berater der öffentlichen Hand)

Herr Hufeld, warum hat die BaFin die Studie in Auftrag gegeben? Worum ging es Ihnen dabei in erster Linie?

Hufeld: Die Digitalisierung bringt es mit sich, dass die Unternehmen, die wir beaufsichtigen, mittlerweile völlig andere Möglichkeiten zur Speicherung und Auswertung von Daten haben. Das wird die Art und Weise, wie Finanzdienstleistungen erbracht werden, grundsätzlich verändern. Diese Trends müssen wir verstehen, um darauf aufbauend Implikationen für Finanzregulierung und -aufsicht zu diskutieren.

Herr Grasshoff, Herr Professor Wrobel, Herr Wechselmann, Sie haben gemeinsam mit der BaFin mehrere Monate intensiv an der Studie gearbeitet. Was war Ihr Ansatz?

Grasshoff: Zentral für die Erarbeitung war ein holistischer Ansatz. Basierend auf einer intensiven technologischen Betrachtung durch die Kollegen des Fraunhofer-Instituts IAIS erlaubt er es uns, fundierte strategische, chancen- wie risikoreiche Implikationen für den Banken-, den Versicherungs- und den Kapitalmarkt abzuleiten. Daraus wiederum haben wir die aufsichtlich-regulatorischen Folgerungen entwickelt. Dabei wurden alle drei Dimensionen des aufsichtlich-regulatorischen Handelns betrachtet, beginnend bei der Finanzstabilität und Marktaufsicht über die Unternehmensaufsicht bis hin zum kollektiven Verbraucherschutz.

Prof. Wrobel: Aus der technologischen Perspektive beobachten wir aktuell, dass sich die Einsatzmöglichkeiten von zentralen Technologiefeldern im Kontext der Digitalisierung – allen voran Big Data und künstliche Intelligenz – extrem stark weiterentwickeln. Doch nicht alle dieser Ansätze sind auch tragfähig und im Rahmen der Herausforderungen der Finanzindustrie belastbar. Wir haben uns also darauf konzentriert, die Spreu vom Weizen zu trennen und die Technologien zu identifizieren, die langfristig hohes Einsatzpotenzial und gesellschaftliche Verantwortung verbinden.

Wechselmann: Wir haben gemeinsam mit der BaFin in sehr kurzer Zeit ein Projektteam zusammengestellt, welches die für den holistischen Ansatz der Studie erforderlichen breit gefächerten Kompetenzen und Erfahrungen kombiniert. Die fortlaufende Verzahnung und intensive Diskussion der technischen, strategisch-wirtschaftlichen und aufsichtlich-regulatorischen Perspektiven waren wesentliche Erfolgsfaktoren für das Projekt und die Ergebnisse dieser Studie.

Auf welche Herausforderungen sind Sie gestoßen?

Hufeld: Sicherlich war die breite Einbindung fast aller Bereiche der BaFin und mehrerer externer Projektpartner für alle Beteiligten mit großem Einsatz und Anstrengungen verbunden. Neben der Projektleitung waren von BaFin-Seite nicht nur die Banken-, Versicherungs- und Wertpapieraufsicht beteiligt, sondern beispielsweise auch unsere Experten für Verbraucherschutz, Risikomodelle und IT. Von außen hat die Boston Consulting Group ihre Markt- und Branchenexpertise eingebracht, Fraunhofer IAIS war Ansprechpartner für die technischen Aspekte, Partnerschaft Deutschland hat uns bei der Aufsetzung und Steuerung des Projekts unterstützt. Ihnen allen gebührt mein Dank.

Was sind aus Ihrer Sicht die wichtigsten Ergebnisse?

Hufeld: Elementar wichtig aus Sicht der BaFin ist, dass Maschinen auch bei automatisierten Prozessen nicht die Verantwortung tragen dürfen. Die Geschäftsleitung bleibt auf jeden Fall in der Pflicht. Deswegen ist es auch unerlässlich, dass die Prozesse unabhängig vom Grad ihrer Automatisierung in eine ordnungsgemäße Geschäftsorganisation eingebettet sind. Wir müssen die Entscheidungsfindung eines voll- oder teilautomatisierten Prozesses jederzeit nachvollziehen können. Das ist vor allem deshalb wichtig, weil wir als Aufsicht nur dann überhaupt die Chance haben, frühzeitig auf Fehler im Analyseprozess aufmerksam zu werden und entsprechend einzugreifen. Das gilt selbstverständlich auch für die Unternehmen selbst.

Auf einen Blick:Erklärbarkeit komplexer Modelle

Das Generieren transparenter und nachvollziehbarer Modelle ist aktuell eines der wichtigsten Forschungsfelder des Maschinellen Lernens, um die Entscheidungsfindung eines intelligenten Systems jederzeit verstehen und bewerten zu können. Im Gegensatz zu „Black-Box-Modellen“ – rein statistischen datengetriebenen Lernmodellen – beziehen transparente Modelle auch Fachwissen zur Erklärung ein, so dass die Logik oder die einzelnen Ausgaben des Systems besser nachvollziehbar sind. Einer der berühmtesten wissenschaftlichen Ansätze ist der LIME-Algorithmus (Local Interpretable Model-Agnostic Explanations), der für den zu erklärenden Einzelfall und ähnliche Datenpunkte mittels einfacherer Verfahren ein lokales Erklärungsmodell bildet. Andere Ansätze generieren direkt verständliche Modelle, etwa als Regeln. Insgesamt ermöglichen neue Ansätze auch bei sehr komplexen Modellen zumindest Einblicke in die Funktionsweise des Modells und die Gründe für Entscheidungen.

Die BaFin hat außerdem im Verbraucherschutz eine besondere Aufgabe. Echte Datensouveränität ist ein immer wichtigeres regulatorisches Ziel. Wenn ein Kunde sich entscheidet, bestimmte scheinbar kostenlose Dienstleistungen im Internet mit seinen Daten zu bezahlen, ist das sein gutes Recht. Wichtig ist aber, dass er versteht, welchen Wert seine Daten haben und vor allem auch, wer Zugriff auf seine persönlichen Informationen haben wird. Wenn der Kunde davon ausgehen kann, dass mit seinen Daten verantwortungsvoll und transparent umgegangen wird, kann das das Vertrauen in die Finanzbranche nur steigern.

Herr Grasshoff, welche Implikationen halten Sie für besonders relevant?

Grasshoff: Big Data und künstliche Intelligenz eröffnen zusätzliche Wettbewerbschancen in der Finanzbranche – für bestehende, aber auch für potenziell neue Marktteilnehmer. Das hat vor allem eine wesentliche Ursache: Die neuen Technologien verstärken den Trend zur Entkoppelung der Wertschöpfungsketten. Insbesondere erwarten wir eine stärkere Trennung von Kundenschnittstelle und Kernprozessen.

Zum Beispiel verfügen Technologiekonzerne über riesige Mengen von Kundendaten, mit denen sie neue personalisierte Angebote im Banken- und Versicherungsbereich entwickeln können. Der Wettbewerb an den Schnittstellen zu Kunden wird von deren Erwartungen getrieben. Unternehmen, die mit Hilfe von Big Data und künstlicher Intelligenz innovative Lösungen entwickeln, werden diesen Wettbewerb für sich entscheiden. Verstärkend kommt hinzu, dass die Zweite Zahlungsdiensterichtlinie den Zugang zur elementaren Kundenschnittstelle des Zahlungsverkehrs für Unternehmen geöffnet hat, die klassischerweise nicht dem Finanzsektor angehören.

Darüber hinaus sehen wir bei den fachlichen Kernprozessen, beispielsweise in der Kredit-, Wertpapier- und Zahlungsabwicklung, aber auch in Banksteuerungsprozessen, große Potenziale durch Big Data und Künstliche Intelligenz. Spracherkennung und Spracherzeugung oder Data Mining etwa eröffnen ganz neue Ansätze zur Gestaltung von Betriebsmodellen.

Durch Big Data und künstliche Intelligenz werden insgesamt effizientere und effektivere Betriebs- und Geschäftsmodelle für Finanzdienstleister möglich. Aber nur die Unternehmen, die es schaffen, die notwendigen technischen und fachlichen Kompetenzen aufzubauen, werden solche Modelle entwickeln und umsetzen können. In diesem Umfeld und insbesondere unter dem Einfluss der Datenschutzgrundverordnung (DSGVO) stehen Finanzdienstleister vor der Herausforderung, diese neuen Technologien zu nutzen, aber gleichzeitig das elementare Kundenvertrauen zu bewahren.

Herr Professor Wrobel, teilen Sie diese Einschätzung?

Wrobel: Ja, auch aus meiner Sicht zeigt die Studie eindeutig das enorme Potenzial auf, das die Weiterentwicklung von Big Data hin zum Thema künstliche Intelligenz, kurz KI, für die Finanz- und Versicherungsbranche mit sich bringt. Unternehmen und Institutionen werden ihre Produkte und Dienstleistungen durch den strategischen Einsatz von KI-Technologien weiter optimieren, Prozesse transparenter und effektiver gestalten und somit das Vertrauen ihrer Kunden stärken können. Der Einsatz von Big Data und KI ist also für die Wettbewerbsfähigkeit der Branche von zentraler und strategischer Bedeutung. Darüber hinaus halte ich auch aus technologischer Perspektive drei Aspekte, die vorhin bereits angeklungen sind, für besonders relevant und beachtenswert: Datensouveränität, Transparenz und Vertrauenswürdigkeit.

Wollen Sie dies kurz erläutern?

Wrobel: Die Studie macht insbesondere deutlich, dass eine erfolgreiche und gesellschaftlich akzeptierte Integration von Big Data und künstlicher Intelligenz in der Finanz- und Versicherungsbranche nur dann gelingen kann, wenn die Unternehmen die drei genannten Aspekte bei datengetriebenen Produkten und Dienstleistungen berücksichtigen und mit einer hohen Professionalität technisch umsetzen. Diese Erkenntnis zeigt sich in vielerlei Hinsicht in den unterschiedlichen Phasen der Entwicklung einer Wertschöpfungskette von datengetriebenen Angeboten – angefangen beispielsweise bei der Datenerhebung beziehungsweise Datengenerierung.

Die Studie unterstreicht hier die zentrale Bedeutung der Datensouveränität für die gesamte Wertschöpfungskette. Zum einen, um datengetriebene Produkte und Dienstleistungen verlässlich anbieten, warten und die Zuverlässigkeit der zugrundeliegenden Daten jederzeit überprüfen zu können. Zum anderen aber auch, um die Hoheit über Datensicherheit und Datenschutz sicherzustellen.

Darüber hinaus weist die Studie auf unverzichtbare Standards bei der Verwendung von Technologien der künstlichen Intelligenz hin. Es wird deutlich, dass ein hoher Grad an Transparenz der eingesetzten KI-Verfahren genauso unumgänglich ist wie die Reliabilität, Plausibilität und Nachvollziehbarkeit der verwendeten Algorithmen. Besonders die Transparenz spielt nicht zuletzt auch immer im Hinblick auf Datenschutz oder beispielsweise die Verhinderung einer Diskriminierung einzelner Kundengruppen durch Algorithmen eine zentrale Rolle. Hier kann etwa eine Zertifizierung von Algorithmen beziehungsweise datengetriebenen Produkten und Dienstleistungen Vertrauen auf wirtschaftlicher und gesellschaftlicher Ebene schaffen.

Herr Wechselmann, bewerten Sie dies aus Ihrer Perspektive ähnlich?

Wechselmann: Grundlegende Veränderungen, wie sie durch den verstärkten Einsatz neuer Technologien getrieben werden, fordern nicht nur die Unternehmen, sondern auch die öffentliche Verwaltung. Die BaFin setzt sich daher völlig zu Recht frühzeitig mit den möglichen Chancen und Risiken auseinander, und zwar nicht nur für die Unternehmen, die derzeit unter ihrer Aufsicht stehen, sondern gerade auch für die Verbraucher.

Die Risiken, die die intensivere Nutzung von BDAI – neben den zahlreichen in der Studie beschriebenen Chancen – mit sich bringt, müssen analysiert und mit geeigneten Maßnahmen adressiert werden. Auch wenn der Fokus der Studie auf dem Finanzsektor liegt, lassen sich einige Erkenntnisse sicherlich auch auf andere Bereiche übertragen.

Herr Hufeld, wie bewerten Sie die Ergebnisse?

Hufeld: Wichtig ist vor allem: Der Geschwindigkeit, mit der in diesem Bereich Innovationen entstehen, muss die Regulatorik Rechnung tragen. Es ist eine Herausforderung, ein Regelwerk zu schaffen, das einerseits vorausschauend und ausreichend flexibel ist, um auch bei weiteren rasanten Neuerungen im Bereich Big Data noch anwendbar zu sein. Andererseits dürfen die Aufsichtsprinzipien auch nicht so weich sein, dass sie den handelnden Unternehmen keine Sicherheit bieten können.

Nach wie vor gilt bei uns der Grundsatz „gleiches Geschäft, gleiches Risiko, gleiche Regel“. Aufsicht muss einem strikt technologieneutralen Ansatz folgen. Eine eher prinzipienbasierte Regulierung bietet sich in diesem Umfeld besonders an. Das alles bedeutet für uns als BaFin, dass wir neue fachliche und technische Kompetenz aufbauen werden.

Welche Schritte wird die BaFin als nächstes unternehmen?

Hufeld: Wir werden den Bericht demnächst öffentlich zur Konsultation stellen. Damit wollen wir die Grundlage für einen intensiven Dialog mit der Branche, aber auch mit anderen nationalen und internationalen Aufsichtsbehörden schaffen. Diese Art des offenen Austausches im nationalen und internationalen Umfeld hat sich bewährt - auch bei anderen großen Themen – und bildet die Basis, um regulatorische Anforderungen gegebenenfalls neu zu bewerten.

Hinweis

Der Beitrag gibt den Sachstand zum Zeitpunkt der Veröffentlichung im BaFinJournal wieder und wird nicht nachträglich aktualisiert. Bitte beachten Sie die Allgemeinen Nutzungsbedingungen.

Zusatzinformationen

Fanden Sie den Beitrag hilfreich?

Wir freuen uns über Ihr Feedback