Herzlich willkommen zum AI-First-Podcast. Heute zu Gast ist Julia Sterling, die Head of AI, Strategy und Governance bei der Commerzbank. Und Julia wird uns heute ein paar Einblicke in ihren Arbeitsalltag geben und wie künstliche Intelligenz bei einer der größten Banken Deutschlands gelebt wird. Liebe Julia, vielen, vielen Dank, dass du dir die Zeit nimmst und heute dabei bist. Julia: Vielen Dank für die Einladung. Felix: Klär uns doch mal ein bisschen auf, was verbirgt sich denn hinter deinem Titel und welche Aufgabengebiete und Verantwortlichkeiten liegen bei einer Head of AI Strategy und Governance? Julia: Tatsächlich arbeiten wir in drei verschiedenen Themen, drei verschiedenen Säulen, würde ich jetzt sagen. Die erste große Säule ist die AI-Strategie der Bank. Wie kann AI Helfen Nutzen stiften und vor allem, was muss man dafür tun, was Felix: Vielen Julia: und welche Räder müssen zusammengreifen, damit eben auch positiver Effekt mit [00:01:00] KI herauskommt. Die zweite Säule ist Literacy. geht es im Wesentlichen darum, ja, wie Nehmen wir unsere Mitarbeiter, unsere Kunden mit? Was müssen die denn alles wissen? Und was müssen wir auch als Organisation dazu lernen? Und die dritte Säule natürlich die Governance. Wie machen wir vertrauenswürdige KI? Wie machen wir das alles ordentlich auch unter Voraussetzung der Regularien, die wir natürlich als Bank bzw. als Industrie hier in Deutschland haben, aber in der ganzen EU. Felix: In welcher dieser drei Säulen hast du in den letzten zwölf Monaten die meiste Zeit verbracht? Julia: Das ist eine schöne Frage. Ich würde sagen, tatsächlich ziemlich gleich, aber ein bisschen Ausschlag gab es schon auf der Governance. Felix: Okay, das kann ich mir gut vorstellen. wahrscheinlich mit dem EU-AI-Act zusammen. Julia: könnte sein, ja. Felix: Diese drei [00:02:00] Bereiche die du angesprochen hast, also Strategie entwickeln, Kompetenzen im Unternehmen aufbauen und dann KI verantwortungsvoll entwickeln und steuern, das sind ja drei total relevante Bereiche für jedes Unternehmen Die jetzt KI implementieren wollen. Oft in unterschiedlichen Maßstäben und sicherlich nicht immer in einem Commerzbank-Maßstab aber da gibt es bestimmt eine ganze Menge zu lernen, auch für alle möglichen Unternehmen, die gerade vor dieser Aufgabe stehen. Ich würde gerne mit dir durch diese drei Säulen... Mal ein bisschen durchgehen und von dir lernen, wie ihr in diesen drei Säulen denkt und arbeitet. Natürlich das, was du auch teilen darfst. Und vielleicht am Ende auch noch ein bisschen verstehen, was du glaubst wie sieht eigentlich eine erfolgreiche Bank in der KI-Ära aus und was sind so deine Gedanken dazu? Julia: Ja, vielleicht fangen wir einfach mal damit an, wo wir als Bank [00:03:00] identifiziert haben, dass man KI sinnvoll einsetzen kann und auch sollte. Das sind nämlich ungefähr vier Bereiche und der erste Bereich ist Marketing und Revenue Growth. Felix: Vielen Dank Julia: mit Kundenfokus, wie können wir das Leben unserer Kunden leichter machen oder unsere... Antwortzeiten reduzieren. Da haben wir zum Beispiel einige Produkte wie das digitale Haushaltsbuch, wir haben ein Avatar in der Banking-App, der eben 24 Stunden verfügbar ist und Fragen beantworten kann. Und wenn wir das alles in Summe sehen, wird da sicher auch noch mehr uns zukommen, mehr an Erleichterung und mehr an Schnelligkeit tatsächlich. Das zweite, was wir immer sehen, ist Loss-and-Fraud-Prevention, Felix: ZDF Julia: sage ich jetzt mal so ein paar Schlagwörter einfach, Geldwäscheprävention, Geldwäschebekämpfung, Betrugsbekämpfung, all da, wo man eben wenig [00:04:00] sieht tatsächlich, wenn man Bankkunde ist, was natürlich aber einen großen Teil unserer Arbeit hier im Konzern auch ausmacht. Felix: Vielen Dank. Julia: man am wenigsten sieht. Aber da kann man, glaube ich ganz platt zusammenfassend sagen, KI ist wahnsinnig gut im Mustererkennen und da geht es genau darum, aus einer sehr, sehr großen Datenmenge sehr schnell Muster zu Felix: Vielen Dank. Julia: gewesen und wenn man sich jetzt anschaut dass doch oft die Realität sehr komplex ist und eben nicht nur lineare Zusammenhänge in der echten Welt bestehen dann man auch hier KI zum Einsatz bringen, denn KIs sind Überall da auch sehr gut, wo eben die linearen Zusammenhänge eben auch gar nicht so vorhanden sind in der echten Realität. Also kann [00:05:00] man durchaus die Realität doch besser abbilden wenn man KI-Modelle benutzt. Und als viertes und ich glaube, das ist jetzt nichts, was eine Bank spezifisch hat, sondern da geht es um Prozessoptimierung, Prozessautomation. Hat man natürlich auch vorher schon gemacht, aber mit KI und gerade auch mit generativer KI eröffnet uns das jetzt eben neue Möglichkeiten, die nur zu bedenken, wir haben natürlich als Bank wahnsinnig viele Verträge, wahnsinnig viele Dokumente die einzureichen sind, wenn man einen Kredit zum Beispiel beantragt oder für unsere anderen Produkte auch. Und gerade die kann man eben wahnsinnig gut automatisiert verarbeiten und auch hier kann KI nochmal eine deutliche Verbesserung herbeiführen. Felix: Okay also dann ist Kundenerlebnis verschiedene Vorhersagenmodelle, Risikomanagement und dann Prozessautomation. Das so, als hättet ihr sehr, sehr strukturiert diese Bereiche [00:06:00] erarbeitet. Wie sah der Weg dahin aus? Julia: Also tatsächlich muss man sagen, das sind natürlich viele Bereiche oder fast alles Bereiche die es auch vorher schon in irgendeiner Form gegeben hat. Jetzt muss man dazu sagen, Einheit, für die ich arbeite, wurde schon 2017 gegründet. Das ist schon ein bisschen her, das waren damals auch deutlich weniger Menschen. Da haben wir dann eben angefangen auszuprobieren Was kann funktionieren was kann auch nicht funktionieren Auch da haben wir gelernt, was braucht es denn eigentlich alles dafür, um unser Unternehmen, damit wir das ordentlich machen können, also von Daten hin bis zu Plattformen Tools, Skillset etc., umzusetzen Damals hat unsere Einheit auch sehr viel von den KI-Anwendungsfällen selber gebaut und mittlerweile ist das tatsächlich auch zum Teil mit dem Einzug von generativer KI begründet jetzt so, dass wir sagen, unser Bereich unsere Einheit ist das Center of Competence für KI, [00:07:00] wir arbeiten für den Chief Data und der I-Officer der Bank Und als solche stellen wir im Wesentlichen Knowledge Expertise zur Verfügung und eben auch Daten, Tools und Plattformen damit auch andere Einheiten KI bauen und integrieren können. Stellen wir auch skalierbare AI-Services zur Verfügung, die eben andere Einheiten nutzen können, die tatsächlich über APIs zum Teil ansprechbar sind, die eben aber ein Modell beinhalten, das eben viele andere verwenden können. Felix: Okay, also auch den Ansatz Zentral-Standards-Kompetenzen-Wissen aufbauen, um dezentral andere Bereiche und Abteilungen zu befähigen zur Umsetzung. Julia: das war für Felix: Wie Julia: Anfang haben wir das noch sehr zentralisiert gemacht. Felix: seid ihr in dem Kompetenzzenter aufgestellt? Also welche weiteren [00:08:00] Funktionen und Expertisen sind dort gebündelt und angesiedelt? Julia: Genau, wir im Center of Competence AI, wir haben verschiedene Funktionen Eine davon sitzt jetzt sozusagen gerade gegenüber, wenn es um die Strategie die Literacy und Felix: Vielen Dank Julia: es sehr viel mehr. Es braucht... braucht die Daten, es braucht die richtigen Daten, es braucht die Daten in einer Qualität und einer Verfügbarkeit man überhaupt ordentlich KI machen kann. Wir brauchen eben die Plattformen auch das sind Teams bei uns unserem Chief Data und der I-Officer, die das bereitstellen. Und natürlich, wie ich eben schon sagte, die skalierbaren Services, auch das wird bei uns von sogenannten Zellen, wir arbeiten nach Scrum und Kanban. Bereitgestellt tatsächlich. kommt auch noch eine Beratungsfunktion hinzu für all diejenigen, die auf die KI-Reise begeben möchten oder schon begeben haben von unseren [00:09:00] Experten. Wir haben auch um diesen dezentralen Gedanken mit diesem einen Center of Felix: Vielen Dank Julia: ins Leben gerufen. Ein und da treffen wir uns regelmäßig in der Gruppe, um uns auszutauschen, welche Services bieten wir denn an, was Felix: Untertitelung ZDF Julia: die kann man auf diese Weise natürlich nochmal besser erklären, als wenn man da jetzt eine Policy schreibt und einfach Felix: Vielen Dank. Glaube ich sofort. Also habt ihr mit dieser Partnerfunktion das Bindeglied geschaffen zwischen den Bereichen und eurem Kompetenzzenter, denn das wäre nämlich meine nächste Frage gewesen und was ja oft eine große Herausforderung bei diesen Modellen ist, wie schafft man es denn, dass das Kompetenzzenter nicht zum Flaschenhals wird, weil ihr seid ja ein riesiges Unternehmen, wenn dann alle möglichen Anfragen auf euch herrschen Einprasseln ungefiltert kommt ja wahrscheinlich überhaupt nicht mehr vom Fleck Also es braucht schon irgendeine Form [00:10:00] von Filterfunktion die aber auch die Standards dann effektiv wieder in die einzelnen Bereiche gibt und vice versa. Und das ist dieser AI-Partner. Julia: kann ihn auch als Multiplikatorenprogramm bezeichnen. Felix: Und welche Rolle spielt jetzt eure AI-Literacy in diesem gesamten Kontext Das ist ja auch ein ganz großer Hebel wenn ich es natürlich schaffe, KI-Kompetenzen in der Breite des Unternehmens aufzubauen, dann ja idealerweise auch schon immer, immer mehr Menschen richtig mit den zur Verfügung stehenden Werkzeugen umgehen ohne zusätzlichen Support zu benötigen. Julia: Genau, ich glaube, darauf kommt es eben ganz drauf an, in welcher Rolle man sich befindet bei uns im Konzern. Also wir unterteilen das nach einer, ich nenne es immer schön die Pyramide, wenn man sich mal fragt wer kommt denn alles mit KI in Berührung bei uns im Konzern wer hat denn alles Kontakt mit KI, kommt man doch recht schnell zur Erkenntnis, dass es Felix: Vielen Dank. Julia: Antwortvorschläge, die bei E-Mails [00:11:00] generiert werden oder wir haben auch so einen internen Chatbot, Commerzbank, GPT, steht auch jedem offen, auch da kann jeder damit in Berührung kommen. ja deswegen haben wir erstmal den ersten Layer unserer Pyramide das ist sozusagen Everyone. Der Daily User sozusagen, der mit KI in Berührung kommt, der braucht aus meiner Sicht vor allem erstmal gutes Verständnis von, was ist eigentlich KI, was kann denn da alles, was kann mir da helfen, was kann denn aber auch schief gehen, also wenn ich jetzt eben zum Beispiel doch eine Halluzination erlebe mit so einem Chatbot, das kann ja passieren, das heißt Felix: Untertitelung ZDF Julia: über Do's und Don'ts reden, also was passiert, Mache ich idealerweise in der interaktion mit so einem bot was mache ich idealerweise nicht also zum beispiel gelten ja auch weiterhin noch die die regel des datenschutzes oder von information security also glaube, der zweite Layer [00:12:00] an Kollegen, den es gibt, das sind die, die KI oder Software nutzen Wo KI-Komponenten dahinter sind. Das muss nicht notwendigerweise eine Software sein, die jetzt rein für den Zweck der KI gekauft wird, aber wir erleben das und ich glaube, das geht allen so, dass die Zunahme von KI in normaler Kaufsoftware einfach zunimmt Ja, gigantisch gestiegen ist im letzten Jahr, in den letzten Monaten und auch da muss man eben schauen, was habe ich denn da eigentlich eingekauft, was Felix: ZDF Julia: denn dann mit den Daten, was passiert denn mit dem was ich da reingebe, was passiert, was komme ich da raus, hier muss man natürlich auch wieder daran denken, das ist jetzt, Auch von der Governance her, die, die das einkaufen, die das zur Verfügung stellen, die sind natürlich in einer gewissen Form auch in einer Sorgfaltspflicht, in einer Felix: ZDF 2020 Julia: dessen was sie da tun. Wir sagen das im Banking immer so schön, Verantwortung kann man niemals [00:13:00] auslagern. Das gilt auch in dem Fall. Deswegen glaube ich, brauchen die Kollegen ein bisschen Zeit Ein zusätzliche Informationen. Und wenn man jetzt Felix: Vielen Dank. Julia: höher geht in unserer Pyramide sind wir dann, ich sage jetzt mal, bei den Data Scientists und bei den Use Case Teams, die wirklich selber KI bauen. ich glaube, die brauchen natürlich nochmal ein ganz anderes Verständnis. Das fängt schon bei den Trainingsdaten an. Fragen wie, kann ich das Bias freimachen oder Bias möglichst vermeiden und einschränken? Das sind natürlich Fragen, mit denen kommt jetzt der normale Nutzer nicht notwendig in Kontakt. Felix: Es gibt ja in dem Kontext Diesen Artikel 4 im EU-AI-Act, der ein gewisses Maß an KI-Kompetenzen einfordert oder vorschreibt. Wie habt ihr das für euch interpretiert Weil es wurde ja doch schon relativ offen gelassen, würde ich jetzt zumindest mal so sagen. Wie habt ihr das für euch interpretiert? Und wie diese drei, vielleicht [00:14:00] fangen wir erst mal daran an. Wie habt ihr das interpretiert Ja Julia: also im Wesentlichen genau mit dieser Pyramide. Der Artikel 4 sagt ja erstmal, man muss sich mit Use und Operate auseinandersetzen und insofern Felix: Vielen Dank Julia: oft haben Menschen ja auch Sorgen vor Dingen, die vielleicht gar nicht Felix: Vielen. Julia: ins Hausaufgabenheft zu schreiben vom Regulator. auf Felix: Dank. Julia: diese Unterteilung von Use und Operate eben getroffen hat, aber dann den Rest der Interpretation adaptierbar macht, dass man sich als [00:15:00] Konzern eben gucken kann, was habe ich denn von Operate, was habe ich denn von Use und dann kann man das, glaube ich, ganz gut an seine eigenen Anforderungen anpassen. Wir haben es auch so, dass wir, wenn wir ein ganz neues Tool ausrollen auch da immer nochmal Do's und Don'ts mitgeben Bezug auf die KI, also zum Beispiel bei unserem Inhouse-Chatbot haben wir das gemacht und bei anderen aber auch, dass man auch toolspezifisch dann nochmal zusätzliche Informationen bekommt und tatsächlich haben wir es so gelöst, wir haben ein paar freiwillige Formate und wir haben eben eine Pflichtschulung für alle, weil eben mindestens alle mit KI als User in Kontakt kommen. Und bei den Maßnahmen haben wir eben viele Angebote Wir haben so ein Quarterly Bulletin, das nennt sich Explained, das ist unser kleiner Roboter Kim, der veröffentlicht den einmal im Quartal Wir haben [00:16:00] Videoserien, was machen wir mit KI intern? Da fährt Kim in einem Safari-Auto zum Beispiel durch die Savanne und lernt dann Anwendungsfälle von KI kennen, weil ich glaube, muss Spaß machen, ist die Barriere noch höher, als sie ohnehin vielleicht schon für den einen oder anderen ist. Felix: Ich höre jetzt immer öfter, dass Hackathons, also gerade auch No-Code-Hackathons immer beliebter werden, gerade auch im KI-Kontext. Wir machen das auch hin und wieder mit unseren Kunden, es kommt immer total gut an. Macht ihr auch solche Julia: Tatsächlich gibt es so Hackathons bei uns im Konzern Ich habe selbst noch in keinem teilgenommen, aber vielleicht wird es mal Zeit. Felix: Messt ihr eure AI-Literacy irgendwie oder sammelt ihr die Teilnahmebestätigung ein? Ich würde gerne verstehen, neben so dem... sagt man, also dem Muss, was [00:17:00] man leisten muss, wie denkt ihr das noch weiter und operationalisiert ihr diesen Kompetenzaufbau und wenn ihr verstanden habt, dass bestimmte Kompetenzen in Bereichen erlangt worden sind, wie werden diese dann auch genutzt? Julia: Also wir orientieren uns jetzt stark auch an dem was an Bedarf da ist. Wir haben zum Beispiel auch rollenspezifische Trainings die wir anbieten zum Beispiel für Marketing oder Führungskräfte. nächstes wollen wir uns natürlich stark auch um AI-Agents kümmern. Da haben wir schon kleinere Felix: Dank. Julia: wir einfach sehen... Literacy hört ja nicht auf, wenn du einmal so eine Pflichtschulung gemacht hast. hast dann vielleicht kurz mal verstanden was Prompting funktioniert, aber sage mal, die KI-Welt da draußen, die dreht sich eben weiter. ich glaube, Themen gehen uns da nicht aus und die Neugierde in unseren Konzernen ist auch [00:18:00] ziemlich hoch. unsere Formate werden eigentlich ganz gut angenommen. Tatsächlich messen wir das schon und versuchen eben auch viel über... freiwilliges Feedback oder was die Kollegen auch anfragen was sie gerne zusätzlich lernen möchten, ja Felix: Gibt es ein Lernformat was besonders gut ankommt oder ankam was sich die Zuhörer merken können? Julia: Also ich gebe es ehrlich zu, was mir am liebsten am meisten Spaß gemacht hat, war unser kleiner Roboter Kim, der mit dem Safari-Auto als Trickfilm durch die Savanne gefahren ist. glaube, das hat auch vielen anderen Kollegen am meisten Spaß gemacht, weil es einfach ein lustig war und mal was anderes gemacht Felix: Naja, also nicht so die 0815 Corporate-Schulung und ja, okay, gut, gucke ich mir jetzt an, sondern mit einem gewissen Unterhaltungswert und ihr habt dort auch drumherum eine Persona entwickelt mit Kim, ein Avatar, der immer wieder auftaucht in den unterschiedlichen Schul- und [00:19:00] Lernformaten. Julia: also er ist jetzt kein richtiger Avatar, er ist ganz bewusst 2D und er ist auch Felix: ja, ja ja ja. Julia: noch Freunde, es gibt noch eine Daisy. Die ist seine Mitbewohnerin in der Doppelhaushälfte und es gibt auch noch Valerie, Valerie, die validiert ihn, das ist so zu wissen der Doktor, Kim zum Health-Check-Up muss, dann guckt Valerie mal nach, ob noch alles funktioniert da drinnen bei Kim im Roboterkästchen und ja Valerie ist die validierende Einheit die guckt dass da auch nichts schief geht. Felix: Okay, also so ein bisschen Mix aus Sitcom und Sendung mit der Maus. Julia: ein bisschen... Felix Schlenther: Kurz in eigener Sache. Wenn dir der AI First Podcast gefällt und du mehr spannende Inhalte und hochkarätige Gäste hören möchtest, dann freue ich mich über deine Unterstützung. Mit einer Fünf-Sterne-Bewertung und einem Abo für den Podcast hilfst du uns sichtbarer zu werden und AI First weiterzuentwickeln. Für dich und die gesamte [00:20:00] Community. Ich danke dir. Felix: Okay, gut, das habe ich verstanden. Jetzt war noch der Teil... AI Governance und da würde ich gern von dir noch mal in einfachen Worten erklärt bekommen, was versteht ihr unter AI Governance, weil ich finde es Der Begriff Governance, der wird sehr so freigiebig genutzt und immer mal so hingeworfen, ja wir müssen jetzt Governance machen, wir müssen uns um die Governance kümmern und dann verstehen zehn Leute im Raum, was unterschiedlich ist darunter und AI Governance macht es dann nicht unbedingt leichter. du das beschreiben? Julia: also da spiele ich jetzt mal die Bankkarte, bei uns ist der Begriff Governance natürlich jetzt nicht ganz neu vom Himmel gefallen. Governance machen wir schon ganz viel und so eine typische Governance die Funktion, die funktioniert so, du hast eine First Line, eine Second Line und eine Third Line of Defense, sich unser [00:21:00] Freelines-of-Defense-Modell Es gibt sicherlich auch noch in anderen Industrien, aber in der Bank ist es eben, ich sage jetzt mal, so ein Standardbegriff. Und deswegen, glaube ich, kann man es am besten daran Felix: Vielen Dank. Julia: die etwas umsetzen, die etwas tun. Das ist der erste Abwehrmechanismus, weil die sozusagen die an der vordersten Frontline sind. Dann hast du die Secondline, das sind die, die die Anforderungen formulieren und auch kontrollieren. da würde ich tatsächlich auch den Begriff AI Governance am allermeisten tatsächlich sehen. Ich glaube, es geht nur zu dritt in den Freelines, aber ich glaube, AI Governance gerade mit dem Kontrollwesen und den Überprüfungen durch die Kollegen... Ist der AI-Governance-Begriff schon stark angelehnt an die Second Line, die wir kennen. Und dann gibt es noch die Third Line, das ist immer das interne Audit, die eben schaut, dass die Kontrollen und Standards [00:22:00] eingehalten werden und eben auch überprüft sind das sinnvolle Standards, sind das richtige Standards und was gilt es dort noch zu verbessern. Felix: Okay, und was habt ihr im Bereich AI Governance konkret für Maßnahmen oder auch Standards erarbeitet denen ihr folgen wollt? Weil das Ziel ist es ja, eine sichere... Steuerung aller KI-Initiativen und Anwendungen innerhalb des Unternehmens zu gewährleisten, die dem Unternehmen und allen Personen darin nützt und Kundinnen natürlich auch und nicht schadet. Julia: also zuerst einmal haben wir ein KI-Inventar aufgebaut. Wo steckt denn eigentlich überall KI drin bei uns in den Anwendungen die wir so haben? Sei es jetzt Kaufsoftware, sei es eigengebaute KI, sei es bis hin zu sophisticated [00:23:00] Excel-Sheets Die als End-User Computing bei uns auch registrierungspflichtig sind und tatsächlich, glaube ich ist das der Startpunkt, man braucht erstmal einen Überblick. Das haben wir schon vor ein paar Jahren gemacht, also diesen Überblick haben wir jetzt auch schon länger und da haben wir bewusst damals auch nicht direkt nach EU-EIAC-DEI-Definition gefragt, sondern wir haben eben gefragt, Was für Modelle benutzt ihr denn? Denn damals war noch etwas offener, den NDAI definiert ist. Und wir können auch nicht davon ausgehen, dass in jeder anderen Jurisdiktion in der wir tätig sind als Commerzbank, die EI-Definition dieselbe sein wird. Deswegen haben wir nach Modellen gefragt und nicht nach, hast du jetzt eigentlich EI? Und da ist ja dann auch immer die Frage, was versteht man darunter Das mag jetzt... Doch zwischen verschiedenen Ländern differenziert sein. Und ich glaube auch... man jetzt an KI Felix: [00:24:00] Untertitelung ZDF Julia: doch eher einfache Regressionen oder sowas was ja durchaus reich diskutiert wurde bei das letzte ein, zwei Jahre ob das jetzt eigentlich auch schon KI ist oder nicht. Das heißt, davon haben wir uns gar nicht beirren lassen dieses KI-Inventar aufgebaut und dann haben wir natürlich geguckt, naja, was sollte man denn tun, um ein ordentliches Modell zu haben und ein ordentliches Modell auch zu pflegen. Tatsächlich haben wir unsere ersten Guidelines zu Machine Learning, hießen sie damals noch, da hatten wir den Begriff von AI noch vermieden weil Ja, wir uns da noch mehr in der Ära des maschinellen Lernens befunden haben. hatten wir schon die erste Guideline um einfach eine gewisse Einheitlichkeit auch zu erzeugen für unsere Kollegen, die damit arbeiten müssen oder die diese Standards umsetzen sollen und natürlich auch um das Risikomanagement der Bank für diesen Teil, der da neu entsteht Auf die Bank zugekommen ist, fit zu machen. Und jetzt muss man natürlich sagen, als Bank [00:25:00] haben wir natürlich schon viele verschiedene Risikoarten, die abgedeckt werden. Wenn man mal überlegt der Herr Ayeg sagt natürlich, er ist das erste Gesetz, das KI jetzt in der Art und Weise reguliert als Komponente von Software. Das ist auch richtig. Aber das Wort KI ist in vielen anderen Gesetzestexten die schon länger gelten durch die Hintertür schon drin. Wenn ich mal an die Datenschutzgrundverordnung denke, da redet man von Automated Decision Making. Wie klappt das gut? Natürlich mit KI. Vor allem, wenn man eine sehr weite Definition von KI zugrunde legt kann ja auch sehr viele schon KI sein. Dasselbe gilt für, ich sage mal, bankenspezifische Regulierungen Da gibt es dann oft das Wort Modell oder Algorithmus, zum Beispiel bei Algorithmic Trading, also algorithmischem Handel oder eben auch bei den Kreditmodellen oder natürlich den sonstigen Risikomodellen für andere Risikoarten. Das heißt, dass... Das Modell oder [00:26:00] Modellrisiko in so einer Bank, das gibt es nicht erst seit KI, das gibt es nicht Schon sehr viel länger und das ist auch schon sehr, sehr lange reguliert vom Regulator. Das ist eigentlich, ich sage jetzt mal, ein Kerngeschäft, das sich durch KI erstmal gar nicht nur so verändert, aber durch die Denke die jetzt mit KI hineinkommt natürlich nochmal neu betrachtet werden muss. Das Felix: Vielen Dank Julia: schon... Modellrisikokollegen, wir hatten auch schon Risiken im Konzern abgedeckt, Information Security natürlich auch schon lange ein Thema in der Bank, Datenschutz. Das heißt, wir haben eben schon viele Standards, wir haben schon viele Standardsetzer, wie man so schön sagt, die ihre Themen begleiten und jetzt war es eben an uns, zusammen mit den Kollegen, das Delta. Wir wollen ja nicht doppelt Guidelines schreiben für das Regelwerk der Bank, sondern wir wollen ja den Teil, der jetzt noch übrig ist, abgreifen. Und der Teil, der jetzt noch übrig ist, das sind eben so Fragen [00:27:00] wie, was passiert denn Wenn das Modell falsch liegt, also wie hoch ist da der Schaden Was muss ich tun, damit ich das im Zweifelsfall auch minimieren kann, dieses Risiko dass sowas passiert? Ist es denn überhaupt ein Risiko wenn sowas passiert? Oder ist da noch ein Mensch dazwischen Was ist die Aufgabe von diesen Menschen? Also menschliche Kontrolle, Fairness und Erklärbarkeit auch Verlässlichkeit, dass das Modell... Mal hintereinander bei derselben Anfrage auch fünf Mal hintereinander denselben Output kann auch ein Thema sein. Das heißt, all diese Felix: Vielen Dank. Julia: jetzt arbeiten wir uns tatsächlich durch die Fristen des AIACs. Der AIAC ist ja zwar bereits in Kraft, aber Teile eben noch nicht. Und da arbeiten wir jetzt sozusagen von Frist nach Frist der AIAC sagt [00:28:00] wahnsinnig viel, was man alles mal so machen müsste, aber über das Wie schweigt er sich an vielen Stellen aus. Und gerade für dieses Wie gibt es eben dann neues Papier aus Brüssel, das wir dann immer, wenn es kommt, dann neu verarbeiten. Felix: Wenn du die Möglichkeit hättest die Zeit zurückzudrehen und dafür zu voten ob der EU-AI-Act verabschiedet werden soll oder nicht, wie würde dein Vote aussehen? Julia: Also, das ist eine schwere Frage. Ich würde sagen... Ich finde es gut, dass es ihn gibt. Ich würde dafür stimmen, aber mit einem kleinen Aber. Ich sage jetzt erstmal, warum ich dafür stimmen würde. Ich glaube, der Herr Eieck, der sagt ganz viel darüber aus über welche Werte wir in der EU leben und leben wollen. Also wie wir mit KI eigentlich ein schönes Leben in der EU haben wollen. Wenn ich an diese Prohibited AI, die verbotene KI denke, das sind alles so Themen, die... Die mich jetzt als Bürger eigentlich [00:29:00] dann nachts gut schlafen lassen, wenn das hier vielleicht auch wirklich verboten Felix: Vielen Dank. Julia: die uns als Bank auch jetzt nicht so richtig betreffen tatsächlich. Felix: Social Scoring und ähnliche Dinge. Julia: Denn ich möchte eigentlich nicht in so einem Social Scoring leben, nur weil ich jetzt mit jemandem gut befreundet bin, der jetzt, sag ich mal, möchte ich trotzdem noch einen Kredit bekommen. Das kann ich eben verstehen. Das passt, glaube ich zu unseren Felix: Untertitelung ZDF Julia: wir sowas vielleicht nicht tun sollten. Auf der anderen Seite muss ich sagen, der I-Act... Hat sich eben an vielen Ecken ausgeschwiegen nachdem er dann tatsächlich in Kraft getreten ist und nachdem es diese politische Einigung gab und hat ihm wahnsinnig viele Fragezeichen offengelassen. Also was bedeutet denn die AI-Definition? Was gerade jetzt im August Und 2025 ist ja dieses berühmte Kapitel 5, das live geht. Das Kapitel 5 das [00:30:00] beschreibt sogenannten General Purpose AI Modellprovider. Und nachdem es da sehr, sehr viele... Sehr schwammige Formulierung gab, war man sich eben nicht so ganz sicher, mit was man da darunter fällt, ob man durch eine kleine Modifikation auch selbst dann schon zum Anbieter wird oder nicht. Da gab es sehr viele, ich sage jetzt mal, wissenschaftliche Debatten politische Debatten ja, da sind wir sehr viel im Dunkeln geblieben in 2026 da wird es auch nochmal spannend, da tritt ja die für die Felix: Vielen Dank. Julia: zur Bildung, Credit Scoring, Credit Worthiness Assessment Und eine ganze andere Liste, die man dort nachlesen kann. Und da soll es neue Standards geben. Die Senelec-Standards werden sie oft genannt. Und da diese noch gar nicht bekannt sind und gerade noch in Erarbeitung sind, wird das auch nochmal spannend, die werden wir dann abgleichen gegen [00:31:00] unsere eigenen Richtlinien und eben auch da nochmal eine Delta-Analyse machen, wie das zusammenpasst und was wir da Neues einarbeiten müssen oder vielleicht auch nicht, das sehen wir dann erst. Ja Felix: Ihr habt ein KI-Versprechen für eure Kunden und für eure Mitarbeiter definiert und ausgesprochen. Das finde ich ganz klasse. Kannst du da nochmal darauf eingehen was ihr da gemacht habt? Julia: Ja, das ist tatsächlich was, was uns glaube ich auch unterscheidet von den anderen Anbietern oder anderen Banken im Moment. haben einmal mit den Betriebsräten gearbeitet Uns zusammengesetzt und geschaut, was machen wir als Bank eigentlich im Einsatz mit KI, was bedeutet das für unsere Kollegen, was machen wir auch tatsächlich nicht, zum Beispiel machen wir mit KI keine Leistungs und Verhaltenskontrolle wenn es darum geht, KI einzusetzen, dann wollen wir das eben so machen, dass das unseren Kollegen eben [00:32:00] hilft. Und da haben wir auch so eine Art Do's und Don'ts oder das machen wir, das machen wir nicht, zusammen mit dem Betriebsrat erarbeitet, um tatsächlich auf beiden Seiten ein gemeinsames Verständnis zu haben, was das bedeutet und aber eben auch, ich sage jetzt einfach mal, Ängste zu nehmen. wir gemeinsam auf eine Reise gehen können, auf die KI-Reise. Und Gedanken zu gemeinsam auf die KI-Reise gehen, das haben wir tatsächlich jetzt auch für unser Kundenversprechen gemacht. Das Kundenversprechen ist tatsächlich mittlerweile seit ein paar Wochen auf unserer Homepage zu finden. ich dir gerne nochmal den Link geben. Und genau da haben wir uns auf dasselbe fokussiert was bedeutet KI für unsere Kunden. Und wie machen wir KI ordentlich, sodass unsere Kunden auch nachts gut schlafen können. Felix: Ja, ich finde diese Transparenz Mit der Technologie gegenüber allen, [00:33:00] die damit in Kontakt kommen werden und ja nicht unbedingt im Maschinenraum sitzen und in die Entscheidungen mit involviert sind oder in der Entwicklung mit dabei sind. Ich denke, das ist total wichtig, um diese Klarheit so früh wie möglich zu schaffen. Toll und auch insbesondere in Richtung Kunden habe ich noch nicht oft gesehen, steht. Das war total gut, das mal zu erfahren und das mal etwas greifbarer zu bekommen. Und ja, meiner Meinung nach macht das total Sinn, wie ihr das auch in einem Kompetenzzentrum gegliedert habt und was die einzelnen Unterverantwortlichkeiten in den Bereichen sind. Trotzdem finde ich es immer noch spannend, wie denn die Menschen, die hier in diesem Podcast sind und Wirklich ja ganz vorne in diesem KI-Thema da dran [00:34:00] sind, wie sie selbst KI nutzen. Und vielleicht magst du abschließend noch einmal teilen, was sind so deine persönlichen Lieblings-KI-Use-Cases vielleicht auch Tools, mit denen du gerade arbeitest, welche Rolle spielt KI so? Neben den strategischen und Governance und Literacy-Themen die auf die ganze Organisation abstrahlen ganz persönlich für dich Julia: Ja also KI, bei uns zu Hause gibt es viel davon und viele gute Anwendungsmöglichkeiten Das reicht jetzt von der Schatzsuche vom Kindergeburtstag bis hin zu, welche von meinen Pflanzen hat hier gerade welche Krankheit. Weil ich bin zwar großer Fan von meinem Garten, aber habe wenig Zeit und wenig Ahnung, was eine ganz miese Kombination ist. Aber auch hier hat mir die KI schon gute Tipps geheben. Felix: Dann mit Foto machen und in Chat-GBT rein und hey, erklär mir mal, was das hier für eine Laus ist, die hier meine Blätter kaputt frisst. Julia: ganz [00:35:00] toll. Zumindest habe ich damit gute Erfolge gemacht und wir haben auch selber für unser eigenes Netzwerk noch die Packet Inspection installiert und auch da haben wir eine hauseigene KI-Governance für unseren Datentraffic. Felix: Julia, vielen, vielen Dank für diesen und deine Insights über KI bei der Commerzbank und in deinem Garten. Hat mir viel Spaß gemacht. Und ich wünsche dir weiterhin viel Erfolg auf eurer KI-Reise. Julia: dir und danke für die Einladung Auch mir hat das viel Spaß gemacht heute.