[00:00:00] Herzlich willkommen zum AI-First-Podcast. Heute mit einem ganz relevanten Thema, nämlich wie muss ich mich als Unternehmen eigentlich rechtlich aufstellen, um KI-Technologie in meinem Unternehmen Sicher und verantwortungsvoll zu nutzen und ausrollen zu können. Und ich habe dafür einen großartigen Gast und zwar den Arno Malcher. Arno ist Rechtsanwalt Fachanwalt für IT-Recht sitzt in München und berät schwerpunktmäßig im Bereich künstlicher Intelligenz und Datenschutz und Hat Mandanten sowohl auf der Entwicklerseite von KI, aber auch auf der Anwenderseite insbesondere im Mittelstand. Und Arno wird uns dabei helfen, heute etwas Licht ins Dunkel zu bringen. Arno, schön, dass du da  Arno: Hallo Felix, ich freue mich hier zu sein. Felix: Jetzt gibt es ja in diesen rechtlichen Fragestellungen, und ich erlebe das bei meinen Kunden immer wieder, dass das einer der ganz [00:01:00] großen Blocker dafür ist, überhaupt mit KI in die Umsetzung zu kommen, weil man vor diesen... Berg steht an ungeklärten Fragen, sage ich mal, und einfach ganz viel Verunsicherung da ist. Was darf ich, was nicht und wie muss ich mich aufstellen, um KI sicher nutzen zu können? Kannst du uns mal einen Überblick geben zu den Themengebieten, die es da zu beachten gilt? Arno: Ja, gerne. wenn ich mich als Felix: Vielen Dank. Arno: das heißt der KI-Verordnung? Welche Pflichten treffen Felix: Vielen Dank. Arno: datenschutzrechtlich beachten? Wobei man hier sagen muss, es gibt in dem Sinne keine spezielle KI-Verordnung [00:02:00] Datenschutz-Regulierung, sondern es gibt nur die allgemeinen datenschutzrechtlichen Vorgaben zu beachten, namentlich der DSGVO und des Bundesdatenschutzgesetzes. Ich muss mich dem Thema Felix: Dank Arno: wenn ich KI, insbesondere wenn ich generative KI einsetze und wenn ich gegenüber Kunden KI einsetzen möchte, insbesondere in Form von Chatbots im Kundensupport muss ich mich natürlich auch mit der Frage der Haftung beschäftigen, wenn es zu irgendwelchen Falschanworten oder Fehlinformationen des Chatbots kommt. Das sind so die wesentlichen sagen wir mal, vier Bereiche, über die ich mir einen Überblick verschaffen muss und die ich dann entsprechend halt risikominimierend umsetzen muss. [00:03:00] Ja. Felix: anhand von einem konkreten Beispiel und konkreten Use Cases die es aktuell ganz oft in Unternehmen gibt, das Ganze einmal durchspielen und so auf die rechtlichen Anforderungen Und wir haben gesagt, wir machen das mal am Beispiel von mittelständischen Unternehmen, 500 Mitarbeiter, reine Anwender von künstlicher Intelligenz also es geht in dem Unternehmen nicht darum, eigene KI-Modelle oder Software zu entwickeln und die haben typische Bereiche, Vertrieb Marketing, haben eine Verwaltung, haben jetzt aber keine eigene Verwaltung Produktion, Forschung und Entwicklung oder sowas sondern wir konzentrieren uns jetzt erst mal auf diese kommerziellen und Verwaltungsfunktionen wo es ja auch in vielen Unternehmen gerade losgeht. Da gibt es einfach einen großen Effizienzhebel und das sind ja oft die Bereiche in denen KI gerade [00:04:00] zum Start auch zum Einsatz kommt. Und was ich jetzt ganz oft erlebe und wir hatten auch hier in dem Podcast, Schon einige Gäste, die ihre KI-Reise damit gestartet haben, dass sie einen internen Chatbot eingeführt haben, sowas wie ChatGPT oder Copilot oder was sie auf einer eigenen Infrastruktur entwickelt haben, der Zugriff auf Unternehmenswissen hat und gleichzeitig auch ein großes Sprachmodell anspricht und den Mitarbeiter dann dafür nutzen können, um Alltags... Aufgaben schneller zu erledigen. Die Nachbereitung von einem Meeting oder die Vorbereitung von einem Bericht und ähnliche Routine, repetitive Aufgaben und gleichzeitig aber auch das Wissen vom Unternehmen anzapfen können. Wenn ich jetzt so einen internen Chatbot bei mir im Unternehmen einführen möchte, worauf gilt es denn da rechtlich zu achten? Arno: Ja, zunächst einmal gilt es darauf zu achten und das ist [00:05:00] jetzt übergreifend unabhängig davon, was für eine Art von KI und in welchem Bereich ich sie einsetze. Wenn ich mich als Unternehmen entscheide mich dem Thema zu widmen, dann mir natürlich die Erstmal einen Überblick verschaffen, was sind die wesentlichen technischen, kommerziellen und rechtlichen Anforderungen, die ich einhalten muss und dann muss ich in einem nächsten Schritt beginnen Schauen wenn ich da einen Überblick habe, Felix: Vielen Dank. Arno: für die Mitarbeiter, wie gehe ich eigentlich grundsätzlich mit KI um. Das ist dann die berühmte KI-Policy, weil ich kann mir als Management und als Verantwortlicher für KI im Unternehmen so gut einen Überblick verschafft haben, wie ich will, wenn diese Felix: [00:06:00] Vielen Dank. Arno: jetzt von der Art, was für KI ich einsetze, sind halt die Vorgaben jetzt der KI-Verordnung. Einzuhalten und Felix: Bevor wir da reingehen können wir noch mal ganz kurz auf die Policy, weil das schwirrt ja auch immer so durch den Raum, wir brauchen jetzt Spielregeln, wie man damit arbeiten darf Was gehört denn deiner Meinung nach der In so eine Policy rein, dass die tatsächlich am Ende auch gelebt wird und nicht der nächste bürokratische Akt ist und das nächste Papierstück was irgendwo abgelegt und nie angeschaut wird. Arno: Ja also da ist von der Gestaltung meiner Erfahrung nach wichtig, Felix: Vielen Dank. Arno: sind. Die [00:07:00] werden schlicht und ergreifend von den Mitarbeitern nicht gelesen und davon habe ich nichts. Da habe ich zwar ein schönes Stück Papier in der Schublade, aber wenn die Mitarbeiter sich nicht damit beschäftigen, es nicht verstehen Felix: Vielen Dank. Arno: dann ist dem Unternehmen wenig geholfen. Das heißt, so eine KI-Verordnung muss in einfacher Sprache sensibilisieren dafür, wo die Herausforderungen beim Einsatz von KI liegen. Das ist... Beispielsweise ein wichtiger Punkt, KI kann insbesondere, wenn Felix: Dank. Arno: kann das immer nur eine erste Informationsquelle sein. Ich sollte diesen Output nicht unüberlegt nutzen, weil dafür... Felix: Dank. Arno: des Tages ist halt der Mensch dafür verantwortlich für die Entscheidung, die er da trifft. Zum anderen muss ich [00:08:00] insbesondere, wenn ich, Felix: Vielen Dank. Arno: zu, im Bereich Marketing KI einsetze, ich muss für das Thema Urheberrecht sensibilisieren. Ich muss den Mitarbeitern erklären, was es mit Urheberrechten auf sich Felix: Okay. So eine Policy alleinstehend ist ja sicherlich gut, um einen Standard zu haben zu den Spielregeln wie jetzt so ein internes Tool genutzt werden darf. Würdest du das auch immer mit Schulungen noch untermauern und wenn ja, wie würden die aussehen? Arno: unbedingt Felix, insbesondere weil die Schulung von Mitarbeitern eine Verpflichtung ist, die Jedes [00:09:00] KI-System betreffen unter der KI-Verordnung. Das heißt, unabhängig davon, ob es sich um Hochrisiko-KI-Systeme handelt oder nicht, ich muss meine Mitarbeiter schulen im Bereich KI Des Einsatzes von KI-Systemen und die KI-Verordnung, die bleibt da ein bisschen vage und es ist nur die Rede davon, dass die Mitarbeiter über ein ausreichendes Maß an KI-Kompetenz verfügen. Wobei dann insbesondere halt technische Kenntnisse erforderlich sind und wie KI-Systeme funktionieren und wie sie eingesetzt werden sollen, wo da, sagen wir mal, die rechtlichen Herausforderungen liegen. Felix: Und diese Richtlinien auf EU-Ebene die müssen doch jetzt auch von den Ländern noch konkretisiert und umgesetzt werden. Ist mein Verständnis das Richtige? Arno: Das ist zutreffend wobei die KI-Verordnung in [00:10:00] mehreren Stufen jetzt umgesetzt wird. Das heißt, ab dem 2. Februar 2025 beispielsweise gilt schon diese Schulungsverpflichtung Ab dem August 2025 gelten dann bestimmte Bestimmungen für sogenannte General Purpose AI. Das heißt, das sind diese Large Language Models wie ChatGPT beispielsweise, die in verschiedensten Feldern eingesetzt werden können. Und ab 2. August 2026 gelten dann sämtliche übrigen Bestimmungen der KI-Verordnung. Felix: Okay, also wenn ich jetzt ein Geschäftsführer in einem Unternehmen wäre oder HR verantwortlich, dann würde ich mich Ja fragen, okay, jetzt gibt es in dieser KI-Verordnung diese Regel, dass wir unsere Mitarbeitenden schulen müssen, wenn wir intern KI-Systeme nutzen. Kann man schon absehen, wie umfangreich das denn sein muss? Arno: [00:11:00] Äh ehrlich gesagt nicht. Also, das, äh Also da würde ich mich jetzt, das ist jetzt hier keine Antwort, aber da gibt es jetzt noch keine wirklichen Vorgaben oder Inhalte Ich würde einfach, sagen wir mal, das, was ich in der KI-Policy halt vorschreibe, das wäre halt ein wesentlicher Inhalt, dass ich das halt dem Nutzer Felix: Okay alles klar. Gibt es noch weitere Sachen zu so einem internen Chatbot als so einen größeren Use Case zu beachten? Eine Frage die ich oft bekomme, ist, welche Daten dürfen denn da jetzt rein? Ich habe jetzt Intellectual Property, irgendwelche sensiblen Geschäftsgeheimnisse, wo es aber auch sehr hilfreich wäre, wenn ich die von so einem Chatbot einfacher durchsuchen kann und ich habe vielleicht auch Kundendaten in Berichten, die ich damit verarbeiten kann Das würde mir zumindest Zeit sparen. Ist das erlaubt oder nicht und wann ist es erlaubt oder nicht? Arno: [00:12:00] Ja, was Geschäftsgeheimnisse anbelangt da ist natürlich die Felix: Vielen Dank Arno: Rahmen von Prompt Einzubringen in die KI. Die Frage, die man sich da stellen muss, ist, Felix: Vielen Dank. Arno: dazu raten Geschäftsgeheimnisse, insbesondere wenn sie von Kunden sind, nie in so einem System zu verarbeiten Und eine andere Frage betrifft dann den Fall, wie sieht es datenschutzrechtlich Felix: Untertitelung des ZDF, 2020 Arno: [00:13:00] als Leitlinie immer empfehlen eigentlich so ein System ohne personebezogene Daten halt zu nutzen. Felix: wenn wir doch personenbezogene Daten damit nutzen wollen, dann müssen wir eine Auftragsdatenverarbeitungsvereinbarung mit dem jeweiligen Anbieter abschließen können. Ist das korrekt? Arno: ist Felix: Vielen Dank Arno: ja vor, dass mich als Verantwortlichen, das heißt, wenn ich über Mittel und Zwecke der Datenverarbeitung entscheide was, wenn ich ein KI-System betreibe üblicherweise der Fall ist, dass ich für die Daten datenschutzrechtlich verantwortlich bin. Und wenn ich bei dieser Datenverarbeitung Dritte einbinde, beispielsweise den Anbieter eines KI-Systems dann... Liegt in der Regel eine sogenannte Auftragsdatenverarbeitung vor, das werden viele kennen. Wo ich halt unter Zuhilfenahme des Anbieters halt [00:14:00] Datenverarbeitungsvorgänge in einem bestimmten Umfang vornehmen lasse. Und hierfür sieht dann die Felix: Dank. Arno: davon, ob ich jetzt ein KI-System einsetze oder nicht, zwingende wenn ich mich Dienstleistern bediene, die mich halt bei der Datenverarbeitung unterstützen. Felix: Wenn ich das jetzt nicht mache und ich führe jetzt einfach so ein Tool ein oder ich führe gar nichts ein und ich habe auch keine Policy und meine Mitarbeiter nutzen munter mit ihren privaten Accounts ChatGPT, laden Kundendaten rein, laden da vertrauliche Berichte rein und das kommt irgendwann ans Licht. Worauf muss ich mich dann einstellen?  Arno: das jetzt nicht regle im Unternehmen und ich Felix: [00:15:00] Vielen Dank Arno: Verletzung dar. Und dann kann es im schlimmsten Fall passieren, dass halt entweder Kunden, die das mitbekommen, die Datenschutzbehörde darauf aufmerksam machen und die sich dann an mich wendet als Unternehmen, was dann im Ergebnis in einem möglichen Bußgeld resultieren kann. Felix: Okay, und es gibt ja dieses Phänomen der Schatten-KI aktuell, also... Dass viele Menschen, insbesondere die am PC arbeiten, gelernt haben, dass ihnen KI-Tools schon dabei helfen, irgendwie produktiver zu sein. Und wenn so eine Infrastruktur vom Unternehmen nicht zur Verfügung gestellt wird, die Menschen dann doch einfach ihre eigenen Tools mit zur Arbeit bringen. Bring Und hier gibt es dann also massive Risiken dass genau das passiert, was du gerade geschildert hast und ein Weg dagegen anzuarbeiten wäre [00:16:00] es eben zum einen eine Businesskonforme Lösungen einzuführen, die alle Mitarbeitenden nutzen können und das eben mit Regeln Richtlinien zu versehen wie man damit verantwortungsvoll und sicher arbeiten kann, beispielsweise keine Geschäftsgeheimnisse dort reinlegen, das wahrscheinlich nochmal spezifizieren und keine personenbezogenen Daten verwenden, wenn es diese Verträge nicht gibt oder das entsprechend die Richtlinie der Firma ist. Und dann auch im Sinne des AI-Acts eine Schulung zu ermöglichen den Mitarbeitenden, um notwendige Kompetenzen aufzubauen. Ich glaube, das ist ja sowieso jetzt mal abgesehen von den Sicherheitsaspekten total relevant. Dass alle Mitarbeiter im Unternehmen verstehen, wie AI funktioniert und wie sie das, diese Möglichkeiten für ihren eigenen Arbeitsalltag sicher, verantwortungsvoll, produktiv einsetzen können, weil genau so ein [00:17:00] Team mit diesen Kompetenzen eben viel leistungsfähiger in der Zukunft noch werden wird.  Arno: ich das halt nicht regle und einfach, weil die Mitarbeiter werden es nutzen, die Mitarbeiter wissen, dass sie Vorteile dadurch Felix: Dank. Arno: die Mitarbeiter verstehen und die auch ins Unternehmen reingetragen werden, dann... Die Mitarbeiter Felix: Vielen Dank Jetzt haben wir gerade die interne Perspektive beleuchtet Wir nutzen so ein Chatbot für interne Aufgaben Produktivitätssteigerung. Lass uns mal auf die externe Perspektive schauen. Was verändert sich denn jetzt, wenn ich ein Chatbot beispielsweise nutze der Kundenanfragen beantwortet [00:18:00] Oder ich nutze ein Sprachmodell in meinem Kundenservice-Prozess, was eine einkommende E-Mail analysiert und darauf eine Antwort formuliert und vielleicht auch an den Kunden rausschickt. Was verändert sich dann in den rechtlichen Anforderungen Risiken und wie man sich dort aufstellen muss? Arno: Wenn ich jetzt einen Chatbot-Agenten im Kundenservice einsetze und damit quasi KI einsetze die das Unternehmen nach außen Felix: Dank. Arno: halt empfindlichere Folgen geben kann im Hinblick darauf, wenn dieser Chatbot halt Felix: Vielen Dank. Arno: hier gilt es zu Felix: Vielen Dank. Arno: für [00:19:00] KI-Systeme in zivilrechtlicher Hinsicht Insofern bleibt es dann bei den zwei wesentlichen sagen wir mal, Haftungsregimen, die wir haben. Es kann eine vertragliche Haftung bestehen. Auf Basis des Vertrages den ich mit dem Kunden habe, oder es kann eine sogenannte deliktische Haftung Felix: Vielen Dank. Arno: verhalten habe bei der Inbetriebnahme. Das könnte beispielsweise dann der Fall Felix: Vielen Dank Vielen Arno: beim Betrieb sein Des KI-Agenten zu einem pflichtwidrigen Verhalten kommen, weil ich für so ein System, was Risiken halt für meine Kunden entfaltet, [00:20:00] ich Überwachungspflichten habe. heißt, ich muss das System beobachten und ich muss gucken, arbeitet es den Anforderungen entsprechend, schleichen sich Fehler ein? gilt es halt zu beobachten und ein wichtiger Punkt, der mir da auch einfällt, ist, wenn ich jetzt das System, das KI-System eines dritten Nutzer eines Anbieters und der stellt mir Updates zur Verfügung, dann kann sich hieraus auch eine Verletzung meiner Überwachungspflicht ergeben, wenn ich beispielsweise es unterlasse, diese Updates regelmäßig auch einzuspielen. Felix: Also zusammengefasst habe ich jetzt rausgehört, ich als Unternehmen oder wir als Unternehmen haften für alles, was dieser Chatbot oder das KI-System, was im Hintergrund läuft und zum Beispiel Antworten im Kundenservice produziert, was das nach draußen schickt. Arno: Ja, also sagen wir mal so, wir bewegen uns hier natürlich noch so ein bisschen in so einer [00:21:00] Terra incognita. Das heißt, es gibt Felix: Vielen Arno: Dann wäre es so, wenn ich alles dafür getan habe, dass dieser Chatbot-Agent richtig implementiert Felix: Vielen Dank. Arno: ich natürlich  Felix: Vielen Dank. Arno: Haftung genommen, aufgrund einer Falschbeantwortung einer Frage durch den Chatbot. Der Hintergrund war, dass sich ein Fluggast oder ein potenzieller Fluggast halt informieren wollte, ob es sogenannte Trauertarife [00:22:00] gibt. Das heißt, Felix: Dank. Arno: meinem näheren Umfeld ist gestorben ich muss von A nach B kommen, gibt es bei Felix: Vielen Arno: reduzierte oder Felix: Dank. Arno: war es aber nicht der Fall, beziehungsweise es musste eine gewisse Frist eingehalten werden, wo ich mich dann an den Kundenservice von Air Canada wende, damit das zu dem regulären Preis gekaufte Ticket dann halt rabattiert wird aufgrund dieses Trauertarifes. Und da hat das Gericht gesagt... Für diese Falschinformationen musst du haften, weil diese Falschinformationen bewerten wir so, als hätte es einfach eine falsche Information auf Felix: Untertitelung des, 2020 Arno: haben da die Verbindung halt hergestellt, hättest du jetzt die Information falsch auf deiner Webseite geliefert, hättest du dafür auch haften müssen. Also insofern da sind viele Fragen noch ungeklärt aber ich kann natürlich die [00:23:00] Haftung nicht generell dadurch abwälzen, dass ich sage, ich habe jetzt ein KI-System eingesetzt da weiß ich gar nicht, was das antwortet und deswegen bin ich dafür auch nicht haftungsrechtlich verantwortlich. Felix: lass uns auch ein machen. Ich produziere jetzt Mikrowellen und verkaufe die und habe dann auch ein Chatbot auf meiner Webseite und Ein Nutzer fragt dann, ich glaube, diese Beispiele gab es ja auch schon in den USA, kann ich auch meine Katze trocknen in der Mikrowelle? Und der Chatbot antwortet, ja, das ist kein Problem. Ich nehme dann meine Katze die kommt in die Mikrowelle, stirbt dann natürlich und ich verklage dann das Unternehmen, was über den KI-Chatbot mir diese Aussage gemacht hat. Ich bin dann als Unternehmen auch haftbar in so einem Fall. Arno: Ja, auch hier würde ich die Relation Felix: Vielen Dank Arno: Würde ich ja, wenn [00:24:00] ich jetzt mal den Vergleich ziehe wenn ich als Hersteller einer Mikrowelle in die Bedienungsanleitung reinschreibe Sie können auch ruhig Ihre Katze da reinstecken, dann wäre das natürlich auch eine Information, eine fehlerhafte, an der ich mich festhalten lassen muss und da halte ich es dann auch nicht für ausgeschlossen, dass es dann zu einer Haftung kommt. Felix: Ja, okay. Ja, ich denke, dass hier vor allem die Verantwortung die Unternehmen haben und dass eine Antwort, die von einer KI kommt, dann nicht die KI dafür haftbar ist, sondern das Unternehmen, was die KI zum Beispiel auf der Webseite im Kundenservice, im Vertrieb Nutzt, sich dem bewusst ist, dass auch vor allem Sprachmodelle auch immer noch falsche Informationen, Halluzinationen erzeugen können und dass man dafür haftbar gemacht werden kann und einfach sehr, sehr sorgfältig ist im Aufsetzen dieser Systeme und das sehr, sehr sorgfältig vorab testet, bevor man das in den Live-Betrieb macht Arno: Auch [00:25:00] hier wäre mein Rat, dass ich innerhalb des KI-Systems gewisse Sollbruchstellen vorsehe, sei Felix: Vielen Dank. Arno: Fragen gestellt werden, dass ich dann beispielsweise an einen menschlichen Agenten im Kundensupport verweise ist jetzt nicht nur im Hinblick der Haftung relevant, meine ich, sondern kann auch einfach image-schädigend sein, wenn ich das nicht tue. Banales Beispiel, wenn ich eine private Krankenversicherung bin und es über den Chatbot ein Versicherter bei mir, der von mir Informationen haben will, Felix: Dank. Arno: Familienmitglied gestorben, dann ist es natürlich wenig sensibel wenn ich die gestellten Fragen und wenig pietätvoll, wenn ich die Fragen halt einfach durch ein [00:26:00] KI-Chatbot beantworten lasse sondern dann ist es ja mein Interesse als Unternehmen, dass ich dann auch entsprechend pietätvoll mich an meinen Versicherten wende. Und das kann eigentlich nur dadurch passieren, dass ich dann auch an einen menschlichen Mitarbeiter weiterleite. Felix: Kommen wir mal zum dritten größeren Anwendungsgebiet und zwar dem Marketing. Ich hatte gestern erst wieder einen Workshop, wo die Frage aufkam, ich generiere mir jetzt mit Tools wie mit Journey Bilder, ich nutze KI-Assistenten wie Claude oder JetGBT, um mir Texte zu schreiben. Wer, wem gehören denn eigentlich jetzt diese Bilder und die Texte Wer hat da das Urheberrecht? Was darf ich davon eigentlich verwenden und was nicht? Arno klär uns bitte auf. Arno: Ja, gerne. Also um auch hier vielleicht einmal so den Bogen zu spannen um ein allgemeines Verständnis dafür zu haben. Wenn ich mir ein Felix: [00:27:00] Dank. Arno: habe ich verschiedene Stellen, wo eigentlich das Urheberrecht relevant werden kann. Das ist einmal natürlich beim Training der KI der Fall. Das heißt, mit welchen Daten trainiere ich die? Sind diese Daten urheberrechtlich geschützt? Habe ich entsprechende Rechte daran? Felix: Vielen Dank. Arno: Schrankenregelung zu, dass ich auch ... ohne Zustimmung des Rechteinhabers diese Daten nutzen darf, dann ist die Frage Input einer KI? Kann der urheberrechtlich geschützt sein? Natürlich, wenn ich Felix: Vielen Dank. Arno: verwende, ohne dass ich die Erlaubnis dazu habe, dann ist das nur urheberrechtlich relevant für Nutzungshandlungen. ich würde Felix: Vielen Dank. Arno: des Inhabers verletzen wenn ich das mache, ohne dazu [00:28:00] berechtigt zu sein. Wobei man hier sagen muss, wenn ich innerhalb eines Unternehmens halt... Urheberrechtlich geschützte texte dritter verwende ist natürlich das aufdeckungsrisiko eher gering also dass der rechte inhaber das mitbekommt ist Felix: Dank. Arno: geschützt? Hier ist es halt ein wesentlicher Grundsatz des Urheberrechts, dass nur menschliche Schöpfungsleistungen urheberrechtlich geschützt sein können. Felix: Vielen Dank. Arno: Output einer KI kann eigentlich nie urheberrechtlich geschützt sein. Das führt mehr oder weniger, um was für einen Output es sich handelt mehr trivialen oder weniger [00:29:00] trivialen kommerziellen folgen beispiel wenn ich mir für ich bin Felix: Vielen Dank. Arno: von so einer kommerziellen Relevanz wenn jetzt ein Dritter hingehen würde und würde diesen Text für sich selber nutzen. Was er halt insofern... Konsequenzlos machen könnte, weil halt keine Urheberrechte an dem Text bestehen. Das heißt, ich kann einem Dritten nicht verbieten, diesen Text zu nutzen. sieht es hingegen aus, wenn ich beispielsweise Software-Code entwickeln lasse von einer KI. Wenn Felix: Vielen Dank. Arno: dann ein Geschäftsmodell implementieren möchte oder das anders diesen Code kommerziell nutzen möchte, Dann kann ich auch hier einem Dritten nicht verbieten, [00:30:00] wenn Felix: Vielen Arno: nutzen. Es Felix: Dank. Arno: ich muss mir insofern gut überlegen, welche Risiken ergeben sich eigentlich für mich anhand des konkreten Outputs, den ich mir erwünsche ich hier für kommerzielle Risiken habe oder nicht, wenn Dritte das in die Hände bekommen und nutzen, ohne dass ich dagegen vorgehen kann oder damit einverstanden bin. Felix: Wie sieht es denn jetzt aus, wenn ich sage, erstelle mir mal ein Bild von einem BMW, der durch die Wüste fährt? So, und ich bekomme dann ein Bild ausgespuckt wo ein Auto drauf ist, was wie ein BMW aussieht vielleicht ist auch noch das Logo drauf. Ich nehme jetzt dieses Bild und packe das auf meine Webseite oder veröffentliche das auf Social Media. Wird es sich da anders verhalten? Also wenn ich Marken oder bereits geschützte [00:31:00] Figuren, so Mickey Mouse oder sowas in meinen Bildern nutze? Arno: Da muss man wissen, dass das Markenrecht erst dann eine Markenrechtsverletzung annimmt, Felix: Vielen Dank Arno: Verwechslungsgefahr besteht oder nicht, wenn etwas urheberrechtlich geschützt ist und ich habe nicht... Eine entsprechende Erlaubnis des Rechteinhabers dann darf ich das Felix: Vielen Dank Arno: Verwechslungsgefahr, dann... Wird man eine [00:32:00] Markenrechtsverletzung annehmen müssen. Auch das folgt dann aber den allgemeinen Regeln und nicht markenrechtlichen Regelungen, die speziell für KI gelten. Felix: Okay, okay, verstanden Also da einfach vorsichtig sein, wenn man Marken in KI-generierten Bildern Inhalten nutzt und sie im Geschäftskontext verwendet, beziehungsweise am besten nicht machen. Arno: Am besten nicht machen und wenn ich es mache, wenn es für mich ein wesentlicher Anwendungsfall ist, dann immer vorher rechtlich abklären lassen, wie das für den konkreten Einsatz aussieht ob ich da Probleme markenrechtlicher Art bekommen kann. Felix: Jetzt springen wir noch mal, ich möchte noch einmal kurz im Urheberrecht und zu den Texten zurück. Denn es ist ja bei Texten also wenn ich jetzt eine Mickey Mouse oder einen Superman oder sowas auf meinem Bild habe und ich weiß, das ist eine geschützte Marke oder ein Logo von Coca-Cola, Dann kann ich mir so vorstellen, okay, das Bild sollte ich jetzt lieber nicht verwenden. Wenn ich jetzt aber einen Text schreiben lasse und vielleicht sind in [00:33:00] diesem Text Passagen drin oder Zitate, die von jemand anderem genauso eins zu eins stammen und ich verwende diese Texte würde das dann auch unter das Urheberrecht fallen oder nicht? Ja. es ist ja fast unmöglich für mich dass dann, also wenn ich jetzt sage, schreib mir mal die ersten fünf Seiten von Harry Potter, so, dann ist mir das ja bewusst, dass ich auf ein Werk verweise, was es bedeutet Und dann darf ich wahrscheinlich ja diese fünf Seiten nicht einfach nehmen und veröffentlichen weil das von einem anderen Urheber ist. Aber wenn ich jetzt sage, schreib mir mal irgendwie eine Geschichte über einen Zauberer und da kommen die ersten fünf Seiten von Harry Potter, dann weiß ich das ja vielleicht gar nicht dass das genau aus diesem Buch stammt, verwende diesen Text und mache ich mich dann strafbar damit. Arno: Also bei einer Urheberrechtsverletzung, dass die Felix: Vielen [00:34:00] Dank. Arno: extrem hoch ist. Das heißt, es gibt eigentlich so gut wie keine Verschuldung Schuldlosen Urheberrechtsverletzungen. Das ist Felix: Dank. Dank. Arno: keine Referenzfälle. Aber da wäre mein Judiz so, dass ich sage, wenn ich schon mir vom Input her eigentlich möchte, um Felix: Vielen [00:35:00] Dank. Arno: Urheberrechtsverletzung dar und die wird auch schuldhaft sein. Wenn ich mir jetzt von ChatGPT aber in Form eines allgemeinen Inputs einen Output erstellen lasse, dann ist der Output ja auch nur dann, stellt er eine urheberrechtliche Verletzungshandlung dar, wenn ich den in irgendeiner Form nutze, beispielsweise bei mir auf die Webseite stelle. Und... Da ist es dann so, wenn ich eigentlich eine allgemeine Anfrage einen allgemeinen Input prompt gestellt habe an Chat-TPT, dann würde es meine, sagen wir mal, Felix: Dank Arno: um zu habe ich hier eigentlich, verletze ich hier immer rechte Dritter, überfordern wenn ich jedes Mal versuchen Felix: Dank. Arno: geschützten Teilen Dritter. [00:36:00] Also insofern... Es ist wie gesagt, es gilt ein sehr hoher Verschuldungsmaßstab im Urheberrecht, aber da bin ich gespannt, auch wie sich das rechtlich entwickeln wird durch die Rechtsprechung, weil da kommt man natürlich an die Grenzen dessen was man eigentlich noch bewerkstelligen kann. Hier würde ich aber als mitigierende Maßnahme empfehlen wenn ich das jetzt nicht nur als Informationsquelle nutze diesen Output, sondern ich möchte ihn tatsächlich... In irgendeiner Form dritten zugänglich machen, das heißt auf eine Webseite stellen oder ähnliches, Felix: Ja. Arno: geliefert bekomme. Und wenn ich da dann halt nahezu übereinstimmende Texte finde, In den Ergebnissen, dann würde ich diesen Text, diesen Output nicht ungefiltert übernehmen, sondern dann würde ich ihn selber nochmal überarbeiten, dass ein gewisser Abstand zu dem Output [00:37:00] entsteht damit ich hier mehr oder weniger auf der sicheren Seite bin und keine Urheberrechtsverletzungen begehe. Felix: Verstanden ja ich merke schon wahrscheinlich werden die nächsten jahre sehr sehr spannend wenn es noch viel mehr referenzfälle und auch rechts Gibt zu all den Themen, über die wir heute jetzt gesprochen haben. Ist ja noch sehr viel grüne Wiese anscheinend. Arno: Ja, auf jeden Fall. Also das wird auch spannend werden Felix: Vielen Dank. Arno: entstehen die dann auch zu Gericht Felix: Vielen Dank. Arno: gewinnen oder zu generieren, weil wie gesagt, KI [00:38:00] ist so eine neue Technologie, die abseits dessen ist, was uns bislang bekannt war an den Möglichkeiten, die sie bietet, dass es da auch zu einer Rechtsfortbildung kommen muss und die wird spannend sein zu beobachten. Felix: Lass uns doch mal kurz ein paar Minuten auf diese KI-Verordnung eingehen. Ein mittelständisches Unternehmen, ich habe nicht die Ambition, eigene KI-Technologie zu entwickeln. Ich möchte einfach nur die Möglichkeiten und Produkte am Markt nutzen, um meine interne Produktivität Effizienz vor allem im ersten Schritt mal zu steigern. Darum geht es ja gerade in den meisten Unternehmen. Und kannst du uns mal ganz kurz noch so einen Abriss geben, KI-Verordnung, was muss ich dort beachten, um konform zu sein? Arno: Ja, dafür ist es entscheidend dass man eine Einordnung vornimmt des KI-Systems was man einsetzen will nach den Vorgaben der[00:39:00]  Felix: Dank Arno: und die KI-Verordnung verfolgt da einen risikobasierten Ansatz unterscheidet zum einen KI-Systeme die nicht erlaubt sind. Das wären beispielsweise Systeme die so ein Felix: Vielen Dank Arno: geknüpft. Solche Systeme sind nach der KI-Verordnung komplett verboten. Dann gibt es Hochrisikosysteme die sind nicht grundsätzlich verboten Sondern erlaubt unterliegen jedoch strengen Anforderungen und bilden eigentlich so ein bisschen das Herzstück der KI-Verordnung. Was sind jetzt Hochrisikosysteme Da wird einmal unterschieden zwischen KI-Systemen die in bestimmten Branchen eingesetzt werden. Hier wird in der [00:40:00] KI-Verordnung dann Felix: Dank. Vielen Dank Arno: es liegen Ausnahmen vor, die es auch gibt, dass ich dann wieder rausfalle aus der Anwendbarkeit Und es gibt KI-Systeme die unabhängig von der Branche, wie der Gesetzgeber gesagt hat, die können so empfindliche Folgen für die Menschen haben, die davon betroffen sind. Felix: Vielen Dank. Arno: Bei Bildungssystemen der Fall. Das ist aber auch beispielsweise immer dann der Fall, wenn ich KI einsetze bei Einstellungs und Beschäftigungsprozessen im Bereich HR. Das heißt, Felix: [00:41:00] Vielen Dank. Arno: Das sind Felix: Vielen Dank Arno: muss das System unter eine menschliche Aufsicht stellen. Ich darf es nur entsprechend der Betriebsanleitung des Anbieters nutzen. Ich habe gewisse Meldepflichten wenn es zu Vorfällen kommt, dass das System halt nicht richtig funktioniert. Und das ist jetzt nicht ganz trivial, aber es ist auch nicht unlösbar. Wenn es jetzt ein sogenanntes Felix: Vielen [00:42:00] Dank. Vielen Dank. Okay. Und da fallen ja vor allem auch die Anwendungsfälle über die wir heute gesprochen haben, in dieses begrenzte Risiko wo es Transparenzpflichten gibt, die natürlich auch total wertvoll sind, dass Nutzer wissen, dass sie mit einem KI-System interagieren in diesem Moment und dass es dafür eine Dokumentation gibt, aber auch, wie du schon gesagt hast, nicht unlösbar. Ich glaube, unterm Strich nehme ich das heute auch mit raus. die grundsätzlichen Regeln, die es immer schon gab, im Bereich Datenschutz, im Bereich Urheberrecht, im Bereich Markenrecht, [00:43:00] wenn es um Haftungsfälle geht, weiterhin eintreffen, da gibt es keine Änderungen bei KI, das haben wir vorher schon gelöst bekommen und das gilt es auch jetzt zu lösen, um sich dort konform und sicher aufzustellen und Viele dieser Regeln sind ja auch aus einem guten Grund dort, wo sie sind und mit der KI-Verordnung gilt die Eingliederung in die Risikoklassen und dann die entsprechenden Anforderungen zu erfüllen, die jetzt im Laufe der nächsten Jahre in Kraft treten werden. Da hattest du Schulungen als einen wichtigen Punkt genannt Ich denke, eine KI- oder generative KI-Policy gilt Intern aufzusetzen. Es macht auf jeden Fall Sinn, die Mitarbeitenden fit zu machen und aufzuklären über die Technologie, macht sowieso Sinn, weil der Einfluss wird nur noch größer in den nächsten Jahren und ja ich bin gespannt, was es noch so für Rechtsprechungen in den nächsten Jahren geben wird und wenn wir nochmal in ein, zwei Jahren ein Update [00:44:00] machen, was es da Neues gibt. Ich möchte aber zum Schluss dich noch fragen, Was sind denn jetzt die Top-Fehler, die es auf jeden Fall zu vermeiden gilt? Nochmal aus deinem Mund, was möchtest du hier hervorheben? Arno: Ja, also aus meiner Beratungserfahrung sind es zum einen, ich würde niemals die Vogelstrauß-Taktik wählen. Das heißt, ähnlich wie bei der Einführung der DSGVO, man sollte sich darüber Gedanken machen. Man sollte Felix: Vielen Dank. Arno: Die kommen ja, Felix: [00:45:00] Vielen Dank Arno: schlechteste Antwort, die man geben kann. Wenn man einfach dann ein Dokument aus der Schublade ziehen kann, kann man sagen, ja, das haben wir bedacht, wir haben uns darüber Gedanken gemacht, wir haben uns rechtlich beraten lassen, wir sind aber aus diesen und jenen Gründen zu der Felix: Vielen Dank. Arno: Regeln die mir als Unternehmen wichtig sind, dass sie beim Einsatz von KI befolgt werden, die muss ich ins Unternehmen reintragen. Und zwar Felix: Vielen [00:46:00] Dank. Arno: die es beim Einsatz von KI gibt und vor allen Dingen auch diese KI-Policy oder ähnliches leicht auffindbar machen. Und als drittes... ich jetzt KI von Dritten einsetze, von Drittanbietern, dann sollte ich tunlichst immer darauf achten dass die regulatorischen oder haftungsrelevanten oder datenschutzrechtlichen Verpflichtungen, die mir auferlegt werden, dass Felix: Vielen Arno: sind in den Verträgen, die ich mit den Anbietern habe, um halt entsprechende Haftungsdeltas zu vermeiden. Das wären so die drei Sachen, wo ich sagen würde, das ist wirklich wichtig, Das umzusetzen beziehungsweise bei der Nicht-Umsetzung dann halt die entsprechenden Fehler zu vermeiden. Felix: Wunderbar, scheint alles machbar zu sein vielen Dank Arno für den Durchmarsch durch die KI-rechtlichen Zusammenhänge hab viel gelernt, wer Unterstützung dabei braucht Arno findet ihr [00:47:00] auf LinkedIn und bis zum nächsten Mal, Dank für deine Zeit Arno: Danke dass ich hier sein durfte. Tschüss Felix.