In dieser Folge des AI First Podcasts spricht Felix mit Sascha Sambale, dem GenAI Lead bei der Robert Bosch GmbH. Sascha berichtet von den Erfahrungen und Learnings bei der Einführung und dem Aufbau der globalen Gen AI Initiative für den Bosch-Konzern seit Anfang 2023.
Sascha Sambale ist seit 2012 bei der Robert Bosch GmbH tätig. Zuvor arbeitete er als Software-Ingenieur und Architekt bei IBM. Bei Bosch war er zunächst für die technische Verantwortung der Bosch-Webseiten zuständig. 2017/2018 begann er mit der Entwicklung von Chatbots für Bosch, was seine ersten Berührungspunkte mit KI und Natural Language Processing waren. Seit Februar 2023 ist er als GenAI Lead für das Thema Generative AI bei Bosch verantwortlich.
Bosch gründete bereits 2017 das Bosch Center of Artificial Intelligence in Renningen bei Stuttgart. Der Fokus lag damals auf Machine Learning, Deep Learning und der Entwicklung von KI-Modellen für industrielle Anwendungen wie optische Bildinspektion. Die damalige KI-Technologie erforderte hochspezialisiertes Wissen und war hauptsächlich großen Unternehmen vorbehalten.
Nach der Veröffentlichung von ChatGPT im November 2022 startete Bosch im Februar 2023 seine Gen AI Initiative. Sascha Sambale übernahm gemeinsam mit einem Kollegen die Leitung. Sie bildeten ein interdisziplinäres Team aus Datenwissenschaftlern, Ingenieuren sowie Vertretern aus Recht, Datenschutz und Betriebsrat. Der Ansatz war ungewöhnlich schnell und startup-ähnlich für ein Großunternehmen.
Das Team führte eine unternehmensweite Umfrage durch und sammelte 70-100 potenzielle Use Cases für Gen AI. Diese wurden in vier Hauptcluster eingeteilt:
Der größte Bedarf (ca. 60% der Use Cases) lag im Bereich Search and Summarization, was die Herausforderungen im Dokumentenmanagement großer Unternehmen verdeutlicht.
Als Reaktion auf die zunehmende Nutzung von ChatGPT im Unternehmen und um den Wissensabfluss zu verhindern, entwickelte das Team die interne Plattform "AskBosch". Diese startete als ChatGPT-ähnliches Interface, wurde aber schnell zu einer umfassenden Plattform ausgebaut:
Bosch entwickelte eine umfassende KI-Lernreise für Mitarbeiter:
Bosch's Erfahrungen mit der Einführung von Generative AI zeigen, dass auch große Unternehmen agil und schnell auf neue Technologien reagieren können, wenn sie die richtigen Strukturen und Unterstützung haben. Wichtige Erkenntnisse sind:
Felix: [00:00:00] Herzlich Willkommen zum AI First Podcast. Ich spreche heute mit Sascha Sambale. Sascha ist Global Gen AI Lead bei der Robert Bosch GmbH und hat dort schon Anfang 2023 die globale Gen AI Initiative für den Bosch Konzern mitgestartet und aufgebaut. Er berichtet uns heute von den Learnings auf diesem Weg, wie sie erfolgen GenAI in die einzelnen Bereiche gebracht haben, auf welcher Plattform sie das aufgebaut haben, wie sie es geschafft haben, die einzelnen Teams zu befähigen und das Ganze auf eine sichere Art und Weise. Sehr, sehr viele spannende Tipps und Learnings mit dabei und ich wünsche dir viel Spaß bei dieser Folge. sascha schön dass du dabei bist Sascha: Hi, freut mich hier zu sein. Felix: doch mal wer du bist und was du bei bosch machst er Sascha: Also, mein Name ist Sascha Sambale, ich [00:01:00] Bin aktuell für das Thema Generative AI bei Bosch zuständig. Ich bin studierter Software-Ingenieur, Dann war ich lange Zeit bei einem amerikanischen Unternehmen, bei der IBM. Und war dort Softwareentwickler Architekt, viel durch die Welt gereist und seit 2012 bin ich bei der Robert-Bosch-GmbH angestellt, damals verantwortlich technisch für die Bosch.com und die anderen Bosch-Länder-Webseiten, heißt Bosch Damals viel Frontend-Entwicklung gemacht, wo ich bei der IBM viel Backend gemacht habe und im Jahr 2017, 2018 kam das erste große Hype-Thema für Unternehmen, das waren damals die Chatbots. Da haben wir bei Bosch eine Chatbot-Suite aufgebaut innerhalb unseres Unternehmens für Customer Support, aber auch Also Voice- und Textbots und da waren es dann auch schon die ersten Berührungspunkte in Richtung AI mit Natural Language Processing Natural Language Understanding. Und [00:02:00] jetzt kam dann im November 2023 dieses berühmt-berüchtigte Chat-GPT und dann habe ich im Februar 2023 mit einem Kollegen zusammen das Thema Generative AI bei Bosch übernommen und haben versucht, das Thema bei uns mit reinzubringen ins Unternehmen. Felix: AI ist ja für einen Technologiekonzern wie Bosch sicherlich nichts Neues und ihr kennt das Thema seit vielen, vielen Jahren, aber jetzt ist ja Gen-AI doch noch relativ neu Frisch und neu, wenn wir uns mal die Technologielandkarte anschauen. Wie seid ihr denn damals, es ist ja jetzt noch nicht lange her, nicht mal zwei Jahre, als Gen-AI durch ChatGPT hochkam, wie seid ihr denn in dem Moment mit diesem Thema umgegangen Sascha: Also man muss vorab sagen, Bosch und AI ist jetzt nicht erst zwei Jahre alt. Wir haben 2017 schon das [00:03:00] Bosch Center of Artificial Intelligence gegründet in Renningen bei Stuttgart. Natürlich war das Thema Gen-AI damals noch nicht so groß wie es heute ist. Da ging es tatsächlich um Bosch Ich sage jetzt mal das richtige AI, also das, was dahinter steckt, Machine Learning, Deep Learning, auch Modelle zu trainieren. Da ging es auch ganz stark in Richtung, wie kann ich die Industrie mit AI unterstützen, also gerade auch Optical Image Inspection, Bilderkennung und so weiter in Maschinen. Und man muss dazu sagen, das Thema AI war damals... Um es zu verstehen, brauchte man schon fast einen PhD. Also es war wirklich schwierig, diese neuronalen Netze zu verstehen und auch zu trainieren. Man brauchte die Hardware. Das heißt, jemand zu Hause konnte das nicht einfach hier machen mit seinem kleinen Desktop-PC unterm Schreibtisch. Das heißt, dieses Thema AI war tatsächlich den großen Playern vorbehalten. Und wir haben das 2017 damals schon begleitet [00:04:00] Gegründet als eigene Instanz innerhalb von Bosch Und das ist jetzt mittlerweile auch in Renningen, da steckt unsere Corporate Research, das ist unsere zentrale Entwicklung bei Bosch haben wir das jetzt einfließen lassen und auch jetzt als wir dann im Februar 2023 mit Generative AI gestartet sind, ist es eine Kombination oder eine Kollaboration gewesen mit Corporate Research zusammen. Corporate Research gehört zur Robert Bosch GmbH. Und ich persönlich arbeite bei Bosch Digital. Bosch Digital, muss man erklären, ist im Endeffekt der IT-Supplier für Bosch. Von, wir stellen Rechner zur Verfügung zum Arbeiten, bis hin zu komplette Services, Hosting, also alles, was irgendwo mit IT zu tun hat, kommt dann von Bosch Digital. Und deshalb war die Gen-AI-Initiative, die wir damals gegründet haben, die Kollaboration mit Bosch Digital, die in Lage sind, Das zu verbreiten innerhalb von Bosch zusammen mit Corporate [00:05:00] Research, die in der Lage sind, sich mit dem AI-Thema zu befassen und tatsächlich die Technologie zu liefern. Und zusammen haben wir dann für die Robert Bosch GmbH die Generative AI-Initiative gegründet Damals zu zweit Bosch Digital war ich, mein Kollege, der Christian Daniel, auch sehr guter Researcher bei Corporate Research und wir haben im Endeffekt Business Und Technologie zusammengebracht, um für Gesamtborsten eine Genial-Lösung zu schaffen. Felix: Finde ich klasse dass ihr direkt verschiedene Stakeholder mit an Bord gebracht habt. AI ist ja nicht nur ein technisches Thema, sondern da spielt ja auch ganz viel Organisation und Strategie mit rein. Und gerade bei Bosch habt ihr ja weltweit über 400.000 Mitarbeiter. Wie seid ihr denn für so einen riesen Konzern an dieses Thema gegangen, um das auch zu operationalisieren und die Möglichkeiten von GenAI [00:06:00] verfügbar zu machen für die einzelnen Bereiche? Sascha: Okay, ja das war tatsächlich eine ganz, interessante Journey. Angefangen hat die im Februar 2023. Ist im Endeffekt schon drei Monate nach Jet-GPT-Release, was man aber sagen muss, für so ein großes Unternehmen echt schnell, dass wir da schon auf den Zug aufspringen. Zwischendrin waren noch Weihnachten Und Silvester, das darf man nicht vergessen. Und es war damals so dass... Wir wirklich von heute auf morgen diese Initiative gestartet haben. Ich kann dazu eine kleine Anekdote erzählen und zwar war ich snowboarden in Österreich und habe diesen Anruf gekriegt ob ich Interesse hätte, dieses Thema mitzugestalten. da, habe ich gesagt, ja klar, das Interesse ist da, aber ich habe natürlich einen Fulltime-Job mit der Bosch mit dieser Chatbot-Suite, die wir da aufgebaut haben. Und dann hieß es, ja, sie wollen Jetzt nur mal abfragen, ob ihr Hauptinteresse besteht. Habe ich aufgelegt und [00:07:00] das Thema war erstmal erledigt Bis genau 24 Stunden später, als der Anruf kam, es war dann donnerstags, als der Anruf kam, ja, du hast den Job, jetzt wird es losgelegt jetzt müssen wir das Thema Jenny Hai starten und ein Team gründen. Und dann habe gefragt, wann geht es los? Ja, ab Montag So, das sieht man, wie schnell das tatsächlich dann ging, von Donnerstag auf Montag alte Arbeit abgeben neue Arbeit starten und wie wir gestartet sind, ist auch ganz interessant, weil doch sehr untypisch für große Unternehmen, es war schon fast so eine Art Start-up Approach, also wir haben wirklich gestartet, wir haben uns hingesetzt und haben überlegt Wen brauchen wir und welche Rolle brauchen wir, um Das Thema Gen-EI so schnell wie möglich bei uns zu etablieren. Das stellt sich relativ schnell heraus. Natürlich wir brauchen Data Scientists, Data Engineers. Jemand, der sich tatsächlich mit der Technik auskennt, aber wir brauchen auch den [00:08:00] Betriebsrat, wir brauchen Legal, also unsere Legal-Abteilung wir brauchen Data Protection und Data Security-Abteilung und so haben wir praktisch ein Team zusammengestellt aus sechs bis sieben Leuten mit Single Points of Context aus genau diesen Bereichen Und was wir gemacht haben ist, dass wir alle unsere Geschäftsbereiche angeschrieben haben. Man muss verstehen und das wissen viele da draußen, auch Bosch ist ein Gemischtwarenladen. Wir haben von dem Rasenmäher zur Bohrmaschine bis hin zum Geschirrspüler alles in unserem Portfolio und das sind unsere Geschäftsbereiche bei Bosch. Und jeder Geschäftsbereich hat natürlich andere Anforderungen was Generative AI angeht also haben wir Fast wie so ein Massenbrief rausgeschickt an alle und haben gesagt, wo würde euch GenAI helfen oder habt ihr schon Ideen? und jetzt kommt der große Vorteil dass Bosch doch schon so ein Tech-Savvy-Unternehmen ist und ganz viele tatsächlich auch schon damit rumgespielt haben aus [00:09:00] den Geschäftsbereichen Das kann ein Vor-, aber auch ein Nachteil sein. Der Nachteil ist natürlich, wenn man das Ganze jetzt konsolidieren will, innerhalb des Unternehmens ist es schwierig, alle einzufangen, die schon gestartet sind, die natürlich dann auch, ich sage jetzt mal, ihr Baby schon haben, mit ihrem Baby angefangen haben, zu entwickeln. Aber es hat auch den Vorteil, man merkt es haben sich schon ganz viele damit beschäftigt und haben sich schon Gedanken gemacht, wo Jenny A. überhaupt helfen kann. Das Resultat dieser Umfrage waren 70 bis 100 Use Cases, die wir gekriegt haben. Und diese Use Cases haben wir uns alle angeschaut und haben versucht, wie können wir die denn clustern. Und dann haben wir festgestellt, okay, es gibt so vier mögliche Cluster in die eigentlich alle Use Cases fallen. Und das erste Cluster und das auch eins der größten ist Search and Summarization geworden. Was steckt dahinter? Retrieval Augmented Generation, das heißt, ich habe ein Modell, Ich habe einen Chatbot, mit dem ich [00:10:00] chatten möchte, aber mein Wissen kommt aus irgendeiner Quelle und die Quelle kann sein unser internes Wiki, irgendwelche PDFs vom Sharepoint, wo auch immer. Im Endeffekt Wissensaggregation innerhalb eines Systems. Das zeigt zum einen dass das Dokumentenmanagement immer noch ausbaufähig ist innerhalb von größeren Unternehmen. Da erzähle ich kein Geheimnis. Das hat jedes große Unternehmen, das hat viele Dokumente überall verteilt sind. Und jetzt hat man die Möglichkeit, eine Frage beantwortet zu bekommen aus 25 Dokumenten à 20 Seiten. Und zwar, ich muss nicht durch alle durchlesen sondern ich kriege die Antwort aggregiert. So, war der größte Use Case, ich würde sagen locker 60% aller Use Cases ging in Richtung Retrieval Augmented Generation. Der zweite Use Case, Und der kam mir ganz gelegen weil ich aus dieser Ecke kam, war Chat und Voice Bots. Also da ging es in Richtung Conversational AI raus Nämlich, ich möchte jetzt mit jemandem [00:11:00] chatten können und zwar mit Konversations-Kontext, so wie wir es auch von ChatGPT kennen. Oben erzähle ich dass ich FC Bayern Fan bin und unten macht er mich fertig, weil er immer noch weiß, dass ich FC Bayern Fan bin Und der dritte Use Case war, und das ist glaube ich Standard, alles was in Richtung Content Generation geht, Web Content, also Text, SEO, Image Generation, Video Generation, das sind genau diese Themen, die da reinfallen. Und das vierte und auch das letzte und auch ein sehr, sehr wichtiges ist Software Engineering, Software Development. Wir sind ein Unternehmen und jetzt auch gerade bei Bosch Digital, aber auch in unseren Geschäftsbereichen gibt es überall Softwareentwicklungsabteilungen und die haben natürlich die große Hoffnung mit gewissen Tools dort effizienter zu werden, aber auch die Qualität zu verbessern Und vor allen Dingen auch das Leben der Entwickler leichter zu machen. Wir kennen es [00:12:00] alle, ich bin selbst Entwickler gewesen, Test Cases schreiben, Dokumentation Das mag keiner. Also ich kenne keinen Softwareentwickler, der das mag, der möchte lieber sein Tool schreiben, neue Features programmieren und der ist natürlich mit Tools wie GitHub Copilot zum Beispiel extremst unterstützt als jemand, Der die, ich sage es mal auf Deutsch, die Drecksarbeit abnimmt, die Arbeit, auf die er keine Lust hat oder repetitive Aufgaben abnimmt oder vielleicht mal kurz ein Datenset generiert Mit dem man sein Tool testen kann. Das waren im Endeffekt die vier Clusters. Also zum einen, ich fasse nochmal kurz zusammen, Search and Summarization, Chatbots, Voicebots, Content Creation und Software Development. [00:13:00] Das ist tatsächlich wahr. Also wir haben das Ganze dann gestoppt nach 100 Use Cases, weil es halt einfach nicht mehr managebar war. Wir haben jetzt gesagt, jetzt haben wir 100 in der Hoffnung wir haben jetzt, ich sage jetzt mal, den großen Teil abgedeckt. Und ja, wie geht man jetzt ran an solche Use Cases Es gibt da mehrere Metriken, die man da anwenden kann. Also die Metriken können monetär sein, also ROI-Berechnung. Mit welchem Use Case kann ich denn wie viel Geld einsparen? Und da kommt natürlich gleich als nächste Metrik mit, was kostet das denn, diesen Use [00:14:00] Case überhaupt zu implementieren? Und ist es vielleicht ein Low-Hanging Fruit? Ist es vielleicht ein Tool, was schon existiert was wir einfach nur onboarden müssen? Oder ist es ein Tool, was wir selbst entwickeln müssen, um genau dieses... Dieses Cluster zu lösen oder diesen einzelnen Use Case zu lösen. Also ROI ist natürlich einer der wichtigen Faktoren. unser Problem, was wir natürlich da haben, ist, Wir als zentrale Organisation haben in der Regel nicht das Wissen um den ROI sauber zu berechnen. Das kann im Endeffekt nur der Geschäftsbereich. Und jetzt kommt dieses neue Hype-Thema und dann haben natürlich ganz viele Hoffnungen in dieses Thema. Das heißt, die ROI-Berechnung basierte unter anderem auch so ein bisschen auf Hopium [00:15:00] ganz viel Geld durch diese neue Technologie einzusparen, wo auch Zahlen rausgekommen sind, wo wir gesagt haben, Das ist jetzt nicht so realistisch dass das tatsächlich passieren wird. Aber wir haben gesagt, es geht zum einen natürlich um ROI, aber es geht auch um unsere internen Kosten und internen Aufwände, nämlich wie können wir Redundanzen vermeiden? Also wir sparen ja auch intern als Bosch Geld, indem wir einfach dafür sorgen, dass nicht fünf Abteilungen das gleiche Tool bauen. das heißt, wir haben da schon versucht rauszukriegen Als wir die Use Cases angeguckt haben, hey, die sind alle im gleichen Cluster, die wollen alle das gleiche nur die Datenquelle ist eine andere. Das heißt, die Plattform an sich, da kann ich nachher was dazu erzählen zu unserer Plattform AskBosch die Plattform an sich ist immer die gleiche Vorne hast du ein Chat-Interface, hinten hast du irgendwelche Knowledge-Datenbanken oder Wikis oder PDFs angeklemmt die Funktionalität ist die gleiche Und wo wir dann zum Beispiel geguckt haben ist, was sind denn Low-Hanging-Fruits? [00:16:00] Also wenn wir in den Geschäftsbereichen Use Cases gefunden haben, wo wir auf dem Markt Tools gesehen haben, die das lösen, dann haben wir die kontaktiert und versucht, die einzukaufen weil wir gesagt haben, es macht bei diesem schnellen Thema keinen Sinn, alles selbst zu entwickeln. Wir gucken, wir machen wirklich, bei der Make-or-Buy-Decision ist es eine ganz klare Reihenfolge bei der wir vorgehen, wo wir wirklich erst beim allerallerletzten Punkt sagen, okay, jetzt müssen wir auf Make gehen, weil Das gibt es noch nicht. Und das haben wir bei dem Tool Ask Bosch gemacht. Das war schon in dem einen oder anderen Artikel da wurde drüber geredet Vielleicht nur kurz, was Ask Bosch ist. Ask Bosch ist unser internes Chat-GPT, kann man grob sagen. Also haben wir ein Team zusammengestellt aus Entwicklern, Frontend, UXler, Data Scientists und haben AskBosch gebaut. Und der Hauptgrund, warum wir AskBosch gebaut haben, ist, JetGPT [00:17:00] wurde sehr beliebt und bekannt und das natürlich auch geschäftlich genutzt. So und da haben wir natürlich das erste Problem, Wissensabfluss von Unternehmen. Wir waren von Anfang an ganz offen und haben Chat-GPT nie verboten bei Bosch. Das ist ganz wichtig. Andere Unternehmen haben das sofort über ihren Corporate Proxy geblockt. Bosch hat gesagt, nein, wir sagen euch, was dürft ihr denn mitgeben und was nicht, aber bitte nutzt diese Technologie, um zu verstehen, was damit möglich ist. Und haben dann aber parallel... Das war das allererste Release, war im Endeffekt ein 1 zu 1 Chat-GPT-Klon, jetzt nicht von der Optik her, es war schon im Bosch-Design gebrandet, aber es war Chat-GPT oder GPT 3.5 als Modell dahinter, vorne hattest du ein Chat-Interface und du konntest damit sprechen. Da waren keine Bosch-Daten drin, es war wirklich plain Chat-GPT. Wir hatten auch schon einen Konversationskontext und alles drin, aber das war nicht [00:18:00] das Ziel von Ask Bosch. Das Ziel war im Endeffekt dann auch Unternehmenswissen mit reinzubringen. Und da haben wir dann ein Konzept gebaut, draußen ist es bekannt als die Custom GPTs, bei uns sind es die Spaces. Im Endeffekt kannst du dir ein Space anlegen, kannst deine PDFs reinladen, ein Sharepoint verlinken und kannst mit diesem Space chatten. Und damit hast du dann über... Search and Summarization, also über unseren Retrieval Augmented Generation Approach, haben wir es praktisch dann geschafft, Ask Bosch auch an Unternehmensdaten anzutoben, ohne ein neues Modell trainieren zu müssen. Das ist jetzt eins der Kerntools unserer Initiative und ist nicht nur, dann bin ich auch gleich fertig mit AskBosch, und ist auch nicht nur ein Web-Frontend und auch nicht nur ein JetGPT-Klon, sondern es ist tatsächlich eine Plattform geworden bei uns. Das heißt, wir bieten dort auch jetzt Services an. Und einer der Services, die wir anbieten, ist, wenn ein Geschäftsbereich bei uns zum Beispiel sagt, er braucht ein Google Gemini oder er braucht ein [00:19:00] OpenAI JetGPT 4.0, Was müsste er normalerweise tun? Er müsste sich eine Azure-Instanz holen oder er müsste sich ein Google-Projekt anlegen. Muss er bei uns nicht, der kommt zu uns und kriegt von uns einen API-Key und einen API-Schlüssel und er kann dieses Modell direkt nutzen. Also wir haben praktisch auch dann die Large Language Models as a Service innerhalb von Bosch angeboten. Und jetzt kommt der große Vorteil warum es uns auch gibt Alle Modelle, die die dort jetzt nutzen können, sind einmal durch den Betriebsrat, sind einmal durch die Legal-Prüfung, sind durch die Data-Security-Prüfung durch. Das heißt, die haben die Sicherheit, dass wenn sie diese Services bei uns nutzen, dass sie im Endeffekt Bosch-compliant unterwegs sind. Felix: Die GenAI-Welt hat sich aber, seitdem ihr jetzt mit AskBosch gestartet habt verändert Wieder fünfmal weiter gedreht, würde ich sagen. Und da draußen gibt es trotzdem noch ganz, ganz viele Unternehmen, die noch keine zentrale [00:20:00] Infrastruktur aufgebaut haben, die sie ihren Mitarbeitern zur Verfügung stellen, damit sie die Möglichkeiten, Fähigkeiten von Gen-AI produktiv nutzen können. Ich bin ja immer kritisch gegen so ein Rollout von ChatGPT, weil ChatGPT, erstens hat man eine starke Abhängigkeit von einem Anbieter und auf der anderen Seite ist OpenAI ja nicht unbedingt eine Produktcompany sondern die wollen Artificial General Intelligence bauen und nicht einen kommerziellen Chatbot. Und gleichzeitig verbrennen sich aber auch immer wieder Unternehmen die Finger daran, ihren eigenen AI-Chatbot mit verschiedenen Sprachmodellen und anderen Services daran zu entwickeln und haben dann irgendwann nicht mehr die Ressourcen, mit der Entwicklung vom Markt Schritt zu halten. Jetzt hast du ja total viele Erfahrungen genau in dem Bereich gesammelt. Welche Empfehlungen würdest du denn Unternehmen jetzt geben, die sich fragen, wie sie so einen Chatbot oder so, [00:21:00] Einen plattformähnlichen Service entwickeln können und ob sie den entwickeln sollen oder doch lieber etwas vom Markt kaufen. Sascha: Genau, also Ask Bosch war jetzt natürlich nicht das... einzige Tool, was wir released haben, intern war aber eines der wichtigsten. Wo haben wir noch reingeguckt? Also es gibt ja in diesem ganzen Gen-AI-Space ganz viele Themen. Und ich habe ja anfangs erzählt, dass wir mit einem Team gestartet sind, mit Legal, Data Security und so weiter. Das heißt, wir haben die Streams parallelisiert und haben gesagt, okay, wir müssen ganz viele Dinge klären weil der Markt ändert sich ja regelmäßig Am Anfang hatten wir nur GPT, dann kam das eine oder andere große Modell dazu. Auf einmal hat sich der Open-Source-Markt extrem entwickelt. Da kamen ganz viele neue Lizenzen dazu. Also wir haben ja nicht nur Open-Source-Modelle, die wirklich mit Open-Source-Lizenzen verheiratet sind, sondern es kamen ja auch Closed-Source-Modelle die dann wieder proprietäre Lizenzen haben, wie in Meta Lama beispielsweise. Das [00:22:00] heißt, unser Job war im Endeffekt zu gucken, dass wir alles, was bei Bosch passiert, grob konsolidieren Ganz wichtig, wir haben keine Governance-Funktion, das heißt wir werden uns in Geschäftsbereichen nie reinreden oder etwas verbieten. Ihr dürft das nicht nutzen, weil wir machen das ja auch, aber wir bieten ihnen an und sagen, wir versuchen das zentral zu managen zentral darzustellen, was es innerhalb von Bosch gibt, damit wir so eine Art, ich sage es mal, Blumenstrauß entwickeln und wenn jemand eine Blume sucht dann kann er hingehen und kann gucken, habt ihr vielleicht eine lilane Rose, Und dann holen wir die raus und sagen, ja, die haben wir, die kannst du tatsächlich nutzen. Oder wir sagen, Geschäftsbereich Y hat die, sprech doch mal mit denen, die bieten das auch als Service an, dann könnt ihr das nutzen. Felix: In der Zeit habt ihr ja auch sicherlich nicht nur ein AI-Chatbot bzw. eine Plattform entwickelt. Welche Use Cases habt ihr euch denn noch angeschaut und bildet ihr jetzt heute ab und habt dafür [00:23:00] Lösungen für die Teams bereitgestellt? Sascha: Also gerade dieses Chat mit Wissensbots, das war eins der Hauptthemen wo wir festgestellt haben, Also du kannst mir einen Geschäftsbereich geben und ich bin mir sicher, da gab es ein Projekt, was genau das gleiche gemacht hat. Und das war die Idee und das war auch der Grund, wo wir gesagt haben, da müssen wir reingucken. Das nächste ist natürlich Image Generation Image Generation ist gerade für Marketingabteilungen ein extrem wichtiges Tool. Warum? Oft ist es so, wenn du eine Marketingkampagne gemacht hast oder gestartet hast, wie fängt es in der Regel an? Du musst erstmal eine Ausschreibung machen, musst einen externen Dienstleister finden, kostet schon mal Zeit. Du hast zwar eine grobe Idee im Kopf und dann hast du deinen externen Dienstleister gefunden und fliegen erstmal alle nach Berlin zum großen Kick-off-Workshop, kostet Zeit, kostet Geld, alle in einem Raum, da gibt es einen Kick-off-Workshop, so dann wird die grobe Marketingstrategie Gestartet und dann geht es los [00:24:00] und dann wird über Iterationen vielleicht erstmal das erste Marketing-Bild erstellt, mal so, dass man so ein Gefühl kriegt in welche Richtung geht die Marketing-Aktion. Und das kann sich über sechs bis acht Wochen wirklich ziehen, bis da mal irgendetwas rumkommt, mit dem man zufrieden ist. Aber wir hatten einen Geschäftsbereich, die haben genau diese Szene genommen und haben innerhalb von 20 Minuten mit Mid-Journey testweise das Marketing-Bild, was sie als Basis genommen hätten, Selbst erstellt. Warum? Es musste kein Anbieter gefunden werden, es musste nicht durch die Weltgeschichte geflogen werden, was jetzt auch für CO2 und also unabhängig von der ganzen Zeit die drauf geht, alleine der CO2-Footprint nur um dieses Brainstorming oder Kick-Off-Meeting zu machen. Und vor allen Dingen, was sie sich halt gespart haben, sind Iterationen Denn der Marketing-Lead Der konnte relativ schnell sein Feedback geben. Der hat gesagt, Bild gefällt mir nicht, neuer Prompt Bild gefällt mir nicht, jetzt ist die Banane grün, jetzt muss [00:25:00] sie rot werden und keine Ahnung was. Der konnte halt relativ schnell Feedback geben und die KI hat ihm was ausgespuckt. Was haben die dann gemacht? Die haben dieses Bild genommen, sind dann zur Agentur und haben gesagt, das ist die Basis und jetzt professionalisieren wir das Ganze. Warum haben sie es nicht verwendet Es gibt mehrere Gründe. Copyright ist noch nicht so ganz sauber geklärt, was für ein großes Unternehmen auch ein bisschen schwierig ist. Und auf der anderen Seite ist es natürlich so, die KI-Bilder jetzt letztes Jahr, es wird immer besser, die waren halt auch nicht perfekt. Da war hier mal das Auge schief oder nur vier Finger. Kann man so nicht nehmen. Aber was die sich halt gespart haben, sind die sechs bis acht Wochen bis zum fertigen Entwurf, um die Kampagne dann zu starten. Und das sind genau solche Themen, die wir damit aufgenommen haben und gesagt haben, Wenn du das Problem hast, haben alle anderen dieses Problem ja auch. Und dann haben wir gesagt, und das kommt dann in unser Portfolio mit rein, wir brauchen eine Lösung für Bildgenerierung. Und so sind wir praktisch für sämtliche Gen-AI-Funktionen durchgegangen und haben dafür dann [00:26:00] Lösungen bei uns zentral zur Verfügung gestellt. Felix: Ja, eine der größten Herausforderungen im Umgang mit Gen-AI sind ja die fehlenden Skills bei Mitarbeitenden, was ja klar ist, weil das... Eine sehr, sehr neue Technologie ist und daraus entsteht ein großer, großer Schulungsbedarf. Ich führe da mittlerweile bei jedem Kunden ein AI-Führerschein-Programm durch, um den produktiven, aber auch vor allem sicheren und verantwortungsvollen Umgang mit den Tools zu trainieren. Wie habt ihr das denn gelöst? Sascha: Ja, also wir haben in dem Team, was wir ursprünglich gestartet haben, ich habe nicht alle Rollen aufgezählt aber eine der Rollen War auch der zentrale Verantwortliche für die Trainings bei Bosch oder einer der Verantwortlichen, der die Trainings erstellt. Und was wir gemacht haben, ist, wir haben eine KI-Lernreise erstellt mit Videos, jetzt kommt es dazu, Videos auch teilweise KI [00:27:00] generiert und also mit Avataren, aber auch mit vielen Beispielen Einer der größten Punkte die für so große Unternehmen wie die Robert Bosch GmbH ganz wichtig ist, ist neben den ganzen Legal- und Copyright-Themen natürlich auch der Betriebsrat. Weil es ist klar, wenn du in einem Unternehmen ansprichst, wir wollen jetzt mal KI machen, dann gehen die Alarmglocken los, wird KI-Mitarbeiter ersetzen. Eine der Grundsatzfragen. Und wir haben mit dem ganz, ganz eng und wirklich, ich muss sagen, wir haben eine super Zusammenarbeit mit dem Konzernbetriebsrat Robert Bosch GmbH und haben den Betriebsrat geschult zu dem Thema Künstliche Intelligenz und wir waren auch alle der Meinung, dass es gar nicht Die Frage ist gar nicht, machen wir es oder machen wir es nicht, sondern wie machen wir es? Dass das Thema da ist und nicht mehr gehen wird, das war allen Beteiligten klar. Und das Ziel war, jetzt vorab schon [00:28:00] eine Regelung zu finden, wie wir jetzt damit umgehen, dass unter Umständen der eine oder andere Job irgendwann mal ersetzt werden könnte durch KI. Stand heute sehen wir das alles ganz klar als KI ist ein Problem Co-Pilot. Microsoft nennt ihn sogar Co-Pilot. Er ist ein Kompagnon, der sitzt neben mir und hilft mir. Der kann mich noch nicht zu 100% ersetzen und er kann auch so gut wie keine Rolle bei der Robert Bosch GmbH heutzutage ersetzen. Würden wir auch nie tun. Aber wir müssen jetzt schon gucken, welche Rolle innerhalb des Unternehmens kann durch KI unterstützt werden und vor allen Dingen auch, welche Rolle kann durch KI irgendwann mal in der Zukunft ersetzt werden. Und das Ziel für jedes große Unternehmen ist es, Das jetzt schon anzugehen unter anderem, und jetzt kommen wir zum Thema Schulung zurück, Schulung Wir müssen die Awareness schaffen innerhalb des Unternehmens was mit KI kommt, was mit KI möglich ist. Das ist auch Teil meiner Rolle, dass ich durch Geschäftsbereiche gehe [00:29:00] und die Möglichkeiten aufzeige von generativer KI und vor allen Dingen auch, Gerade die Legal-Themen, was Copyright angeht da müssen wir Awareness im Unternehmen schaffen, wie man mit dieser Technologie umgeht, um jetzt auch nicht zwingend ein Copyright-Infringement zu enforcen. Das heißt, du kannst ja mit deinem Prompt ganz klar enforcen bei einer Bildgenerierung. Du kannst sagen, ein Porsche 911er und ein, ich sage jetzt mal, ein mitteleuropäischer Mit-20er Mensch davor mit einer Apple Watch und einem Nike T-Shirt das kann ich entforcen und das eine oder andere Modell wird mir das ausspucken. Und diese Awareness zu schaffen, das geht über Trainings wo wir sagen, pass auf, das und das ist möglich, aber diese Risiken kommen mit. Und um diese Risiken zu mitigieren gibt es von uns diese Guidelines damit du jetzt nicht in die Falle tappst, dass das genau auch bei dir passiert. Und dann haben wir diese Lernreise gestartet zuerst mal generische Trainings Themen, [00:30:00] generative KI, aber jetzt auch zu GitHub Copilot, sogenannte Lern-Nuggets, wo du einzelne Themen innerhalb von GitHub Copilot erklärt bekommst. Warum haben wir das gemacht? Wir haben eine Studie intern gestartet mit einem externen Dienstleister Wo wir rauskriegen wollten, wie wird denn GitHub Copilot, also das ist zur Source-Code-Entwicklung, wie wird das denn innerhalb des Unternehmens genutzt? Und es hat sich herausgestellt, es wird genutzt die Leute lieben es. Aber sie nutzen es nicht zu dem, was es 100% kann. So, und dann hat sich herausgestellt, dafür müssen wir diese Lernnuggets anbieten. Viele haben es installiert und haben halt die Grundfeatures davon genutzt, wussten aber nichts von noch drei, vier anderen Icons die auf der linken Seite auftauchen, mit denen sie noch viel mehr machen konnten als vorher. Und deshalb gibt es jetzt diese Training Nuggets die kann sich jeder angucken, der mit GitHub Copilot arbeitet und bekommt dann diese Tipps [00:31:00] Tricks mitgebracht Praktisch mitgeteilt und kann es in Zukunft nutzen ich habe ja anfangs erzählt, dass wir das Ganze so in diesem Startup-Approach gestartet haben. Das hat letztes Jahr auch soweit gut funktioniert, um relativ schnell etwas auf die Straße zu kriegen. Das war, Schnelligkeit war eines der wichtigsten Themen bei diesem ganzen Gen AI letztes Jahr. Also wir konnten... Du hast als Großunternehmen ein Problem, du hast ein ganz schnelles Thema da draußen. du bist aber ein Großunternehmen, was kommt mit einem großen Unternehmen immer mit? Ganz viele Prozesse. Weil du brauchst die ja, die sind ja wichtig, diese Prozesse. Und jetzt gibt es dieses Problem, wenn das aber so schnell ist und die Prozesse so langsam, dann habe [00:32:00] ich ein Bottleneck. Und deshalb haben wir gesagt, okay, wir gehen mal einen komplett anderen Weg. Wir bilden diese Arbeitsgruppe und mit dieser Arbeitsgruppe legen wir los und weiter Versuchen auch mal prozessunabhängig schnell Dinge auf die Straße zu bringen, aber Vorsicht immer mit dem Fokus, es muss legal, es muss compliant, es muss auditsicher sein, aber wir haben dedizierte Personen, deren einzige Aufgabe es ist, sich um dieses Thema zu kümmern. Wir hatten zum Beispiel einen Single Point of Contact von den Anwälten, der hat nur Gen-AI-Legal-Themen bearbeitet, der hat nichts anderes mehr angeguckt und genau so war das mit allen, die in diesem Team mitgearbeitet haben. So, long story short, das Ganze hat ganz gut funktioniert, aber es wird halt immer größer, es kommen mehr Tools dazu, es kommen mehr Prüfungen dazu. Also haben wir uns Anfang dieses Jahres dann vergrößert und wurden zu viert. Also wir sind jetzt vier Personen, nicht mehr zwei, im Leadership Team und haben jetzt ein Gen-AI-Projektteam gebaut. Wir sind jetzt glaube ich [00:33:00] neun Leute drin, die dediziert an diesen Themen arbeiten. Da sind aber keine Entwickler drin. Das ist alles gecontracted innerhalb von Bosch sondern es ist die reine Steuerung der Gen-AI-Themen innerhalb des Unternehmens. Alles andere würde uns, entweder werden wir ein Riesenteam und dann ist es nicht mehr managebar, oder, nee, das ist das Einzige wir werden ein Riesenteam und es ist nicht mehr managebar. Deshalb haben wir gesagt, wir bleiben klein, übernehmen die Steuerung, aber alles, was tatsächlich in die Exekutive geht, passiert in den tatsächlichen bereits bestehenden. Bereichen innerhalb von Bosch. Die gibt es schon lange, die werden im Endeffekt nur dann von uns gecontracted. So und das haben wir jetzt gemacht. Wir haben das ganze professionalisiert, sind breiter aufgestellt und das tolle ist, wir haben den Support von der Geschäftsführung der Robert Bosch GmbH und der Geschäftsführung von Corporate Research als auch von Bosch Digital. Das heißt, wir haben den vollen Support und können [00:34:00] dementsprechend sehr frei agieren. Und haben diesen Fokus auch gesetzt bekommen und uns wird der Weg freigehalten, um das tatsächlich durchzusetzen. Und das ist vielleicht einer der wichtigsten Messages, ist, das Top-Management muss das Thema verstanden haben und muss das Thema auf seinem Schirm haben. Ich habe auch mit anderen Unternehmen gesprochen. Jetzt erst diese Woche, aber es gibt noch ganz viele Unternehmen, die warten jetzt gerade noch ab. Also das war tatsächlich die Aussage, wir warten jetzt mal, was passiert. Und den Approach haben wir, wie ich jetzt die letzten paar Minuten erzählt habe, nicht gemacht. Wir sind gleich voll rein und es war glaube ich auch die richtige Entscheidung, weil in der ganzen Journey jetzt mit diesem Startup und jetzt mit dem professionellen Produkt, haben wir so viel gelernt, wie sich der Markt innerhalb dieser eineinhalb Jahre verändert hat, Und wie wir uns als Großunternehmen auch auf diese Veränderung anpassen müssen. Und dieses Learning, das kannst [00:35:00] du halt nicht einkaufen das musst du selbst machen. Und vor allen Dingen auch, wie du die Prozesse jetzt angehen musst. Also wir werden durch dieses Thema jetzt einige Prozesse innerhalb des Unternehmens einfach beschleunigen Wir haben jetzt rausgekriegt das geht auch anders, wir müssen anders und vor allen Dingen Müssen wir auch mit dem Thema Risiko ganz anders umgehen. Weil du hast immer dieses Risiko. Bei KI kommt ein Grundrisiko mit. Du kannst dir als Anwalt du kannst dich nicht ein halbes Jahr hinsetzen und mit dem Anbieter Verträge ausarbeiten bis das Risiko wirklich bei Null ist. Das gibt es nicht mehr. Und das ist auch das, was eine Message für andere Unternehmen ist. Die Risikoabschätzung muss anders stattfinden. Man kann nicht mehr auf Null Risiko gehen oder auf 5% Risiko gehen Man nimmt es halt mal mit, macht aber trotzdem eine Kalkulation, was im Worst Case passieren könnte und dann mittelt man sich irgendwann, also man kommt so auf so eine Mitte, wo man sagt, das ist jetzt das, mit dem ich leben [00:36:00] kann. Aber so auf Nummer sicher kannst du bei dieser Technologie Stand heute noch nicht gehen. Felix: Sascha, großartige Insights dabei. Kannst du zum Abschluss nochmal deine drei größten Learnings aus den letzten 18 Monaten Gen AI bei Bosch mit uns teilen? Sascha: Also ob ich jetzt auf drei komme, kann ich dir nicht sagen, aber was sind die Learnings? Wahrscheinlich habe ich auch das eine oder andere schon gesagt, aber ausprobieren. Da draußen gibt es so viele Lösungen und es gibt Lösungen, die sind morgen tot. Und es gibt Lösungen, die sind morgen halt nicht tot und die existieren im halben Jahr noch und sterben dann, wenn der Sam Altman wieder auf die Bühne geht, was Neues announced, dann sind schon wieder 2000 Startups, die frisch gegründet worden sind, schon wieder weg. Weil einfach die Lösung schon out of the box kommt. Was ich den Geschäftsbereichen in meinen Talks auch immer erzähle ist, Wenn ihr ein Tool findet, spielt damit rum. Und zwar aber jetzt nicht mit Bosch-Daten, mit wirklich Public Available Data. Und [00:37:00] wenn ihr feststellt dass ihr das in eurem Unternehmen oder in eurer Unternehmung, in eurem Alltag nutzen könnt, dann kommt zu uns. Und wir sprechen mit anderen Geschäftsbereichen, stellt sich raus, die brauchen es auch, dann werden wir das on-boarden. Aber das Ganze funktioniert dann, wenn ihr rausgeht und wirklich den Mut habt, auch mal mit etwas Neuem rumzuspielen was da draußen gerade existiert. Das ist vielleicht einer der Learnings die ich habe. Nur so kann es funktionieren. Es kann nicht funktionieren, dass es top-down kommt. Dass wir sagen, das ist AI-Tool A, AI-Tool B, AI-Tool C, ihr habt das alle zu benutzen. Sondern das muss von unten hochkommen, von denen die es tatsächlich nachher auch... Einen Vorteil davon haben. Was ist denn der Vorteil Der Vorteil ist im Endeffekt entweder sparen Sie Geld oder Sie erhöhen Ihre Qualität oder Sie sind glücklicher in der Art und Weise, wie Sie arbeiten können. Und wenn jemand glücklich ist bei der Arbeit, das ist unbezahlbar. Das kannst du mit keinem ROI oder irgendwas berechnen Aber wenn ich feststelle ich bin glücklicher durch die Technologie, ich nutze es sehr, sehr viel, [00:38:00] wenn ich Artikel schreibe, wenn ich E-Mails schreibe und der Satz hört sich für mich unsauber an, dann gebe ich den halt kurz der KI und sage, formuliere mir den mal bitte um und kriege den zurück und sage, perfekt, so hört er sich sehr gut an und ich bin dann glücklicher weil ich mich freue, dass mein Kompagnon der jetzt gerade neben mir sitzt, mir geholfen hat, einen besseren Satz zu schreiben. Das andere ist es, ein dediziertes Team zu haben. Also ich glaube, es ist falsch und das kann ich jetzt natürlich sagen, weil wir so ein großes Unternehmen sind. Ich sage es mal, bei einem Zehn-Mann-Unternehmen ist es schwierig, aber da müsste man wenigstens einen dafür einmal abstellen, der sich dediziert mit diesem Thema beschäftigt. Ich glaube, es wird nicht funktionieren, wenn die Geschäftsführung zu uns gekommen wäre und gesagt hätte, jeder schnippt mal 10% von seiner Arbeitszeit ab. Und kümmert sich mal um dieses Thema. Das hätte nie und nimmer funktioniert, weil wir wissen es alle, wenn du 10% abschneidest, arbeitest du immer noch 100% und die 10 kommen on top. Und es werden dann oft auch noch 20 oder 30, weil es halt doch ein [00:39:00] größeres Thema ist. Das wird nicht funktionieren. Und als drittes, ich weiß nicht, ob das ein Learning ist, aber das ist diese... Die Angst vor der Technologie zu nehmen. Das KI ist ein Thema und ich kenne Leute, die haben Angst davon. Im privaten Umfeld, wenn ich mit denen spreche, die sagen, einer der Sätze ist immer erschreckend was das ja heute schon kann. Ja, es ist erschreckend Es ist tatsächlich erschreckend selbst ich, der das Internet mitgemacht hat, das iPhone mitgemacht hat, also ich komme aus der Zeit vor dem Internet, ich habe noch nie so eine Revolution erlebt wie jetzt mit diesen Technologien Mit dieser generativen KI. ja, auch mein erster, und jetzt komme ich auf die Anfangsfrage zurück, mein erster Chat-GBT-Moment der war erschreckend. Ich sagte ihm, er soll ein Gedicht schreiben, gebe ihm sogar das Thema mit und ich kriege ein für mich gebautes zu meinem Thema passenden Gedicht. Das ist erschreckend. Der zweite Erschreckmoment war natürlich Bildgenerierung. Ich sage auf einmal, was für ein Bild ich haben will und dann ist es da. [00:40:00] Vielleicht anfangs noch ein bisschen schlechter, aber jetzt mittlerweile... Extremst gut. Und diese Angst, die müssen wir im Business-Kontext, oder sollten wir nicht haben. Wir sollten das zu unserem Vorteil nutzen, wir müssen die positiven Seiten betrachten, aber immer natürlich im Hinterkopf Risiko Legal, Copyright muss abgeklärt sein. Und deshalb sehe ich auch unsere Rolle im Unternehmen so wichtig, weil wir das, genau diese Themen abnehmen für den Rest von Bosch Also wir gucken, Das Legal, Betriebsrat, Data Protection, Data Security, alles geklärt ist, jeden Service, jedes Modell, alles was wir anbieten, muss kein Geschäftsbereich zusätzlichen Aufwand betreiben, um diese Themen zu klären sondern die können dann die schöne Seite der ganzen Sachen nutzen und können es zu ihrem Vorteil in ihren Produkten, in ihrem Arbeitsumfeld, in ihrem täglichen Leben verwenden. Felix: Lieber Sascha, vielen Dank dass du uns einmal auf die GenAI-Reise von Bosch mitgenommen hast. Total spannend, wie ihr mit dem Thema umgeht und [00:41:00] trotz dieser Größe des Unternehmens sehr schnell dabei wart und heute schon diese Infrastruktur aufgebaut habt und Schulungsmöglichkeiten anbietet eure Teams auf die Reise Mitnehmend und ein cross-funktionales Team aufgebaut habt, was genau diese Standards für alle Bereiche im Unternehmen zur Verfügung stellt. Das predige ich auch immer wieder, wie wichtig dieser Teamsport ist. Danke, viele tolle Insights dabei und ich hoffe, wir machen nochmal im nächsten Jahr ein Update. Bis bald. Sascha: Gerne hat mich sehr gefreut.
Logge Dich ein oder registriere Dich, um am Austausch teilzunehmen.
Diskutiere mit