Felix: [00:00:00] Herzlich Willkommen zum AI First Podcast. Ich spreche heute mit Sascha Sambale. Sascha ist Global Gen AI Lead bei der Robert Bosch GmbH und hat dort schon Anfang 2023 die globale Gen AI Initiative für den Bosch Konzern mitgestartet und aufgebaut. Er berichtet uns heute von den Learnings auf diesem Weg, wie sie erfolgen GenAI in die einzelnen Bereiche gebracht haben, auf welcher Plattform sie das aufgebaut haben, wie sie es geschafft haben, die einzelnen Teams zu befähigen und das Ganze auf eine sichere Art und Weise.
Sehr, sehr viele spannende Tipps und Learnings mit dabei und ich wünsche dir viel Spaß bei dieser Folge.
sascha schön dass du dabei bist
Sascha: Hi, freut mich hier zu sein.
Felix: doch mal wer du bist
und was du bei bosch machst
er
Sascha: Also, mein Name ist Sascha Sambale, ich [00:01:00] Bin aktuell für das Thema Generative AI bei Bosch zuständig.
Ich bin studierter Software-Ingenieur,
Dann war ich lange Zeit bei einem
amerikanischen
Unternehmen, bei der IBM. Und war dort Softwareentwickler Architekt, viel durch die Welt
gereist und seit 2012 bin ich bei der Robert-Bosch-GmbH
angestellt, damals verantwortlich technisch für die
Bosch.com und die anderen
Bosch-Länder-Webseiten, heißt Bosch Damals viel Frontend-Entwicklung gemacht, wo ich bei der IBM viel Backend gemacht habe und im Jahr 2017, 2018 kam
das erste große Hype-Thema für
Unternehmen, das waren damals die Chatbots.
Da haben wir bei Bosch eine Chatbot-Suite
aufgebaut innerhalb unseres Unternehmens für Customer Support, aber auch
Also Voice- und Textbots und da waren es dann auch schon die ersten
Berührungspunkte in
Richtung AI mit Natural Language Processing Natural
Language Understanding. Und [00:02:00] jetzt kam dann im November 2023 dieses berühmt-berüchtigte
Chat-GPT und dann habe ich im Februar 2023 mit einem Kollegen zusammen
das Thema Generative AI bei Bosch übernommen und haben
versucht, das Thema bei uns mit reinzubringen ins
Unternehmen.
Felix: AI ist ja für einen Technologiekonzern wie Bosch sicherlich nichts Neues und ihr kennt das Thema seit vielen, vielen Jahren, aber jetzt ist ja Gen-AI doch noch relativ neu Frisch und neu, wenn wir uns mal die Technologielandkarte anschauen.
Wie seid ihr denn damals, es ist ja jetzt noch nicht lange her, nicht mal zwei Jahre, als Gen-AI
durch ChatGPT hochkam, wie seid ihr denn in dem Moment mit diesem Thema
umgegangen
Sascha: Also
man muss vorab sagen, Bosch und AI ist
jetzt nicht erst zwei
Jahre alt. Wir haben 2017 schon das [00:03:00] Bosch Center
of Artificial Intelligence gegründet in Renningen bei Stuttgart. Natürlich war das Thema Gen-AI damals
noch nicht so groß wie es heute ist. Da ging es tatsächlich um Bosch Ich sage jetzt mal das richtige AI, also
das, was dahinter steckt, Machine Learning, Deep Learning, auch Modelle
zu trainieren.
Da ging es auch ganz
stark in Richtung, wie kann
ich die
Industrie mit AI unterstützen, also gerade auch Optical Image Inspection, Bilderkennung und so weiter in Maschinen.
Und man muss dazu
sagen, das Thema AI war damals... Um es zu verstehen,
brauchte man
schon fast einen PhD. Also es war
wirklich schwierig, diese neuronalen Netze zu verstehen und auch zu trainieren. Man brauchte die
Hardware. Das heißt, jemand zu Hause konnte das nicht einfach hier
machen mit seinem kleinen Desktop-PC unterm Schreibtisch. Das heißt, dieses Thema AI war tatsächlich den großen
Playern vorbehalten. Und wir haben das 2017 damals schon begleitet
[00:04:00] Gegründet als eigene
Instanz innerhalb von Bosch Und das ist jetzt mittlerweile auch in Renningen, da steckt unsere Corporate
Research, das ist unsere zentrale Entwicklung bei Bosch haben wir das jetzt einfließen lassen und auch jetzt als wir dann
im Februar 2023 mit Generative AI gestartet sind, ist es eine Kombination oder eine Kollaboration gewesen
mit Corporate Research zusammen.
Corporate Research gehört zur Robert Bosch GmbH. Und ich persönlich arbeite bei Bosch Digital. Bosch Digital, muss man erklären, ist im Endeffekt der
IT-Supplier für Bosch. Von, wir stellen Rechner zur Verfügung zum Arbeiten, bis hin zu komplette Services, Hosting,
also alles, was irgendwo mit IT zu tun hat, kommt dann von Bosch Digital.
Und deshalb war die Gen-AI-Initiative, die
wir damals gegründet haben, die Kollaboration mit Bosch Digital, die in Lage sind, Das
zu verbreiten innerhalb von Bosch zusammen mit Corporate [00:05:00] Research, die in der Lage sind, sich mit dem AI-Thema zu befassen
und tatsächlich die Technologie zu liefern. Und zusammen haben wir dann für die Robert Bosch GmbH die Generative AI-Initiative gegründet Damals zu zweit Bosch Digital war ich, mein Kollege, der Christian Daniel, auch sehr guter
Researcher bei Corporate Research und wir haben im Endeffekt Business Und Technologie zusammengebracht, um für Gesamtborsten eine
Genial-Lösung zu schaffen.
Felix: Finde ich klasse dass ihr direkt verschiedene Stakeholder mit an Bord gebracht
habt. AI ist ja nicht nur ein technisches Thema, sondern da spielt ja auch ganz viel Organisation und Strategie mit rein. Und gerade bei Bosch habt ihr ja weltweit über 400.000 Mitarbeiter. Wie seid ihr denn für so einen riesen Konzern an dieses Thema gegangen, um das auch zu operationalisieren und die Möglichkeiten von GenAI [00:06:00] verfügbar zu machen für die einzelnen Bereiche?
Sascha: Okay, ja
das war tatsächlich eine ganz, interessante Journey. Angefangen hat die im Februar 2023.
Ist im Endeffekt schon
drei Monate nach Jet-GPT-Release, was man aber sagen muss, für so ein großes Unternehmen echt schnell, dass wir da schon auf den Zug aufspringen. Zwischendrin waren noch
Weihnachten Und
Silvester, das darf man nicht vergessen.
Und es war damals so
dass... Wir wirklich von heute auf morgen diese Initiative gestartet haben. Ich kann dazu eine kleine Anekdote erzählen und zwar
war ich snowboarden in Österreich
und habe diesen Anruf gekriegt ob ich Interesse hätte, dieses Thema mitzugestalten. da,
habe ich gesagt, ja klar, das
Interesse ist da, aber ich habe natürlich einen Fulltime-Job mit der Bosch mit dieser Chatbot-Suite, die wir da aufgebaut
haben.
Und dann hieß es, ja, sie wollen Jetzt nur mal abfragen, ob
ihr
Hauptinteresse besteht. Habe ich aufgelegt und [00:07:00] das
Thema war erstmal erledigt Bis genau 24
Stunden später,
als der
Anruf kam, es war dann
donnerstags, als der Anruf kam, ja,
du hast den Job, jetzt wird
es losgelegt jetzt müssen wir das Thema Jenny Hai starten und ein Team gründen. Und dann habe gefragt, wann geht es los?
Ja, ab Montag
So, das sieht man, wie schnell
das tatsächlich dann ging, von Donnerstag auf Montag alte
Arbeit abgeben neue Arbeit starten und wie wir gestartet sind, ist auch
ganz interessant, weil doch sehr untypisch für große Unternehmen,
es war
schon fast so eine Art Start-up Approach, also wir haben wirklich gestartet, wir haben uns hingesetzt und haben
überlegt
Wen brauchen wir und welche Rolle brauchen
wir,
um Das Thema Gen-EI so
schnell wie
möglich bei uns zu etablieren. Das stellt sich relativ schnell
heraus. Natürlich wir brauchen Data Scientists, Data Engineers. Jemand, der sich tatsächlich mit der Technik auskennt, aber wir brauchen auch den [00:08:00] Betriebsrat,
wir
brauchen Legal, also
unsere Legal-Abteilung wir brauchen Data Protection und Data Security-Abteilung und so haben wir
praktisch ein Team zusammengestellt aus sechs bis sieben Leuten mit Single Points of Context aus genau
diesen Bereichen Und was wir
gemacht
haben ist, dass wir alle unsere Geschäftsbereiche
angeschrieben haben.
Man muss verstehen und das wissen viele
da draußen, auch Bosch ist ein Gemischtwarenladen. Wir haben von dem Rasenmäher zur Bohrmaschine bis hin zum
Geschirrspüler alles in unserem Portfolio und das sind unsere Geschäftsbereiche bei Bosch. Und jeder Geschäftsbereich hat
natürlich andere
Anforderungen was Generative AI angeht also haben wir
Fast wie so ein Massenbrief
rausgeschickt an alle und haben gesagt, wo würde euch GenAI helfen
oder habt ihr schon Ideen? und jetzt kommt der große Vorteil dass Bosch doch schon
so ein Tech-Savvy-Unternehmen ist und ganz viele tatsächlich auch schon
damit rumgespielt haben aus [00:09:00] den Geschäftsbereichen
Das kann ein Vor-, aber
auch
ein Nachteil sein. Der Nachteil ist natürlich, wenn man
das
Ganze jetzt konsolidieren will, innerhalb des Unternehmens ist es schwierig, alle einzufangen, die schon
gestartet sind, die natürlich dann auch, ich sage jetzt mal, ihr
Baby schon haben, mit ihrem Baby
angefangen haben,
zu
entwickeln. Aber es hat auch den Vorteil, man
merkt es haben sich schon ganz viele damit beschäftigt und haben sich
schon Gedanken gemacht, wo Jenny A. überhaupt helfen kann. Das Resultat dieser Umfrage
waren 70 bis 100 Use Cases, die wir gekriegt haben. Und diese Use
Cases haben wir uns alle
angeschaut und haben versucht, wie können wir die denn
clustern.
Und dann haben wir festgestellt, okay, es gibt so vier mögliche Cluster in die eigentlich alle
Use
Cases fallen. Und das erste Cluster und das auch eins der größten
ist
Search and
Summarization geworden. Was steckt dahinter? Retrieval Augmented Generation,
das heißt, ich habe ein Modell, Ich habe einen Chatbot, mit dem ich [00:10:00] chatten möchte, aber mein Wissen kommt aus irgendeiner Quelle und die Quelle kann sein unser internes Wiki, irgendwelche PDFs vom Sharepoint, wo auch immer.
Im Endeffekt Wissensaggregation innerhalb eines Systems. Das zeigt zum einen
dass das Dokumentenmanagement immer noch ausbaufähig ist innerhalb von größeren Unternehmen. Da erzähle ich kein Geheimnis. Das hat jedes große Unternehmen, das hat viele Dokumente überall verteilt sind. Und jetzt hat man die Möglichkeit, eine Frage beantwortet zu bekommen aus 25 Dokumenten à 20 Seiten.
Und zwar, ich muss nicht durch alle durchlesen sondern
ich kriege die Antwort aggregiert. So, war der größte Use Case, ich würde sagen locker 60% aller Use Cases ging in Richtung Retrieval Augmented Generation.
Der zweite Use Case, Und der kam mir ganz gelegen weil ich aus dieser
Ecke kam, war Chat und Voice Bots.
Also da ging es in Richtung Conversational AI raus Nämlich, ich möchte jetzt mit jemandem [00:11:00] chatten können und zwar mit Konversations-Kontext, so wie wir es auch von ChatGPT
kennen. Oben erzähle ich dass ich FC Bayern Fan bin und
unten macht er mich fertig, weil er immer noch weiß, dass ich FC Bayern Fan bin Und
der dritte Use Case
war, und das ist glaube ich Standard, alles was in
Richtung Content Generation geht, Web Content, also Text, SEO, Image Generation, Video Generation, das sind genau
diese Themen, die da reinfallen.
Und das vierte und auch das letzte und auch ein sehr,
sehr wichtiges ist Software Engineering, Software Development. Wir sind ein Unternehmen und jetzt auch gerade bei Bosch Digital, aber auch in unseren
Geschäftsbereichen gibt es überall
Softwareentwicklungsabteilungen und die haben natürlich die große Hoffnung mit gewissen Tools dort effizienter zu werden, aber
auch die Qualität zu verbessern Und vor allen
Dingen auch das Leben der Entwickler leichter zu machen.
Wir kennen es [00:12:00] alle, ich
bin selbst Entwickler gewesen, Test Cases schreiben, Dokumentation Das mag keiner. Also ich kenne keinen Softwareentwickler, der das mag, der möchte lieber sein Tool schreiben, neue Features
programmieren und der ist natürlich mit Tools wie GitHub Copilot zum Beispiel extremst unterstützt als jemand, Der die, ich sage es mal auf Deutsch, die Drecksarbeit abnimmt, die Arbeit, auf die er keine Lust hat oder repetitive Aufgaben
abnimmt oder vielleicht mal kurz ein
Datenset generiert Mit dem man sein Tool testen kann.
Das waren im Endeffekt die vier Clusters. Also zum einen, ich fasse nochmal kurz zusammen, Search and Summarization, Chatbots,
Voicebots, Content Creation und Software Development. [00:13:00] Das ist tatsächlich wahr. Also wir haben
das Ganze dann gestoppt nach 100 Use Cases, weil es halt einfach nicht mehr managebar war. Wir haben jetzt gesagt, jetzt haben wir 100 in der Hoffnung wir
haben jetzt, ich sage jetzt mal,
den großen Teil abgedeckt. Und ja, wie geht man jetzt ran an solche
Use Cases Es gibt da mehrere
Metriken, die man da anwenden kann.
Also die Metriken können monetär sein, also ROI-Berechnung.
Mit welchem Use Case kann ich denn wie viel Geld einsparen? Und da kommt natürlich gleich als nächste Metrik mit, was kostet das denn, diesen
Use [00:14:00] Case überhaupt zu implementieren? Und ist es vielleicht ein Low-Hanging
Fruit? Ist es vielleicht ein Tool, was schon
existiert was wir einfach nur onboarden müssen? Oder ist es ein Tool, was wir selbst entwickeln müssen, um genau
dieses... Dieses
Cluster zu
lösen oder diesen einzelnen Use Case zu lösen. Also ROI ist natürlich einer der
wichtigen Faktoren. unser Problem, was wir natürlich da
haben,
ist, Wir als
zentrale Organisation haben
in der
Regel
nicht das Wissen um den ROI sauber zu berechnen.
Das kann im Endeffekt nur der Geschäftsbereich. Und jetzt kommt dieses neue
Hype-Thema und dann haben natürlich ganz viele Hoffnungen in dieses Thema.
Das
heißt, die
ROI-Berechnung basierte unter anderem auch so ein bisschen auf Hopium [00:15:00]
ganz viel
Geld durch
diese neue Technologie einzusparen, wo auch Zahlen
rausgekommen sind, wo
wir gesagt
haben,
Das ist jetzt nicht so realistisch dass das tatsächlich passieren wird.
Aber wir haben gesagt, es geht zum einen
natürlich um
ROI, aber es geht auch um unsere internen Kosten und internen Aufwände, nämlich wie können wir
Redundanzen vermeiden? Also wir sparen ja
auch intern als Bosch Geld, indem wir einfach dafür sorgen, dass nicht fünf Abteilungen das gleiche Tool
bauen. das
heißt, wir haben da schon
versucht rauszukriegen Als wir die Use
Cases angeguckt haben,
hey, die sind alle im gleichen Cluster, die wollen alle das gleiche
nur die Datenquelle ist eine andere. Das heißt, die
Plattform an sich, da kann ich nachher was dazu erzählen zu unserer Plattform AskBosch die Plattform an sich ist
immer
die gleiche Vorne hast du ein Chat-Interface, hinten
hast
du irgendwelche Knowledge-Datenbanken oder
Wikis oder PDFs angeklemmt die Funktionalität ist die
gleiche Und wo wir dann zum Beispiel geguckt haben ist, was sind denn
Low-Hanging-Fruits?
[00:16:00] Also wenn wir in den
Geschäftsbereichen Use Cases gefunden
haben, wo wir auf dem
Markt Tools gesehen haben, die das
lösen, dann haben wir die kontaktiert und
versucht, die einzukaufen weil wir gesagt haben, es macht
bei diesem schnellen Thema keinen Sinn, alles
selbst zu entwickeln. Wir gucken, wir machen wirklich, bei der Make-or-Buy-Decision ist es eine ganz klare
Reihenfolge bei der wir vorgehen, wo wir wirklich erst beim
allerallerletzten Punkt sagen, okay, jetzt müssen wir auf Make gehen, weil Das gibt es noch nicht. Und das haben wir bei dem Tool Ask Bosch gemacht. Das war schon
in dem einen oder anderen Artikel da wurde drüber geredet Vielleicht
nur kurz, was Ask Bosch ist. Ask
Bosch ist unser internes Chat-GPT, kann man grob
sagen. Also haben wir ein Team zusammengestellt aus Entwicklern, Frontend, UXler, Data Scientists und haben AskBosch gebaut. Und der
Hauptgrund, warum wir AskBosch gebaut haben, ist, JetGPT [00:17:00] wurde sehr
beliebt und bekannt und das natürlich auch geschäftlich genutzt. So und da haben wir natürlich das erste Problem, Wissensabfluss von Unternehmen. Wir waren von Anfang an ganz offen und haben Chat-GPT nie
verboten bei Bosch. Das ist ganz wichtig.
Andere Unternehmen haben das sofort über ihren Corporate Proxy geblockt. Bosch hat gesagt, nein, wir sagen euch, was dürft ihr denn mitgeben und was nicht, aber bitte nutzt diese Technologie, um zu verstehen, was damit
möglich ist. Und haben dann aber parallel...
Das war das allererste Release, war im Endeffekt ein 1 zu 1 Chat-GPT-Klon, jetzt nicht von der Optik her, es war schon im Bosch-Design gebrandet, aber es war Chat-GPT oder GPT 3.5 als Modell dahinter, vorne hattest du ein Chat-Interface und du konntest
damit sprechen. Da waren keine Bosch-Daten drin, es war wirklich plain Chat-GPT. Wir hatten auch schon einen Konversationskontext und alles drin, aber das war nicht [00:18:00] das Ziel von Ask Bosch. Das Ziel war im Endeffekt dann auch Unternehmenswissen mit reinzubringen. Und da haben wir dann ein Konzept gebaut, draußen ist es bekannt als die Custom GPTs, bei uns sind es die Spaces.
Im Endeffekt kannst du dir ein Space anlegen, kannst deine PDFs reinladen, ein Sharepoint verlinken und kannst mit diesem Space chatten. Und damit hast du dann über... Search and Summarization, also über unseren Retrieval Augmented Generation Approach, haben wir es praktisch dann geschafft, Ask Bosch auch an Unternehmensdaten anzutoben, ohne ein neues Modell trainieren zu müssen.
Das ist jetzt eins der Kerntools unserer Initiative und ist nicht nur, dann bin ich auch gleich fertig mit AskBosch, und ist auch nicht nur ein Web-Frontend und auch nicht nur ein JetGPT-Klon, sondern es ist tatsächlich eine Plattform geworden bei uns. Das heißt, wir bieten dort auch jetzt Services an.
Und einer der Services, die wir anbieten, ist, wenn ein Geschäftsbereich bei uns zum Beispiel sagt, er braucht ein Google Gemini oder er braucht ein [00:19:00] OpenAI JetGPT 4.0, Was müsste er normalerweise tun? Er müsste sich eine Azure-Instanz holen oder er müsste sich ein Google-Projekt anlegen. Muss er bei uns nicht, der kommt zu uns und kriegt von uns einen API-Key und einen API-Schlüssel und er kann dieses Modell direkt nutzen.
Also wir haben praktisch auch dann die Large Language Models as a Service innerhalb von Bosch angeboten. Und jetzt kommt der große Vorteil warum es uns auch gibt Alle Modelle,
die die dort jetzt nutzen können, sind einmal durch
den Betriebsrat, sind einmal durch die Legal-Prüfung, sind durch die Data-Security-Prüfung durch.
Das heißt, die haben die Sicherheit, dass wenn sie diese Services bei
uns nutzen, dass sie im Endeffekt
Bosch-compliant unterwegs sind.
Felix: Die GenAI-Welt hat sich aber, seitdem ihr jetzt mit AskBosch gestartet habt verändert Wieder fünfmal weiter gedreht, würde ich sagen. Und da draußen gibt es trotzdem noch ganz, ganz viele Unternehmen, die noch keine zentrale [00:20:00] Infrastruktur aufgebaut haben, die sie ihren Mitarbeitern zur Verfügung stellen, damit sie die Möglichkeiten, Fähigkeiten von Gen-AI produktiv nutzen können.
Ich bin ja immer kritisch gegen so ein Rollout von ChatGPT, weil ChatGPT, erstens hat man eine starke Abhängigkeit von einem Anbieter und auf der anderen Seite ist OpenAI ja nicht unbedingt eine Produktcompany sondern die wollen Artificial General Intelligence bauen und nicht einen kommerziellen Chatbot.
Und gleichzeitig verbrennen sich aber auch immer wieder Unternehmen die Finger daran, ihren eigenen AI-Chatbot mit verschiedenen Sprachmodellen und anderen Services daran zu entwickeln und haben dann irgendwann nicht mehr die Ressourcen, mit der Entwicklung vom Markt Schritt zu halten. Jetzt hast du ja total viele Erfahrungen genau in dem Bereich gesammelt.
Welche Empfehlungen würdest du denn Unternehmen jetzt geben, die sich fragen, wie sie so einen Chatbot oder so, [00:21:00] Einen plattformähnlichen Service entwickeln können und ob sie den entwickeln sollen oder doch lieber etwas vom
Markt kaufen.
Sascha: Genau, also Ask Bosch war jetzt natürlich nicht das... einzige Tool, was wir released haben, intern war aber
eines
der wichtigsten. Wo haben wir noch reingeguckt? Also es gibt ja in diesem ganzen Gen-AI-Space
ganz viele
Themen. Und ich habe ja anfangs
erzählt, dass wir mit einem Team gestartet
sind, mit Legal, Data Security und so weiter.
Das
heißt, wir haben
die Streams parallelisiert und haben gesagt, okay, wir
müssen ganz viele Dinge klären weil der
Markt ändert sich ja
regelmäßig
Am Anfang hatten wir nur GPT, dann kam das eine oder andere große
Modell dazu. Auf
einmal hat sich der
Open-Source-Markt
extrem entwickelt. Da kamen ganz viele neue Lizenzen dazu. Also wir
haben ja nicht nur Open-Source-Modelle, die
wirklich mit Open-Source-Lizenzen
verheiratet sind, sondern es kamen ja auch
Closed-Source-Modelle die dann wieder
proprietäre Lizenzen haben, wie in Meta Lama beispielsweise. Das [00:22:00] heißt, unser Job war
im Endeffekt zu gucken, dass wir alles, was bei
Bosch passiert, grob konsolidieren Ganz wichtig, wir haben keine Governance-Funktion, das heißt wir werden uns in Geschäftsbereichen nie
reinreden oder
etwas verbieten.
Ihr dürft das nicht nutzen, weil wir machen das ja auch, aber wir bieten
ihnen an und sagen, wir
versuchen das
zentral zu managen zentral
darzustellen, was es innerhalb von Bosch gibt, damit wir so eine
Art, ich sage es mal, Blumenstrauß entwickeln und wenn jemand eine Blume
sucht dann kann er hingehen und kann gucken, habt ihr vielleicht eine lilane Rose, Und dann holen wir die raus und sagen, ja, die haben
wir, die kannst du tatsächlich nutzen.
Oder
wir sagen,
Geschäftsbereich Y hat die,
sprech doch mal mit denen,
die bieten das auch als Service an, dann könnt ihr das
nutzen.
Felix: In der Zeit habt ihr ja auch sicherlich nicht nur ein AI-Chatbot bzw. eine Plattform entwickelt. Welche Use Cases habt ihr euch denn noch angeschaut und bildet ihr jetzt heute ab und habt dafür
[00:23:00] Lösungen
für die Teams bereitgestellt?
Sascha: Also gerade dieses Chat mit Wissensbots, das war eins der Hauptthemen wo wir festgestellt haben, Also du kannst mir einen Geschäftsbereich geben und ich bin mir sicher, da gab es ein
Projekt,
was genau das gleiche gemacht hat. Und das war die Idee und das war auch der
Grund, wo wir gesagt haben, da müssen wir reingucken.
Das nächste ist natürlich Image Generation Image Generation ist gerade für
Marketingabteilungen ein extrem wichtiges Tool. Warum? Oft ist es so, wenn du eine Marketingkampagne gemacht hast oder gestartet hast, wie fängt es in der Regel an? Du musst erstmal eine Ausschreibung machen, musst einen
externen Dienstleister finden, kostet schon mal Zeit. Du hast zwar eine grobe Idee
im Kopf und dann hast du deinen externen Dienstleister gefunden und fliegen erstmal alle nach Berlin zum großen Kick-off-Workshop, kostet Zeit, kostet Geld, alle in einem Raum, da gibt es einen Kick-off-Workshop, so dann wird die grobe Marketingstrategie
Gestartet und dann geht es los [00:24:00] und dann wird über Iterationen vielleicht erstmal das erste Marketing-Bild
erstellt, mal so, dass man so ein Gefühl kriegt in welche
Richtung geht die Marketing-Aktion. Und das kann sich über
sechs bis acht Wochen wirklich ziehen, bis da mal irgendetwas rumkommt, mit dem
man zufrieden ist. Aber wir
hatten
einen
Geschäftsbereich, die haben genau diese
Szene genommen und haben innerhalb von 20 Minuten mit
Mid-Journey testweise
das
Marketing-Bild, was sie als Basis genommen hätten, Selbst erstellt.
Warum?
Es musste kein
Anbieter gefunden werden, es
musste nicht durch die Weltgeschichte geflogen werden, was jetzt auch für
CO2 und also unabhängig von der
ganzen Zeit die
drauf geht,
alleine
der
CO2-Footprint nur um dieses Brainstorming oder Kick-Off-Meeting zu machen.
Und vor allen Dingen, was sie sich
halt gespart haben, sind Iterationen Denn der
Marketing-Lead
Der konnte relativ schnell sein Feedback geben.
Der hat gesagt, Bild
gefällt mir nicht, neuer Prompt Bild gefällt mir nicht, jetzt ist die Banane grün, jetzt muss [00:25:00] sie rot werden und keine Ahnung was.
Der konnte halt relativ schnell
Feedback geben und
die KI hat ihm was ausgespuckt. Was
haben die dann gemacht? Die haben
dieses
Bild
genommen, sind dann zur Agentur und haben
gesagt, das ist die Basis und jetzt professionalisieren wir das Ganze. Warum haben sie es nicht verwendet Es gibt mehrere
Gründe. Copyright ist noch nicht so ganz sauber geklärt, was für ein
großes Unternehmen auch ein bisschen schwierig ist. Und auf der anderen Seite ist es natürlich so, die
KI-Bilder jetzt letztes Jahr, es wird immer besser, die waren halt auch nicht perfekt.
Da war hier mal das Auge schief
oder nur vier Finger. Kann man so nicht nehmen.
Aber was die sich halt gespart haben, sind die sechs bis acht Wochen bis zum fertigen Entwurf, um die Kampagne dann zu starten. Und das sind genau solche Themen, die wir damit aufgenommen haben und
gesagt haben, Wenn du das Problem hast, haben alle anderen dieses
Problem ja auch. Und dann haben wir gesagt, und das kommt dann in unser Portfolio mit rein, wir brauchen eine Lösung
für Bildgenerierung. Und so sind wir praktisch für
sämtliche Gen-AI-Funktionen durchgegangen und haben dafür dann [00:26:00] Lösungen bei uns zentral zur
Verfügung gestellt.
Felix: Ja, eine der größten Herausforderungen im Umgang mit Gen-AI sind ja die fehlenden Skills bei Mitarbeitenden, was ja klar ist, weil das... Eine sehr, sehr neue Technologie ist und daraus entsteht ein großer, großer Schulungsbedarf. Ich führe da mittlerweile bei jedem Kunden ein AI-Führerschein-Programm durch, um den produktiven, aber auch vor allem sicheren und verantwortungsvollen Umgang mit den Tools zu trainieren.
Wie habt ihr das denn gelöst?
Sascha: Ja, also wir haben in dem
Team, was wir ursprünglich gestartet haben, ich habe nicht alle Rollen aufgezählt aber
eine der Rollen
War auch der zentrale Verantwortliche für die
Trainings bei Bosch oder einer der Verantwortlichen, der die
Trainings erstellt. Und was wir gemacht
haben, ist, wir haben eine
KI-Lernreise erstellt mit Videos, jetzt kommt es dazu,
Videos auch teilweise
KI [00:27:00] generiert und also
mit Avataren, aber auch mit vielen
Beispielen Einer der größten Punkte die für so große Unternehmen wie die Robert Bosch
GmbH ganz wichtig ist, ist neben den ganzen Legal- und
Copyright-Themen natürlich auch der Betriebsrat.
Weil es ist klar, wenn du in einem Unternehmen ansprichst,
wir wollen jetzt mal KI machen, dann gehen die Alarmglocken
los, wird
KI-Mitarbeiter ersetzen. Eine der Grundsatzfragen. Und wir
haben mit dem ganz, ganz eng und wirklich,
ich muss sagen, wir haben eine super Zusammenarbeit mit dem Konzernbetriebsrat Robert Bosch GmbH und haben den Betriebsrat geschult zu dem Thema Künstliche Intelligenz und wir waren auch alle der Meinung, dass es gar nicht Die Frage ist gar nicht, machen wir es oder machen wir es nicht, sondern wie machen wir es?
Dass das Thema da ist und nicht mehr gehen wird, das war allen Beteiligten klar. Und das Ziel war, jetzt vorab schon [00:28:00] eine Regelung zu finden, wie wir jetzt damit umgehen, dass unter Umständen der eine oder andere Job irgendwann mal ersetzt werden könnte durch KI. Stand heute sehen wir das alles ganz klar als KI ist ein Problem Co-Pilot.
Microsoft nennt ihn sogar Co-Pilot. Er ist ein Kompagnon, der sitzt neben mir und hilft mir. Der kann mich noch nicht zu 100% ersetzen und er kann auch so gut wie keine Rolle bei der Robert Bosch GmbH heutzutage ersetzen. Würden wir auch nie tun. Aber wir müssen jetzt schon gucken, welche Rolle innerhalb des Unternehmens kann durch KI unterstützt werden und vor allen Dingen auch, welche Rolle kann durch KI irgendwann mal in der Zukunft ersetzt werden.
Und das Ziel für jedes große Unternehmen ist es, Das jetzt schon anzugehen unter anderem, und jetzt kommen wir zum Thema Schulung zurück, Schulung Wir müssen die Awareness schaffen innerhalb des Unternehmens was mit KI kommt, was mit KI möglich ist. Das ist auch Teil meiner Rolle, dass ich durch Geschäftsbereiche gehe [00:29:00] und die Möglichkeiten aufzeige von generativer KI und vor allen Dingen auch, Gerade die Legal-Themen, was Copyright angeht da müssen wir Awareness im Unternehmen schaffen, wie man mit dieser Technologie umgeht, um jetzt auch nicht zwingend ein Copyright-Infringement zu enforcen.
Das heißt, du kannst ja mit deinem Prompt ganz klar enforcen bei einer Bildgenerierung. Du kannst sagen, ein Porsche 911er und ein, ich sage jetzt mal, ein mitteleuropäischer Mit-20er Mensch davor mit einer Apple Watch und einem Nike T-Shirt das kann ich entforcen und das eine oder andere Modell wird mir das ausspucken.
Und diese Awareness zu schaffen, das geht über Trainings wo wir sagen, pass auf, das und das ist möglich, aber diese Risiken kommen mit. Und um diese Risiken zu mitigieren gibt es von uns diese Guidelines damit du jetzt nicht in die Falle tappst, dass das genau auch bei dir passiert. Und dann haben wir diese Lernreise gestartet zuerst mal generische Trainings Themen, [00:30:00] generative KI, aber jetzt auch zu GitHub Copilot, sogenannte Lern-Nuggets, wo du einzelne Themen innerhalb von GitHub Copilot erklärt bekommst.
Warum haben wir das gemacht? Wir haben eine Studie intern gestartet mit einem externen Dienstleister Wo wir rauskriegen wollten, wie wird denn GitHub Copilot, also das ist zur Source-Code-Entwicklung, wie wird das denn innerhalb des Unternehmens genutzt? Und es hat sich herausgestellt, es wird genutzt die Leute lieben es.
Aber sie nutzen es nicht zu dem, was es 100% kann. So, und dann hat sich herausgestellt, dafür müssen wir diese Lernnuggets anbieten. Viele haben es installiert und haben halt die Grundfeatures davon genutzt, wussten aber nichts von noch drei, vier anderen Icons die auf der linken Seite auftauchen, mit denen sie noch viel mehr machen konnten als vorher.
Und deshalb gibt es jetzt diese Training Nuggets die kann sich jeder angucken, der mit GitHub Copilot arbeitet und bekommt dann diese Tipps [00:31:00] Tricks mitgebracht Praktisch mitgeteilt und kann es in Zukunft nutzen
ich habe ja anfangs erzählt, dass wir das Ganze so in diesem
Startup-Approach gestartet haben. Das hat letztes Jahr auch soweit gut funktioniert, um relativ schnell etwas auf die Straße zu kriegen. Das war, Schnelligkeit war eines
der wichtigsten Themen bei diesem ganzen Gen AI letztes Jahr.
Also wir konnten... Du hast als Großunternehmen ein Problem, du hast ein ganz schnelles Thema da draußen. du bist aber ein Großunternehmen, was kommt mit einem
großen Unternehmen immer mit? Ganz viele Prozesse. Weil du brauchst die ja, die sind ja
wichtig, diese Prozesse. Und jetzt gibt es dieses Problem, wenn das aber so schnell ist und die Prozesse so langsam, dann habe [00:32:00] ich ein Bottleneck.
Und deshalb haben wir gesagt, okay, wir gehen mal einen komplett anderen Weg. Wir bilden diese Arbeitsgruppe und mit dieser Arbeitsgruppe legen wir los und
weiter Versuchen auch mal prozessunabhängig schnell Dinge auf die Straße zu bringen, aber Vorsicht immer mit dem Fokus, es muss legal,
es muss compliant, es muss auditsicher sein, aber wir haben dedizierte Personen, deren einzige Aufgabe es ist, sich um dieses Thema zu kümmern.
Wir
hatten zum Beispiel einen Single Point of Contact von
den Anwälten, der hat nur Gen-AI-Legal-Themen
bearbeitet, der hat nichts anderes mehr angeguckt und
genau so war das mit
allen, die in diesem Team mitgearbeitet haben. So, long story short,
das Ganze hat ganz gut funktioniert, aber es wird halt immer größer, es kommen mehr Tools dazu, es kommen mehr Prüfungen dazu.
Also haben wir uns Anfang dieses Jahres dann vergrößert und
wurden zu viert. Also wir sind jetzt vier Personen, nicht mehr zwei, im Leadership Team und haben jetzt ein Gen-AI-Projektteam gebaut.
Wir sind jetzt glaube ich [00:33:00] neun Leute
drin, die dediziert an diesen Themen arbeiten. Da sind aber
keine Entwickler drin.
Das ist alles gecontracted innerhalb von Bosch sondern es ist die reine Steuerung der Gen-AI-Themen innerhalb des Unternehmens. Alles andere würde uns, entweder werden wir ein
Riesenteam und dann ist es nicht mehr managebar, oder, nee, das ist das Einzige wir werden ein Riesenteam und
es ist nicht mehr managebar. Deshalb haben wir
gesagt, wir bleiben klein, übernehmen die Steuerung, aber alles, was
tatsächlich in die Exekutive geht, passiert in den tatsächlichen bereits bestehenden. Bereichen innerhalb von Bosch. Die gibt es schon lange, die
werden im Endeffekt nur dann von uns gecontracted. So und das haben wir jetzt gemacht.
Wir haben das ganze
professionalisiert, sind breiter aufgestellt und das tolle ist, wir haben den Support von der Geschäftsführung der Robert Bosch GmbH und der Geschäftsführung von Corporate Research als auch von Bosch Digital. Das heißt, wir haben den vollen Support und können [00:34:00] dementsprechend sehr frei agieren.
Und haben diesen Fokus auch gesetzt bekommen und uns wird der Weg freigehalten, um das tatsächlich durchzusetzen. Und das ist vielleicht einer der wichtigsten Messages, ist, das Top-Management muss das Thema verstanden haben und muss das Thema auf seinem Schirm haben. Ich habe auch mit anderen Unternehmen gesprochen.
Jetzt erst diese Woche, aber es gibt noch ganz viele Unternehmen, die warten jetzt gerade noch ab. Also das war tatsächlich die Aussage, wir warten jetzt mal, was passiert. Und den Approach haben wir, wie ich jetzt die letzten paar Minuten erzählt habe, nicht gemacht. Wir
sind gleich voll rein und es war glaube ich auch die richtige Entscheidung, weil in der ganzen Journey jetzt mit diesem Startup und jetzt mit dem professionellen Produkt, haben wir
so viel gelernt, wie sich der Markt innerhalb dieser eineinhalb Jahre verändert hat, Und wie wir uns als Großunternehmen auch auf diese Veränderung anpassen müssen.
Und dieses Learning, das kannst [00:35:00] du halt nicht einkaufen das musst du selbst machen. Und vor allen Dingen auch, wie du die Prozesse jetzt angehen musst. Also wir werden durch dieses Thema jetzt einige Prozesse innerhalb des Unternehmens einfach beschleunigen Wir haben jetzt rausgekriegt das geht auch anders, wir müssen anders und vor allen Dingen Müssen wir auch mit dem Thema Risiko ganz anders umgehen.
Weil du hast immer dieses Risiko. Bei KI kommt ein Grundrisiko mit. Du kannst dir als Anwalt du kannst dich nicht ein halbes Jahr hinsetzen und mit dem Anbieter Verträge ausarbeiten bis das Risiko wirklich bei Null ist. Das gibt es nicht mehr. Und das ist auch das, was eine Message für andere Unternehmen ist.
Die Risikoabschätzung muss anders stattfinden. Man kann nicht mehr auf Null Risiko gehen oder auf 5% Risiko gehen Man nimmt es halt mal mit, macht aber trotzdem eine Kalkulation, was im Worst Case passieren könnte und dann mittelt man sich irgendwann, also man kommt so auf so eine Mitte, wo man sagt, das ist jetzt das, mit dem ich leben [00:36:00] kann.
Aber so auf Nummer sicher kannst du bei dieser Technologie Stand heute noch nicht gehen.
Felix: Sascha, großartige Insights dabei. Kannst du zum Abschluss nochmal deine drei größten Learnings aus den letzten 18 Monaten Gen AI bei Bosch mit uns teilen?
Sascha: Also ob ich jetzt auf drei komme, kann ich dir nicht sagen, aber was sind die Learnings?
Wahrscheinlich habe ich auch das eine oder andere schon gesagt, aber ausprobieren. Da draußen gibt es so viele Lösungen und es gibt Lösungen, die sind morgen tot. Und es gibt Lösungen, die sind morgen halt nicht tot und die existieren im halben Jahr noch und sterben dann, wenn der Sam Altman wieder auf die Bühne geht, was Neues announced, dann sind schon wieder 2000 Startups, die frisch gegründet worden sind, schon wieder weg.
Weil einfach die Lösung schon out of the box kommt. Was ich den Geschäftsbereichen in meinen Talks auch immer erzähle ist, Wenn ihr ein Tool findet, spielt damit rum. Und zwar aber jetzt nicht mit Bosch-Daten, mit wirklich Public Available Data. Und [00:37:00] wenn ihr feststellt dass ihr das in eurem Unternehmen oder in eurer Unternehmung, in eurem Alltag nutzen könnt, dann kommt zu uns.
Und wir sprechen mit anderen Geschäftsbereichen, stellt sich raus, die brauchen es auch, dann werden wir das on-boarden. Aber das Ganze funktioniert dann, wenn ihr rausgeht und wirklich den Mut habt, auch mal mit etwas Neuem rumzuspielen was da draußen gerade existiert. Das ist vielleicht einer der Learnings die ich habe.
Nur so kann es funktionieren. Es kann nicht funktionieren, dass es top-down kommt. Dass wir sagen, das ist AI-Tool A, AI-Tool B, AI-Tool C, ihr habt das alle zu benutzen. Sondern das muss von unten hochkommen, von denen die es tatsächlich nachher auch... Einen Vorteil davon haben. Was ist denn der Vorteil Der Vorteil ist im Endeffekt entweder sparen Sie Geld oder Sie erhöhen Ihre Qualität oder Sie sind glücklicher in der Art und Weise, wie Sie arbeiten können.
Und wenn jemand glücklich ist bei der Arbeit, das ist unbezahlbar. Das kannst du mit keinem ROI oder irgendwas berechnen Aber wenn ich feststelle ich bin glücklicher durch die Technologie, ich nutze es sehr, sehr viel, [00:38:00] wenn ich Artikel schreibe, wenn ich E-Mails schreibe und der Satz hört sich für mich unsauber an, dann gebe ich den halt kurz der KI und sage, formuliere mir den mal bitte um und kriege den zurück und sage, perfekt, so hört er sich sehr gut an und ich bin dann glücklicher weil ich mich freue, dass mein Kompagnon der jetzt gerade neben mir sitzt, mir geholfen hat, einen besseren Satz zu schreiben.
Das andere ist es, ein dediziertes Team zu haben. Also ich glaube, es ist falsch und das kann ich jetzt natürlich sagen, weil wir so ein großes Unternehmen sind. Ich sage es mal, bei einem Zehn-Mann-Unternehmen ist es schwierig, aber da müsste man wenigstens einen dafür einmal abstellen, der sich dediziert mit diesem Thema beschäftigt.
Ich glaube, es wird nicht funktionieren, wenn die Geschäftsführung zu uns gekommen wäre und gesagt hätte, jeder schnippt mal 10% von seiner Arbeitszeit ab. Und kümmert sich mal um dieses Thema. Das hätte nie und nimmer funktioniert, weil wir wissen es alle, wenn du 10% abschneidest, arbeitest du immer noch 100% und die 10 kommen on top.
Und es werden dann oft auch noch 20 oder 30, weil es halt doch ein [00:39:00] größeres Thema ist. Das wird nicht funktionieren. Und als drittes, ich weiß nicht, ob das ein Learning ist, aber das ist
diese... Die Angst vor der Technologie zu nehmen. Das KI ist ein Thema und ich kenne Leute, die haben Angst davon. Im privaten Umfeld, wenn ich mit denen spreche, die sagen, einer der Sätze ist immer erschreckend was
das ja heute schon kann.
Ja, es ist erschreckend Es ist tatsächlich erschreckend selbst ich, der das Internet mitgemacht hat, das iPhone
mitgemacht hat, also ich komme aus der Zeit vor dem Internet,
ich habe noch nie so eine
Revolution erlebt wie jetzt mit diesen Technologien Mit dieser generativen KI. ja, auch mein erster, und jetzt komme ich auf die Anfangsfrage zurück, mein erster Chat-GBT-Moment der war erschreckend.
Ich sagte ihm, er soll ein Gedicht schreiben, gebe ihm sogar das Thema mit und ich kriege ein für mich gebautes zu meinem Thema passenden Gedicht. Das ist erschreckend. Der zweite Erschreckmoment war natürlich Bildgenerierung. Ich sage auf einmal, was für ein Bild ich haben will und dann ist es da.
[00:40:00] Vielleicht anfangs noch ein bisschen schlechter, aber jetzt mittlerweile... Extremst gut. Und diese Angst, die müssen wir im Business-Kontext, oder sollten wir nicht haben. Wir sollten das zu unserem Vorteil nutzen, wir müssen die positiven Seiten betrachten, aber immer natürlich im Hinterkopf Risiko Legal, Copyright muss abgeklärt sein.
Und deshalb sehe ich auch unsere Rolle im Unternehmen so wichtig, weil wir das, genau diese Themen abnehmen für den Rest von Bosch Also wir gucken, Das Legal, Betriebsrat, Data Protection, Data Security, alles geklärt ist, jeden Service, jedes Modell, alles was wir anbieten, muss kein Geschäftsbereich zusätzlichen Aufwand betreiben, um diese Themen zu klären sondern die können dann die schöne Seite der ganzen Sachen nutzen und können es zu ihrem Vorteil in ihren Produkten, in ihrem Arbeitsumfeld, in ihrem täglichen Leben verwenden.
Felix: Lieber Sascha, vielen Dank dass du uns einmal auf die GenAI-Reise von Bosch mitgenommen hast. Total spannend, wie ihr mit dem Thema umgeht und [00:41:00] trotz dieser Größe des Unternehmens sehr schnell dabei wart und heute schon diese Infrastruktur aufgebaut habt und Schulungsmöglichkeiten anbietet eure Teams auf die Reise Mitnehmend und ein cross-funktionales Team aufgebaut habt, was genau diese Standards für alle Bereiche im Unternehmen zur Verfügung stellt.
Das predige ich auch immer wieder, wie wichtig dieser Teamsport ist. Danke, viele tolle Insights dabei und ich hoffe, wir machen nochmal im nächsten Jahr ein Update. Bis bald.
Sascha: Gerne hat mich sehr gefreut.