Wie IBM mit KI 4,5 Milliarden Dollar einsparte

Dr. Lisa Precht treibt bei IBM die KI-Strategie in der DACH-Region voran. In dieser Folge erklärt sie, warum die Zahl der eingesetzten Modelle, Assistenten und Agenten wenig darüber aussagt, ob KI tatsächlich Geschäftswert schafft. Entscheidend ist, wie Unternehmen Prozesse, Daten, Plattformen und Verantwortlichkeiten zusammendenken.

IBM hat diesen Weg mit dem Client-Zero-Ansatz zunächst im eigenen Unternehmen beschritten. Aus vielen spezialisierten Lösungen entstand ein zentraler Zugang, der Prozesse aus HR, IT, Sales und Einkauf orchestriert. Laut Lisa wurden dabei innerhalb von etwas mehr als zwei Jahren 4,5 Milliarden US-Dollar eingespart – nicht allein durch KI, sondern durch die gemeinsame Optimierung von Prozessen, Infrastruktur, Technologien und Betriebsmodellen.

Über den Gast

Dr. Lisa Precht verantwortet die KI-Strategie von IBM in der DACH-Region. Sie beschäftigt sich mit der Frage, welche Anforderungen Kunden haben und wie IBM Technologie, Plattformen und Beratung aufstellen muss, um Unternehmen bei der produktiven Nutzung von KI zu unterstützen.

Ihr fachlicher Hintergrund liegt unter anderem im Bereich Conversational AI. Bevor generative KI und agentische Systeme verfügbar waren, arbeitete sie bereits mit regelbasierten Assistenten und Dialogsystemen. Diese Erfahrung prägt ihren Blick auf heutige KI: Nicht jede Aufgabe braucht ein großes Sprachmodell, und nicht jeder Prozess wird besser, nur weil ein Agent daran beteiligt ist.

Viele Agenten, wenig Wirkung

KI ist laut Lisa in der Breite angekommen. Unternehmen investieren stark und bauen immer mehr KI-Komponenten auf. Gleichzeitig bleibt die wirtschaftliche Wirkung häufig hinter den Erwartungen zurück. Nur ein Teil der Pilotprojekte erreicht den produktiven Einsatz, und gerade bei agentischen Vorhaben ist der Weg zu belastbaren Geschäftsergebnissen schwierig.

„Die Technologie ist auf jeden Fall bereit.“

Die größeren Hürden entstehen bei der Umsetzung. Unternehmen starten schnell, kaufen zusätzliche Lösungen ein oder lassen verschiedene Teams unabhängig voneinander Agenten bauen. So entsteht ein Bauchladen aus Anwendungen, die nicht miteinander integriert sind. Mitarbeitende müssen herausfinden, welches Werkzeug für welche Aufgabe zuständig ist. Daten bleiben in Silos, Pflege und Betrieb werden aufwendig und Kosten schwer kontrollierbar.

Dieses AI Sprawl wird besonders problematisch, wenn Governance erst nachträglich ergänzt werden soll. Verantwortlichkeiten, Zugriffsrechte, Monitoring und Sicherheitsmechanismen lassen sich deutlich schwerer nachziehen, sobald bereits viele verteilte Lösungen im Einsatz sind.

Der Betrieb ist schwieriger als der Prototyp

Einen Agenten zu bauen, kann heute schnell gehen. Der produktive Betrieb umfasst jedoch deutlich mehr: Qualität überwachen, Kosten kontrollieren, Modelle austauschen, Zugriffe absichern, Veränderungen erkennen und Systeme fortlaufend verbessern.

Ein leistungsfähiges Modell für jede Aufgabe einzusetzen, ist nicht automatisch die beste Lösung. Preise können sich ändern, Modellverhalten kann driften und Ergebnisse können schwanken. Unternehmen müssen deshalb vom konkreten Anwendungsfall ausgehen: Welche Qualität wird benötigt? Wie deterministisch muss der Ablauf sein? Welche Daten darf das System verwenden? Und an welcher Stelle ist ein regelbasiertes Tool verlässlicher als generative KI?

Auch Daten und Prozesse bleiben zentrale Voraussetzungen. Ohne geklärte Zugriffsrechte und eine belastbare Datenstrategie kann KI keine guten Ergebnisse liefern. Gleichzeitig sollten Unternehmen bestehende Abläufe nicht unreflektiert automatisieren. Sie müssen verstehen, welche Schritte notwendig sind, wo Komplexität entfernt werden kann und an welchen Stellen KI tatsächlich hilft.

Client Zero: IBM wird zum eigenen ersten Kunden

IBM behandelt die eigenen Geschäftsbereiche als „Kunde null“. Die eigenen Technologien und Consulting-Fähigkeiten werden intern eingesetzt; die daraus gewonnenen Erfahrungen fließen anschließend in das Angebot für Kunden zurück.

„Wir behandeln uns selbst, unsere unterschiedlichen Geschäftsbereiche sozusagen als Kunde null.“

Die aktuelle Client-Zero-Reise begann Anfang 2023 mit einem klaren Ziel des CEO: IBM sollte durch KI, Hybrid Cloud und Automatisierung deutlich produktiver werden. Das Programm wurde vom Top-Management gesteuert und vom gewünschten Geschäftsergebnis her gedacht.

Teams analysierten bestehende Prozesse, entfernten Komplexität und suchten nach geeigneten Automatisierungspotenzialen. Betroffene Mitarbeitende wurden gefragt, wie ihre Arbeit in einer idealen Welt aussehen sollte. Dadurch entstand kein reines Technologieprogramm, sondern ein Umbau von Abläufen, Infrastruktur und Betriebsmodellen.

Innerhalb von etwas mehr als zwei Jahren sparte IBM laut Lisa 4,5 Milliarden US-Dollar ein. Sie betont, dass diese Wirkung nicht ausschließlich aus KI und Automatisierung stammt. Auch optimierte Infrastruktur, vereinfachte Technologien, veränderte Betriebsmodelle und niedrigere operative Kosten trugen dazu bei.

Warum IBM im HR-Bereich startete

Ein früher Schwerpunkt lag im Personalbereich. IBM ist ein globales Unternehmen mit vielen Märkten und unterschiedlichen arbeitsrechtlichen Rahmenbedingungen. Entsprechend hoch ist die Zahl wiederkehrender Anfragen und administrativer Vorgänge.

HR bot zugleich eine gute Ausgangslage: Daten, Prozesse und Integrationen waren ausreichend entwickelt, um Automatisierung schrittweise auszubauen. Heute automatisiert IBM dort laut Lisa mehr als eine Million Interaktionen pro Jahr.

Weitere Lösungen entstanden in IT, Sales und Einkauf. Anfangs waren dies getrennte Systeme – teilweise klassische Automatisierungen oder regelbasierte Chatbots. Mit dem Aufkommen agentischer KI stellte sich eine neue Frage: Wie lassen sich vorhandene Lösungen zusammenbringen, ohne Mitarbeitende mit immer mehr Oberflächen und Assistenten zu konfrontieren?

Ein Zugang statt eines Agenten-Zoos

Die Antwort ist Ask IBM. Mitarbeitende interagieren mit einem zentralen System, das entscheidet, welche Lösung für eine Anfrage geeignet ist. Es kann Informationen aus unterschiedlichen Quellen zusammenfassen, regelbasierte Prozesse anstoßen oder einen Menschen einbinden, wenn eine Anfrage zu komplex ist.

„Wir wollen unseren Mitarbeitenden eigentlich nur noch einen Agenten zur Verfügung stellen, der Zugriff hat auf alle Lösungen im Unternehmen.“

So kann beispielsweise eine Versetzung vollautomatisch angestoßen werden. Andere Anfragen werden über Retrieval aus verschiedenen Systemen beantwortet. Der Gesprächskontext bleibt erhalten, während im Hintergrund unterschiedliche Werkzeuge und Fachlösungen zusammenspielen.

Der zentrale Agent ersetzt dabei nicht alle vorhandenen Systeme. Er orchestriert sie. Auch ältere regelbasierte Lösungen können weiterverwendet werden, sofern ihre Funktion klar beschrieben und als Tool eingebunden wird.

Generative KI ist nicht für alles die beste Lösung

IBM begann lange vor generativer KI mit Conversational AI und klassischer Prozessautomatisierung. Diese Systeme verschwinden nicht, nur weil neue Modelle leistungsfähiger geworden sind.

„Generative AI ist ja auch nicht die richtige Lösung für alles.“

Bei Aufgaben, die deterministisch, rechtssicher oder exakt berechenbar sein müssen, können regelbasierte Systeme die bessere Wahl sein. Agentische KI schafft dann vor allem eine neue Integrationsschicht: Sie versteht die Anfrage, wählt das passende Tool, übergibt die richtigen Daten und führt die Ergebnisse wieder zusammen.

Ein Agent kann damit autonom handeln, ohne dass jeder einzelne Arbeitsschritt probabilistisch sein muss. Er kann beispielsweise ein Berechnungstool nutzen, dessen Logik vollständig regelbasiert ist.

Der Elterngeld-Prozess als Multi-Agenten-Beispiel

Lisa veranschaulicht dieses Prinzip an einer Elterngeldstelle. Mitarbeitende bearbeiten viele Anträge unter Zeitdruck. Die Entscheidungen müssen rechtssicher sein, Unterlagen sind häufig unvollständig und einzelne Angaben können sich widersprechen.

Ein agentisches System könnte den Prozess in spezialisierte Aufgaben zerlegen:

Eingehende Dokumente dem richtigen Antrag zuordnen
Gedruckte und handschriftliche Angaben extrahieren
Vollständigkeit und Konsistenz der Unterlagen prüfen
Fälle nach Dringlichkeit und Bearbeitbarkeit priorisieren
Die Berechnung über ein regelbasiertes Tool durchführen
Einen Bescheid vorbereiten
Sprachnachrichten transkribieren und Antwortentwürfe formulieren

Für die Erkennung deutscher Handschrift könnte ein kleines spezialisiertes Modell eingesetzt werden. Die Berechnung selbst würde ein deterministisches Werkzeug übernehmen. Komplexe juristische Fragen könnten mit einem anderen Modell und den passenden Quellen bearbeitet werden.

Menschen bleiben an den relevanten Kontrollpunkten. Eine handschriftlich eingetragene IBAN sollte beispielsweise sichtbar geprüft werden können. Entscheidend ist, dass jeder Agent nur die notwendigen Zugriffsrechte erhält und der Gesamtprozess weiterhin klaren Regeln folgt.

Plattform statt einzelner Fertiglösungen

Für Lisa ist ein offener Plattformansatz die Grundlage für Skalierung. Einzelne fertige Lösungen wirken zunächst attraktiv, weil sie ein konkretes Problem schnell lösen. Langfristig können sie jedoch neue Silos und Abhängigkeiten schaffen.

Eine gemeinsame Plattform sollte verschiedene Modelle und externe Lösungen integrieren können. Unternehmen bleiben damit modelloffen, können Anbieter wechseln und für jede Aufgabe die passende Kombination aus Qualität, Kosten und Kontrolle wählen.

Der Plattformansatz bedeutet nicht, dass jede Person beliebig produktive Agenten bauen darf. Technologische Offenheit und organisatorische Freigaben sind zwei unterschiedliche Fragen. Eine gute Plattform schafft Möglichkeiten; Rollen, Verantwortlichkeiten und Governance bestimmen, wer sie wie nutzen darf.

Governance muss im System stecken

Kontrolle darf kein paralleler Prozess in Tabellen und manuellen Checklisten sein. Sie sollte über den gesamten Lebenszyklus einer KI-Anwendung in die Plattform integriert sein.

Dazu gehören:

Modelle mit realistischen Datensätzen und konkreten Prompts evaluieren
Qualität und Kosten vergleichen
Verhalten im Betrieb kontinuierlich überwachen
Model Drift, Prompt Injections und andere Angriffe erkennen
Interne und extern eingekaufte Agenten zentral sichtbar machen
Verantwortlichkeiten für Betrieb und Fehler eindeutig festlegen
Änderungen, Freigaben und Dokumentation nachvollziehbar halten

„Je mehr zentrale Sicht ich habe und je mehr Kontrolle und je mehr das automatisiert passiert, desto besser.“

Diese Mechanismen bremsen Geschwindigkeit nicht zwangsläufig. Wenn Tests, Monitoring und Freigaben standardisiert sind, können erfolgreiche Anwendungen schneller und mit mehr Vertrauen skaliert werden.

Kleine Modelle für spezialisierte Aufgaben

Lisa erwartet, dass Unternehmen künftig stärker mit einem Mix unterschiedlicher Modelle arbeiten. Große Sprachmodelle bleiben für komplexe Aufgaben wertvoll. Viele Unternehmensprozesse benötigen jedoch keine maximale Modellgröße, sondern verlässliche Leistung in einem klar abgegrenzten Bereich.

Kleine Modelle können günstiger betrieben, gezielter angepasst und leichter auf eigener Infrastruktur eingesetzt werden. Das wird besonders relevant, wenn Unternehmen Kontrolle, Souveränität und planbare Kosten priorisieren.

IBM setzt bei den eigenen Modellen auf offene Modelle für industrielle Anwendungsfälle. Für Unternehmen entsteht damit die Möglichkeit, einzelne Komponenten auszutauschen und das System flexibel weiterzuentwickeln, statt jeden Prozess dauerhaft an ein Modell oder einen Anbieter zu binden.

Von der Pilotphase in die Wertschöpfung

Für Unternehmen, die bereits viele Tools und Pilotprojekte aufgebaut haben, empfiehlt Lisa, zunächst zum Prozess und zum Geschäftsziel zurückzukehren.

Welches Problem soll gelöst werden? Der Einsatz von KI braucht einen konkreten Businessnutzen.
Ist der Prozess bereits vereinfacht? Unnötige Schritte und Komplexität sollten vor der Automatisierung entfernt werden.
Sind die betroffenen Menschen beteiligt? Mitarbeitende kennen Sollbruchstellen und müssen später mit der Lösung arbeiten.
Wie wird Erfolg gemessen? Ausgangslage und Ziel-KPIs sollten vor dem Piloten feststehen.
Wie entsteht zentrale Transparenz? Bereits vorhandene Lösungen, einschließlich Shadow AI, müssen sichtbar und steuerbar werden.
Wer trägt Verantwortung? Betrieb, Qualität und Fehlerbehandlung brauchen klare Owner.

Eine offene, modulare Plattform kann vorhandene Investitionen integrieren. Unternehmen müssen nicht zwingend alles neu bauen, sollten aber eine gemeinsame Kontroll- und Orchestrierungsschicht schaffen.

Kernaussagen

Die Anzahl der Agenten ist kein Erfolgsmaß: Entscheidend ist, ob KI messbare Ergebnisse in durchgängigen Prozessen erzeugt.
Der Prototyp ist der einfache Teil: Betrieb, Monitoring, Sicherheit, Kosten und Verantwortlichkeiten entscheiden über Skalierung.
Client Zero verbindet Technologie und Organisationsumbau: IBMs Einsparungen entstanden aus KI, Automatisierung, Prozessvereinfachung und veränderten Betriebsmodellen.
Ein zentraler Zugang reduziert Komplexität: Ask IBM orchestriert bestehende Systeme, statt Mitarbeitende zwischen vielen Assistenten wechseln zu lassen.
Nicht jeder Schritt braucht generative KI: Regelbasierte Tools und kleine spezialisierte Modelle bleiben zentrale Bestandteile produktiver Systeme.
Governance schafft Geschwindigkeit: Integrierte Evaluation, Beobachtbarkeit und klare Verantwortung erhöhen Vertrauen und Skalierbarkeit.
Offenheit erhält Handlungsfähigkeit: Modellagnostische Plattformen helfen, Qualität, Kosten und Souveränität langfristig auszubalancieren.

Fazit

IBMs Client-Zero-Ansatz zeigt, dass erfolgreiche KI-Transformation nicht mit möglichst vielen Agenten beginnt. Sie beginnt mit einem relevanten Geschäftsproblem, einem verstandenen Prozess und einer Architektur, die unterschiedliche Technologien kontrolliert zusammenführt.

Der entscheidende Schritt führt vom Agenten-Zoo zur Orchestrierung: ein zentraler Zugang für Mitarbeitende, spezialisierte Systeme im Hintergrund und klare Regeln für Daten, Qualität, Kosten und Verantwortung. So wird aus einzelnen KI-Demos eine belastbare Fähigkeit der Organisation.