KI nutzen, ohne ständig ans Limit zu laufen

Herzlich Willkommen zu den AI FIRST Insights! Wir hören es gerade von allen Seiten – von Kunden, von Partnern, aus eigenen Projekten: Unternehmen bekommen ihre KI-Kosten nicht mehr in den Griff. Die Rechnungen für Claude, Langdock, ChatGPT Enterprise & Co. wachsen schneller, als die Finance-Abteilung schauen kann.

Und dann passiert das, was fast immer passiert, wenn Kosten aus dem Ruder laufen: die Impulsreaktion. Budgets werden gekürzt, harte Limits eingeführt und Tokens rationiert.

Damit bremst man nicht nur die Kosten, man bremst auch die Leute, die die KI gerade produktiv nutzen.

Deshalb heute mal ganz praktisch: Woher die Kosten kommen, wie sie sich konkret zusammensetzen – und was du als Nutzer und ihr als Unternehmen tun könnt, um sie sinnvoll zu senken.

Das erwartet dich:

Warum die Token-Kosten explodieren
So setzen sich Token-Kosten zusammen
Wie du als Anwender deine Tokens optimal nutzt
Wie du als Unternehmensadmin Tokens optimal nutzt
Meine These, warum sich das Problem von selbst löst

Los geht's!

Warum die Token-Kosten explodieren

Noch vor einem Jahr war KI-Nutzung im Unternehmen spottbillig. Das war die Chatbot-Ära.

2026 hat sich die Art und Weise mit KI zu arbeiten stark verändert. KI kann heute viel mehr Dinge für uns tun, was gleichermaßen die Produktivität wie auch die Kosten treibt.

Warum ist das so?

1) Hinter jedem "Chatbot" steckt heute ein Agent. ChatGPT, Claude, Langdock sind mittlerweile Agenten (auch ohne dass du einen spezifischen Agenten innerhalb des Tools aufsetzt). Bei jeder Anfrage lesen sie Dateien, rufen Tools auf, prüfen Ergebnisse, korrigieren sich, versuchen es noch einmal… und brauchen dafür oft zehn, zwanzig, fünfzig Zwischenschritte.

2) Jede Iteration des Agenten schleppt den Kontext mit. Weil die KI-Modelle kein Gedächtnis zwischen den Schritten haben, lesen sie bei jedem Schritt den kompletten bisherigen Verlauf neu ein – Aufgabe, Zwischenergebnisse, alles. Eine aktuelle Studie der Stanford Digital Economy Lab (Bai et al., April 2026) zeigt: Agentische Aufgaben verbrauchen bis zu 1.000-mal mehr Tokens als eine einfache Chat-Anfrage – vor allem, weil dieser Kontext-Schneeball bei jedem Schritt größer wird.

3) Und das ist der eigentliche Kostentreiber: das Nachbessern. Nicht die erste Antwort ist teuer, sondern das Prüfen, Reparieren und erneute Durchlaufen danach. Laut einer Analyse von McKinsey/QuantumBlack, die sich auf die Tokenomics-Studie von Salim et al. (Januar 2026) stützt, entfallen rund 60 % der Kosten einer agentischen Aufgabe auf genau diese Nacharbeit.

Kurz gesagt: Es sind nicht "die Nutzer", die plötzlich zu viel fragen. Es ist die Architektur der KI-Agenten, die pro Aufgabe strukturell mehr Tokens braucht als die Chat-Ära davor. Die gute Nachricht: Genau deshalb kann man an ein paar klaren Stellschrauben ansetzen.

Schauen wir uns vorab an, wie die Kosten entstehen.

So setzen sich Tokenkosten zusammen

Ein Token ist ein kleiner Teil eines Wortes, eine Silbe oder ein Satzzeichen, das von einem KI-Modell verarbeitet wird. Für jeden Token der in ein KI-Modell eingegeben wird (Input) und jeden Token der von einem KI-Modell ausgegeben wird (Output) wird Rechenleistung benötigt, die wiederum Kosten erzeugt.

Diese Kosten werden an die Anwender mit einem Aufpreis weitergegeben:

Kosten einer Aufgabe = ((Input-Tokens × Preis Input-Token) + (Output-Tokens × Preis Output-Token)) × Anzahl Iterationen

Wichtig dabei: Es sind die Input-Tokens, die die Kosten treiben, nicht die Output-Tokens. Jeder Zwischenschritt liest den kompletten bisherigen Verlauf neu ein, bevor überhaupt eine neue Antwort entsteht.

Du hast im Kern vier Stellschrauben, um deine Tokenkosten zu optimieren:

K – Kontext (Input-Tokens): alles, was reingeht – Prompt, Kontext, Dateien, Systemprompt, Tool-Abfragen. Das ist mit Abstand der größte Hebel.
M – Modell: unterschiedliche Modelle kosten unterschiedlich viel pro Token.
I – Iterationen: wie oft der ganze Zyklus durchlaufen wird, bis das Ergebnis passt.
L – Länge der Antwort (Output-Tokens): alles, was rauskommt – die Antwort, inklusive Zwischengedanken beim Reasoning.

Tokens sparen heißt also nicht nur, sich kurz und präzise auszudrücken oder immer das günstigste Modell zu wählen. Es heißt, an allen vier Stellschrauben – Kontext, Modell, Iterationen, Länge – gleichzeitig zu denken.

Wie du als Anwender deine Tokens optimal nutzt

Starten wir bei dir als Anwender. So reduzierst du deinen Tokenverbrauch ohne die Qualität zu senken:

1. Kontext klein und relevant halten

KGib der KI nur das, was sie für die konkrete Aufgabe wirklich braucht.

Skills statt vieler Agenten: Ein Agent ohne Skills schleppt seinen ganzen Systemprompt, Kontext und alle Tools bei jedem Schritt mit sich herum. Ein schlanker Agent, der für die jeweilige Aufgabe auf einen Skill zugreift, lädt nur den Kontext und die Tools, die genau dort gebraucht werden. Stell dir eine Bibliothek vor: Der Agent liest nicht erst die ganze Bibliothek durch, bevor er loslegt – er greift genau ins richtige Regal und liest nur die Seiten, die er braucht.
Lade aus Dokumenten nur die relevanten Ausschnitte hoch – nicht die 100-Seiten-PDF, sondern die fünf Seiten, die zählen.
Baue deine Wissensbasis granular auf – lieber viele kleine, klar benannte Bausteine/Seiten als ewig lange Seiten. So kann sich die KI genau den passenden Schnipsel ziehen.
Schalte Tools, Integrationen und Wissensquellen ab, die du für die aktuelle Aufgabe nicht (mehr) brauchst – jedes aktive Tool schleppt seine Beschreibung (und oft sperrige Rückgabedaten) in den Kontext, bevor die eigentliche Arbeit überhaupt beginnt.
Starte für neue Themen einen neuen Chat, statt einen bestehenden endlos weiterzuführen.
Wäge ab: Manchmal lohnt sich das Aufräumen des Kontexts nicht – dann ist es eine reine Aufwand-Nutzen-Frage.

2. Das richtige Modell für die richtige Aufgabe

Nicht mit Kanonen auf Spatzen schießen – aber auch kein Modell nehmen, das zu schwach ist und dich in Iterationsschleifen zwingt.

Nutze für echte Denkarbeit – einen Plan ausarbeiten, große Datenmengen analysieren, Schritte durchdenken – ein großes Modell.
Nutze für die Schritt-für-Schritt-Ausführung eines fertigen Plans ein kleineres, günstigeres Modell. Teile den Arbeitsprozess also bewusst auf.
Für einfache Fleißarbeit (Formatieren, Tagging, kurze Zusammenfassungen) reichen oft die kleinsten und günstigsten Modelle.
Wenn du unsicher bist: nimm den Auto-Modus und mach es dir nicht komplizierter als nötig.

Am Beispiel der vier Claude-Modelle:

Haiku – der Praktikant: schnell und günstig, für Fleißarbeit wie Formatieren, Tagging, kurze Zusammenfassungen.
Sonnet – der erfahrene Kollege: dein Standard-Startpunkt für die meisten Aufgaben. Bestes Verhältnis aus Qualität und Kosten.
Opus – der Senior-Experte: für mehrstufiges Planen, Selbstkorrektur und lange autonome Abläufe.
Fable – das Genie: aktuell das teuerste Modell (rund doppelter Verbrauch gegenüber Opus). Nur für die seltenen, wirklich harten Fälle wo du etwas Neues erschaffst – und selbst dann lohnt der Blick auf Opus, das im Intelligence Index sogar vorn liegt.

(Die X-Achse zeigt die durschn. Kosten pro Aufgabe, die Y-Achse zeigt den Intelligenz-Index der Modelle. Modelle wie GPT 5.6 Luna oder DeepSeek V4 Flash schneiden besonders gut ab.)

3. Anzahl der Iterationen reduzieren

Ein guter erster Prompt spart dir die drei schlechten danach.

Denk kurz vorab nach: Was will ich konkret erreichen? Wie sieht ein gutes Ergebnis aus? Was sind meine Anforderungen? – und delegiere dann erst die Aufgabe.
Formuliere Ziel, Format und Kontext direkt im ersten Prompt, statt iterativ nachzuliefern.
Der Prompt: “Das ist mein Ziel [Ziel im Detail beschreiben]. Stelle mir alle Fragen, um die Informationen zu erhalten, damit du mich zu diesem Ziel führen kannst.” ist ein guter Startpunkt, um zu Beginn den notwendigen Input zu sammeln.
Gib Beispiele mit, wenn du ein bestimmtes Ergebnisformat willst.
Sammle wiederkehrende Aufgaben in einem gespeicherten Prompt oder Skill, statt sie jedes Mal neu zu formulieren.

4. Länge der Antwort steuern

Der kleinste Hebel, aber im Alltag schnell mitgenommen.

Bitte um Stichpunkte statt Fließtext, wenn dir das reicht.
Setze eine Längenvorgabe direkt im Prompt ("in maximal 5 Sätzen").
Schalte Reasoning nur dort ein, wo echte Denkarbeit notwendig ist und nicht für reine Ausführung.

Hier nochmal alles auf einen Blick:

Wie du das Tokenbudget im Unternehmen optimal nutzt

Als Admin der KI-Plattform kannst du zusätzliche Hebel ziehen, um den Tokenverbrauch für das gesamte Unternehmen effizienter zu gestalten:

1. Das richtige Default-Modell im Workspace setzen

Die Modellwahl ist der schnellste Hebel mit der größten Breitenwirkung.

Setze ein kosteneffizientes Modell (GPT 5.6 Luna ist gerade fantastisch) oder den Auto-Modus als Workspace-Default. Bei unseren Kunden hat allein das den Tokenverbrauch schon um rund 30 % gesenkt, ohne dass das Nutzererlebnis verschlechtert wurde.
Gib teure Modelle nur gezielt für die Use Cases (Agenten, Workflows) frei, in denen sie nachweislich bessere Ergebnisse liefern – nicht pauschal für alle.
Prüfe bei Modell-Releases, ob ein günstigeres, neueres Modell eure aktuelle Wahl schon einholt. Meistens ist das der Fall.

2. Budgets fair und datenbasiert verteilen

Weder ausufernd noch zu restriktiv – und niemals nach Gießkanne.

Starte mit einer Testphase von 4-8 Wochen, in der das Budget bewusst offen bleibt.
Verstehe in dieser Phase, welche Nutzer und Teams wie viel nutzen und verbrauchen.
Verbinde das mit einer Befragung: Wie groß war der Produktivitätsgewinn – und woran macht ihr ihn fest? Welche Use Cases wurden umgesetzt mit welchem Mehrwert?
Verteile anschließend das Token-Budget auf die Nutzer und überwache monatlich den Verbrauch

Unser Erfahrungswert ist, dass wir auf einer KI-Plattform wie Langdock im Schnitt über alle Nutzer (PC-Jobs, kein Software Engineering) mit 30€/Monat/Nutzer auskommen, wenn diese gelernt haben, effizient mit KI zu arbeiten. Zusätzlich wird natürlich noch Budget für die Workflows benötigt.

3. Skills, Agents & Workflows überwachen und qualitätssichern

Die von vielen genutzten Bausteine sind eure größten Kostentreiber – und euer größter Hebel.

Nimm die Skills, Agents und Workflows unter die Lupe, die von vielen Nutzern verwendet werden.
Stelle sicher, dass sie sauber gebaut sind: schlanke Systemprompts, granular bereitgestellter Kontext, nur die wirklich nötigen Tool-Calls.
Setze sinnvolle Evaluationen und nutze Skills für Teilaufgaben, statt einen riesigen Agenten alles durch jeden Schritt schleppen zu lassen.
Spür gezielt die Ausreißer auf und optimiere: Welche Agents, Skills oder Workflows verursachen überproportional viele Kosten im Workspace?

Ein oft unterschätzter Punkt: Schulung vor Rollout. Die meisten teuren Gewohnheiten entstehen nicht aus Böswilligkeit, sondern weil niemand gezeigt hat, wie man ein Tool token-effizient nutzt. Eine kurze Einführung, bevor ein neues Tool ausgerollt wird, spart oft mehr als jede nachträgliche Kürzung.

Was du auf keinen Fall machen solltest: Leaderboards für den Tokenverbrauch.

Warum ich glaube, dass sich das Problem von selbst löst

Ich finde es erstaunlich, dass hunderte Milliarden in die Weiterentwicklung von KI-Modellen und -Anwendungen fließen – und die Verantwortung für deren effiziente Nutzung beim Nutzer abgeladen wird.

In allen Tools tauchen immer mehr Einstellungen auf, mit denen wir das Verhalten und die Kosten steuern können:

Wähle das Modell
Wähle die Denkstufe
Wähle den Reasoning-Modus

Sind wir mal ehrlich: Wer blickt denn da noch durch? Für den Nutzer ist das eine sehr unbefriedigende Erfahrung, die zum Schluss mit einer hohen Rechnung und Rückfragen des Chefs belohnt wird.

Bei den Summen, die in KI-Entwicklung fließen und den Bewertungen, die diese Unternehmen erreichen, sollte es möglich sein, dass für eine Aufgabe das richtige Modell im richtigen Modus genutzt wird - von der KI selbst.

Solange dieses Problem nicht gelöst ist, werden mehr Unternehmen ihre KI-Budgets einfrieren oder mit dem Rollout zögern. Daher gehe ich stark davon aus, dass wir bis Jahresende viele Fortschritte für effizientere Tokennutzung sehen werden:

Optimierte Auswahl des richtigen Modells pro Aufgabe
Routing zwischen Modellen für komplexere Aufgaben (planen vs. ausführen)
Caching von Kontext, der nicht immer wieder neu geladen werden muss
Token-Optimizer, die vor und hinter einen Prompt geschalten werden

Außerdem wird die gleiche Leistung von KI-Modellen tendenziell immer günstiger - und die heutige Leistung ist bereits für viele alltägliche Aufgaben mehr als ausreichend.

Bis dahin bleibt es unsere Aufgabe, mit ein paar Good-Practice-Schulungen und grundlegenden Einstellungen zu überbrücken, um unser Budget möglichst effizient einzusetzen.

Fazit

Die Agenten-Ära ermöglicht nicht nur enormes Produktivitätspotenzial, sondern birgt auch ein hohes Kostenrisiko, wenn man die Nutzungsgewohnheiten nicht anpasst.

Diese Punkte solltest du dir merken:

KI-Agenten verbrauchen strukturell mehr Tokens als die frühere Chatbot-Ära, da sie autonomer handeln und mehr Dinge für uns tun.
Die Formel zur Tokenoptimierung hat vier Stellschrauben: Kontext, Modell, Iterationen und Länge. Der Kontext ist mit Abstand der größte Hebel.
Als Nutzer holst du den größten Effekt, wenn du den Kontext klein hältst, das passende Modell wählst und unnötige Iterationen vermeidest – die Antwortlänge ist eher Feintuning.
Als Admin zählen drei Hebel: das Default-Modell im Workspace, faire und datenbasierte Budgets sowie die Qualitätskontrolle eurer Skills, Agents und Workflows.
Ein Teil des Problems wird sich von selbst lösen: bessere Modellauswahl, Routing, Caching und Token-Optimizer werden schon bald übernehmen, was wir heute noch manuell steuern müssen – und dieselbe Leistung wird dabei laufend günstiger. Den Rest haben wir schon heute selbst in der Hand.

Was hat dir / deinem Unternehmen geholfen, die Token-Budgets optimal einzusetzen?

Ich freue mich auf eure Antworten!

Das war's für diese Woche.

Bis nächsten Sonntag,

Felix