Innovation · 10. August 2026

Reasoning-Modelle: Wann Nachdenken die KI besser macht und wann nicht

Reasoning heisst schlussfolgern. Ein Reasoning-Modell ist ein KI-Sprachmodell, das vor der Antwort zuerst einen eigenen Gedankengang schreibt, das Problem zerlegt, Zwischenergebnisse prüft und Irrwege verwirft, statt sofort loszuschreiben.

Du tippst zwei Fragen ins gleiche Chatfenster. «Formulier mir diese Absage freundlicher.» Und «Welches unserer drei Angebote passt zu diesem Kunden, und warum?». Für dich fühlt sich das ähnlich an. Für die KI sind das zwei völlig verschiedene Aufgaben. Die eine will eine schnelle Antwort. Die andere will, dass jemand vorher nachdenkt.

Seit 2024 kannst du das steuern. Seit 2026 entscheiden die Modelle zunehmend selbst. Das klingt nach einem Detail für Entwickler, ist aber eine Kostenentscheidung, die in einem KI-System bei jeder einzelnen Anfrage fällt. Meistens, ohne dass es jemand gemerkt hat.

Was bedeutet Reasoning bei KI?

Reasoning ist englisch und heisst auf Deutsch schlussfolgern. Ob jemand von KI-Reasoning, von Reasoning-Modellen oder vom Denkmodus spricht, gemeint ist immer dasselbe: Das Modell darf vor der eigentlichen Antwort Zwischenschritte produzieren, die es selbst wieder lesen kann. Nichts Mystisches, kein Verstehen im menschlichen Sinn.

Um zu verstehen, warum das etwas ändert, muss man wissen, wie ein Sprachmodell sonst arbeitet. Es schreibt Wort für Wort und kann nicht zurück. Anthropic formuliert das in der eigenen Entwickler-Dokumentation ziemlich nüchtern: Ein Modell, das in einem einzigen Durchgang antwortet, muss alles auf Anhieb treffen. Kein Schmierpapier, kein Nachrechnen, kein Kurswechsel auf halbem Weg.

Genau das ändert Reasoning. Das Modell bekommt Schmierpapier. Es schreibt zuerst für sich selbst auf, was gefragt ist, probiert einen Weg, prüft das Zwischenergebnis, verwirft ihn wenn er nicht hält, und formuliert erst dann die Antwort. Dieser Gedankengang besteht aus ganz gewöhnlichem Text, im Fachjargon Denk-Token. Je nach Anbieter siehst du davon eine Zusammenfassung oder gar nichts. Bezahlt wird er trotzdem.

Wichtig für die Einordnung: Ein Reasoning-Modell ist keine andere Art von KI. Es ist dasselbe Sprachmodell, das mehr Rechenzeit in eine einzelne Antwort stecken darf. Bei den grossen Anbietern ist Denken heute nicht einmal mehr ein eigenes Produkt, sondern ein Regler am selben Modell.

Wie Reasoning entstanden ist, in vier Schritten

Die Entwicklung lässt sich in vier Schritten erzählen. Sie erklärt auch, warum sich das Thema gefühlt jedes Jahr neu anfühlt.

Der letzte Schritt ist der, den die meisten noch nicht mitbekommen haben. Anthropic beschreibt ihn so: Das Modell wägt bei jeder Anfrage die Komplexität ab und entscheidet selbst, ob tieferes Nachdenken die Antwort verbessern würde. Eine einfache Faktenfrage bekommt gar keinen Denkblock, eine mehrstufige Rechenaufgabe schon. Bei den neuesten Modellen wird ein von Hand gesetztes Denkbudget nicht mehr akzeptiert, und bei Google ist dynamisches Denken die Voreinstellung. Du steuerst nicht mehr «denken ja oder nein», sondern nur noch, wie bereitwillig das Modell denken soll.

Was ist Reasoning bei ChatGPT?

In ChatGPT begegnet dir Reasoning als Wahl zwischen einer sofortigen Antwort, einem Denkmodus und einer besonders gründlichen Stufe. Häufig entscheidet ein automatischer Verteiler im Hintergrund, welchen Modus deine Frage bekommt. Wenn du ein paar Sekunden lang eine Statuszeile siehst und danach eine deutlich strukturiertere Antwort bekommst, lag ein Reasoning-Durchgang dazwischen.

Zwei Dinge sind dabei wichtig. Erstens ist das, was dir als Gedankengang angezeigt wird, eine Zusammenfassung und nicht der Rohtext. Das gilt genauso für Claude und Gemini. Zweitens ist der Denkmodus in den Abos mengenmässig begrenzt, weil er echtes Geld kostet. Wie viel genau, steht im nächsten Abschnitt.

Was Nachdenken wirklich kostet

Denk-Token werden wie Ausgabe-Token abgerechnet. So steht es bei OpenAI, so steht es bei Anthropic, und Google schreibt es genauso: Der Preis einer Antwort ist die Summe aus Ausgabe-Token und Denk-Token. Bei allen drei grossen Anbietern bezahlst du also den Gedankengang, auch wenn du ihn nie zu sehen bekommst. Anthropic weist in der eigenen Dokumentation ausdrücklich darauf hin, dass die verrechnete Menge nicht der sichtbaren entspricht.

Und Ausgabe ist die teure Seite. Bei Anthropic kosten Ausgabe-Token quer über alle Modelle genau das Fünffache der Eingabe, bei OpenAI je nach Modell das Sechs- bis Achtfache. Wie viel dabei zusammenkommt, ahnt kaum jemand: OpenAI empfiehlt Entwicklern, für den Anfang mindestens 25'000 Token für Denken und Antwort zusammen zu reservieren, weil ein Modell von ein paar hundert bis zu mehreren zehntausend Denk-Token erzeugen kann. Für eine einzige Frage.

Wie stark das durchschlägt, lässt sich messen. Der Analysedienst Artificial Analysis lässt dieselben Modelle in verschiedenen Denkstufen durch denselben Testparcours laufen und protokolliert Verbrauch, Kosten und Wartezeit. Für ein aktuelles Spitzenmodell sieht das so aus.

Jetzt der interessante Teil. Die Intelligenzwertung im selben Test steigt von 42 Punkten bei abgeschaltetem Denken auf 56 bei mittlerer Stufe und auf 61 bei maximaler. Die ersten 14 Punkte kosten also weniger als das Zweieinhalbfache. Die letzten 5 Punkte kosten davon noch einmal das Fünffache und machen aus fünf Sekunden Wartezeit zwei Minuten. Die teuren Stufen lohnen sich fast nie flächendeckend, sondern nur dort, wo an einer einzelnen Antwort wirklich etwas hängt.

Für deine Kalkulation heisst das: Dieselbe Aufgabe kostet je nach Stufe das Zwei- bis Zwölffache. Wer das bei einem System mit hohem Anfragevolumen nicht durchrechnet, wird von der ersten Monatsabrechnung überrascht. Wie sich solche Posten in ein Gesamtbudget einordnen, steht im Artikel Was kostet KI ehrlich.

Der zweite Preis ist Zeit, und der ist oft der härtere. Für einen nächtlichen Dokumentenlauf sind zwei Minuten pro Fall völlig egal. Für einen Chat auf deiner Website sind sie das Ende. Anthropic empfiehlt für Denkbudgets über 32'000 Token ausdrücklich die Stapelverarbeitung, weil solche Anfragen so lange laufen, dass technische Zeitüberschreitungen drohen.

Wo Reasoning messbar besser ist

Darauf gibt es eine überraschend präzise Antwort. Eine Meta-Analyse über mehr als 100 Fachartikel plus eigene Messungen auf 20 Datensätzen und 14 Modellen hat den Effekt durchgerechnet und ihn 2025 an der Fachkonferenz ICLR veröffentlicht. Das Ausschreiben des Gedankengangs bringt im Schnitt 14,2 Prozentpunkte bei symbolischen Aufgaben, 12,3 bei Mathematik und 6,9 bei Logik.

Das klingt technischer, als es ist. «Symbolisch oder mathematisch» heisst in deinem Alltag nicht Formeln. Es heisst: Aufgaben, bei denen die Antwort aus mehreren Bedingungen abgeleitet werden muss und ein Fehler im zweiten Schritt die ganze Antwort kippt.

• Planen unter Nebenbedingungen. Eine Belegung, eine Tour, eine Schicht, bei der Kapazitäten, Lieferzeiten und Sonderregeln gleichzeitig aufgehen müssen.
• Prüfen gegen ein Regelwerk. Ein Vertrag gegen eure Einkaufsbedingungen, eine Offerte gegen die Kalkulationsregeln, eine Meldung gegen eine Vorschrift.
• Zahlen über mehrere Dokumente zusammenführen. Wenn die Antwort nirgends wörtlich steht, sondern erst aus drei Quellen entsteht.
• Ursachen suchen. In einer Kalkulation, einer Datenlieferung oder einem Programmfehler, wo die Ursache mehrere Schritte hinter dem Symptom liegt.
• Mehrstufige Agenten. Wenn ein System selbst entscheidet, welchen nächsten Schritt es macht, hängt die Qualität jeder einzelnen Weiche an der Denkfähigkeit.

Wo Reasoning nichts bringt und wo es schadet

Jetzt die andere Spalte derselben Studie, und das ist die wichtigste Zahl in diesem Text. Bei Mathematik, Logik und symbolischen Aufgaben stieg die Trefferquote durch den Gedankengang von 45,5 auf 56,9 Prozent. Bei allen anderen Aufgabentypen, also bei Wissen, Sprache und Alltagsfragen, stieg sie von 56,1 auf 56,8 Prozent. Das sind 0,7 Prozentpunkte für ein Vielfaches an Rechenzeit und Kosten.

Noch schärfer wird es bei einem Wissenstest quer durch alle Fachgebiete. Bis zu 95 Prozent des gesamten Zugewinns durch den Gedankengang entfielen dort auf Fragen, in denen irgendwo ein Gleichheitszeichen auftauchte, sei es in der Frage oder in der Antwort des Modells. Sobald nichts zu rechnen war, brachte Nachdenken praktisch nichts. Dazu kommen vier Annahmen, die weit verbreitet und nachweislich falsch sind.

1. Denken ersetzt kein Wissen. Ein denkendes Modell weiss über deine Firma exakt gleich viel wie ein schnelles, nämlich nichts. Es kennt eure Preise nicht, eure Ausnahmen nicht, euren letzten Vertrag nicht. Wenn eine Antwort falsch ist, weil die Information fehlt, hilft mehr Nachdenken nicht. Dann braucht es Daten und Anbindung, nicht mehr Rechenzeit. Wo dieser Unterschied liegt, steht in Tool danebenstellen oder ins System einbauen.
2. Mehr Denkzeit ist nicht automatisch besser. Anthropic hat 2025 Aufgaben konstruiert, bei denen die Trefferquote sinkt, je länger das Modell nachdenkt. Modelle lassen sich von irrelevanten Details ablenken, und je länger sie grübeln, desto mehr Gewicht bekommt die Ablenkung. Eine andere Untersuchung wertete 4'018 Arbeitsabläufe eines KI-Agenten aus. Wählte man jeweils den Lösungsweg mit weniger Grübeln, stieg die Erfolgsquote um fast 30 Prozent, bei 43 Prozent tieferen Rechenkosten. Anthropic warnt im eigenen Handbuch, dass die höchste Denkstufe bei strukturierten Aufgaben zu Überdenken führen kann.
3. Weniger Halluzinationen sind nicht garantiert. Im Systembericht von OpenAI zu o3 und o4-mini vom April 2025 lag die Halluzinationsrate bei Personenfragen bei 33 und 48 Prozent, gegenüber 16 Prozent beim Vorgänger o1. OpenAI schrieb dazu selbst, es brauche mehr Forschung, um zu verstehen warum. Das ist kein Naturgesetz, o1 war seinerseits besser als die Modelle davor. Aber es widerlegt die Annahme, dass Denken automatisch zu weniger Erfundenem führt.
4. Der sichtbare Gedankengang ist nicht der echte Rechenweg. Anthropic hat 2025 getestet, ob Modelle offenlegen, wenn sie einen mitgelieferten Hinweis benutzt haben. Claude 3.7 Sonnet tat das in 25 Prozent der Fälle, DeepSeek R1 in 39 Prozent. In einem Test, in dem sich eine Abkürzung zur besseren Bewertung anbot, nutzten die Modelle sie in über 99 Prozent der Fälle und gaben es im Gedankengang in unter 2 Prozent der Fälle zu. Wer das Denkfenster als Prüfprotokoll behandelt, prüft etwas anderes als die tatsächliche Herleitung.

Eine Einordnung noch, weil sie 2025 durch alle Medien ging. Apple veröffentlichte eine Untersuchung mit dem Titel «Die Illusion des Denkens», in der Reasoning-Modelle ab einer bestimmten Aufgabenkomplexität vollständig zusammenbrachen. Die Schlagzeile lautete, KI könne gar nicht denken. Eine Gegenschrift zeigte kurz darauf, dass ein Teil der Zusammenbrüche schlicht daran lag, dass die Modelle an ihre Ausgabelänge stiessen, und dass einzelne Testaufgaben mathematisch unlösbar waren, aber trotzdem als Fehlschlag gewertet wurden. Beide Seiten haben recht in dem, was sie messen. Für dich heisst das: Reasoning ist ein starkes Werkzeug mit einer harten Obergrenze, und wer diese Grenze für seinen Anwendungsfall nicht selbst testet, kennt sie nicht.

Keine dieser Zahlen ist ein Grund, denkende Modelle zu meiden. Sie sind ein Grund, sie nicht als Wundermittel zu behandeln. Wer den Denkmodus einschaltet und danach weniger kontrolliert als vorher, hat sein Risiko erhöht und nicht gesenkt.

Reasoning-Modelle promptet man anders

Das ist die häufigste Umstellung, die wir bei Teams sehen. Beim schnellen Modell hilft es, den Weg vorzugeben. «Geh Schritt für Schritt vor», «gib mir drei Punkte», «zuerst A, dann B». Bei einem denkenden Modell schreibt OpenAI genau das Gegenteil in die eigene Anleitung: Auf Ketten-Anweisungen verzichten, denn das Modell denkt intern bereits, und die Aufforderung «denk Schritt für Schritt» sei schlicht unnötig.

Anthropic formuliert es noch deutlicher. Allgemeine Anweisungen schlagen vorgeschriebene Schritte, weil das Nachdenken des Modells häufig über das hinausgeht, was ein Mensch vorgeben würde. Beide Anbieter empfehlen stattdessen dasselbe: Gib die Aufgabe, die Rahmenbedingungen und das gewünschte Ausgabeformat. Und sag, was «fertig» heisst und woran das Modell seine eigene Arbeit prüfen soll.

Und es geht auch andersherum. Anthropic dokumentiert, dass sich das Nachdenken per Anweisung steuern lässt. Ein Satz im System-Prompt wie «Denk nur nach, wenn es die Antwort wirklich besser macht, sonst antworte direkt» senkt die Denkhäufigkeit spürbar. Umgekehrt hilft «Diese Aufgabe braucht mehrere Denkschritte, überleg gründlich, bevor du antwortest». Der Hersteller warnt im selben Atemzug: Wer das Modell zu weniger Nachdenken drängt, verliert unter Umständen Qualität. Also messen, nicht raten.

Wann sich Denken für dein Unternehmen lohnt

Die Faustregel ist kurz. Je klarer die Aufgabe, desto weniger Denken. Je mehr die Antwort erarbeitet werden muss, desto mehr. Alles Weitere ist eine Frage von Volumen und Konsequenz.

Das interessanteste Feld ist oben rechts. In den meisten Systemen, die wir bauen, lautet die Antwort nicht «schnell oder denkend», sondern beides. Ein günstiges Modell sortiert vor und beantwortet die klaren Fälle in einer Sekunde. Nur was durchfällt, geht an ein denkendes Modell. Das kostet einen Bruchteil dessen, was ein durchgehend denkendes System kostet, und für die meisten Nutzer bleibt die Antwortzeit bei einer Sekunde.

Diese Weiche gehört ins System, nicht in den Kopf der Mitarbeitenden. Niemand soll vor jeder Frage entscheiden müssen, welches Modell jetzt dran ist. Das ist eine Architekturentscheidung, und sie ist einer der wenigen Hebel, mit denen sich die laufenden Kosten einer KI-Lösung wirklich senken lassen, ohne am Ergebnis zu sparen.

Was du damit anfangen kannst

Drei Dinge, in dieser Reihenfolge. Erstens: Lass die Modellwahl nicht dem Zufall. In vielen Firmen läuft heute alles über dieselbe Einstellung, weil sie einmal gesetzt wurde und niemand sie je hinterfragt hat. Das ist entweder zu teuer oder zu schwach, selten genau richtig.

Zweitens: Miss auf euren eigenen Fällen. Nimm 50 echte Fälle aus dem Alltag, lass sie einmal mit und einmal ohne Denkmodus durchlaufen und vergleiche Trefferquote, Antwortzeit und Kosten. Das dauert einen halben Tag und ist die einzige Grundlage, die zählt. Alle Zahlen in diesem Text stammen aus Forschung und Messreihen, nicht aus deinem Betrieb.

Drittens: Bau die Weiche ins System. Wenn eine KI-Lösung produktiv läuft, entscheidet nicht die Modellwahl über den Erfolg, sondern die Frage, ob jede Anfrage genau so viel Rechenleistung bekommt, wie sie braucht. Genau das planen wir in der Entwicklung von Anfang an mit ein.

Wichtig zu merken

Reasoning ist kein Qualitätssiegel, sondern ein Regler. Er kauft dir Genauigkeit bei Aufgaben, deren Antwort erst abgeleitet werden muss, und er bezahlt sie mit Sekunden und mit Geld. Bei allem, was ohnehin klar ist, bekommst du für denselben Aufpreis 0,7 Prozentpunkte. Wer weiss, wann er welchen Modus nimmt, hat bei den einfachen Aufgaben tiefere Kosten und bei den schwierigen eine Antwort, auf die man wirklich bauen kann.

Von Andrin Knoll, Gründer & CEO, IntelliLab GmbH.

Jetzt kontaktieren