LLM-Kosten sind längst keine bloße Budgetposition mehr — sie sind ein Routing-Problem.

Sobald Sie zwischen Geschwindigkeit und Gewinnspanne wählen müssen, verwalten Sie nicht mehr „KI-Ausgaben“. Sie verwalten eine Architektur.

Benutzeranfragen, Hintergrundjobs, Retries, Evaluierungen, Fallback-Modelle — sie sollten nicht alle auf denselben Endpunkt treffen. Unterschiedliche Abläufe brauchen unterschiedliche Logik.

Ihre Rechnung sagt Ihnen nur, dass das System kaputt ist. Beheben Sie das Routing — nicht die Rechnung.