Ki-budget-wahn vorbei: pylon stoppt token-raserei
Die Euphorie um künstliche Intelligenz im Unternehmen hat ein jähes Ende gefunden. Bei Pylon, einem Software-Unternehmen im KI-Bereich, musste CEO Marty Kausas eine schmerzhafte Entscheidung treffen: Entweder die Ausgaben für Tokens drastisch kürzen oder eine satte Rechnung von 1,4 Millionen Dollar begleichen. Der Grund: Das rasante Wachstum des Unternehmens, das sich im Anthropic-Plan befindet, trieb die Firma in Richtung eines Mitarbeiterstamms von 150 Personen – und damit in eine mehrfache Eskalation der Token-Kosten.
Die token-blase platzt: ein umdenken in der tech-branche
Kausas’ Dekret, die Token-Nutzung für nicht-technische Mitarbeiter zu begrenzen, markiert das Ende einer Ära des unbegrenzten KI-Geldverbrenns. Er hat damit den Finger an den Puls der Zeit gelegt: Immer mehr Unternehmen erkennen, dass die blinde Jagd nach Token-Maxxing nicht zwangsläufig zu wertvollen Ergebnissen führt. Sam Altman, der CEO von OpenAI, räumte kürzlich ein, dass ihn die Geschwindigkeit, mit der sich die Diskussion um KI-Budgets verändert hat, überrascht hat. Was einst als unkritische Ausgabe galt, ist nun plötzlich ein „riesiges Problem“.
OpenAI allein steckte im vergangenen Jahr 34 Milliarden Dollar in den Wettlauf um die KI-Dominanz. Doch die Entwicklung betrifft nicht nur die CEOs und Finanzvorstände. Auch Software-Ingenieure müssen nun ihre Rechenleistung rechtfertigen, während Teamleiter ihre Mitarbeiter-Token-Budgets wie in einer „Shark Tank“-Investitionsshow verhandeln. Und selbst Recruiter locken mit Token-Zusagen, um Talente im KI-Bereich zu gewinnen.
Der Tokenmaxxing-Hype und sein jähes Ende Max Kan, Analyst für Tokenomics bei SemiAnalysis, hatte noch vor wenigen Monaten optimistisch über die Auswirkungen großzügiger Token-Budgets gesprochen. Doch die Zeiten haben sich geändert. Unternehmen wie Coinbase und Walmart haben bereits Obergrenzen eingeführt, während Amazon sein internes Token-Ranking eingestellt hat. Kan räumt ein, dass dieser plötzliche Wandel für Ingenieure verwirrend und frustrierend sein könnte.
Im Gegensatz dazu blickt Ken Stillwell, CFO und COO von Pega, mit einem gewissen Augenzwinkern auf die Tokenmaxxing-Trend zurück. Er bezeichnete die Praxis als eine „unglaublich interessierte Erzählung“ der KI-Unternehmen. Pega hat zwar keine numerischen Obergrenzen festgelegt, aber die Nutzung über einen bestimmten Schwellenwert hinaus eingeschränkt.
Während die Technologiebranche insgesamt ihre Ausgaben im Blick hat, stieg der durchschnittliche Aufwand pro Mitarbeiter für KI im Mai dennoch auf 66,29 Dollar – gegenüber 58,84 Dollar im April, wie der Ramp AI Index zeigt. Gleichzeitig gibt es erste Anzeichen für eine Anpassung, beispielsweise die verstärkte Nutzung von Modellroutern zur Kostenkontrolle. Einige Unternehmen überdenken sogar ihre Personalstruktur: MindFort, ein KI-Startup mit nur sechs Mitarbeitern, hätte vor der Einführung von KI zwanzig benötigt. Der Großteil der eingesparten Kosten fließt nun in Tokens – ein Balanceakt, den das Unternehmen offen eingesteht.
Der Kampf um die Tokens beginnt Der Wettlauf um die begehrtesten KI-Ressourcen hat bereits begonnen. Einige Entwickler vergleichen die Situation spöttisch mit den „Hunger Games“ – ein Überlebenskampf, in dem es darum geht, die knapp gewordenen Token-Ressourcen zu sichern. Kandidaten fragen in Vorstellungsgesprächen nun nach den verfügbaren Token-Budgets und dem Zugang zu fortschrittlichen Modellen. Es ist ein Zeichen dafür, dass Token – oder zumindest die, die Mitarbeiter wollen – keine Selbstverständlichkeit mehr sind.
Max Christoff, CTO von Everlaw, schlägt vor, Ingenieuren Token-Obergrenzen zu setzen, ihnen aber die Möglichkeit zu geben, größere Budgets zu verhandeln. Er vergleicht dies mit der Nutzung von mobilem Datenvolumen vor der Einführung unbegrenzter Datentarife: Manchmal sind hohe Ausgaben gerechtfertigt, manchmal verbraucht man Daten ohne Sinn und Verstand. Russ Fradin, Gründer von Larridin, einer Plattform zur Verfolgung der KI-Nutzung, fasst es treffend zusammen: „Natürlich werden sie einschränken, wer diese Tools nutzen darf. Das ist keine Frage.“ Der Zugang zu den fortschrittlichsten Modellen wird zunehmend zu einem Privileg, das sich nur wenige leisten können.
Die neue wirtschaftliche Ausrichtung der Unternehmen auf KI könnte ein System von internen Kasten schaffen, in dem der Zugang zu Ressourcen nicht mehr selbstverständlich ist. Denn wie Brock Simon von Native feststellte, kann eine Beschränkung des Zugangs zu KI-Tools die Karrierechancen von Mitarbeitern erheblich beeinträchtigen. Die Token-Euphorie ist vorbei – das Management der KI-Ressourcen beginnt.