// LINUX-MAGAZIN — LINUX & OPEN SOURCE
Gartner: Kosten für KI-Programmierung bald höher als Entwicklergehälter
Das US-Marktforschungsunternehmen Gartner prognostiziert, dass die Kosten für KI-gestützte Programmierung bis 2028 das Durchschnittsgehalt von Entwicklern übersteigen. Grund ist der rasant steigende Token-Verbrauch.
Laut Gartner treiben der steigende Token-Verbrauch bei Large Language Models (LLMs) und der Übergang zu verbrauchsabhängigen Lizenzmodellen die Kosten bei KI-Prgrammierung. Der Token-Verbrauch wirkt sich direkt auf die Kosten von KI-Programmierwerkzeugen aus, insbesondere bei verbrauchsabhängigen Preismodellen.
„Unternehmen gehen rasch von der Experimentierphase zum skalierten Einsatz von KI-Programmier-Agenten über, doch viele unterschätzen die finanziellen Auswirkungen des steigenden Token-Verbrauchs“, sagt Nitish Tyagi, Senior Principal Analyst bei Gartner. „Disziplin beim Token-Verbrauch wird sich nicht allein durch die Entscheidungen der Entwickler einstellen, da diese eher auf Geschwindigkeit und Komfort als auf Kosteneffizienz optimieren. Ohne ein gesteuertes Betriebsmodell für die Softwareentwicklung können die Kosten schneller in die Höhe schnellen, als die Werkzeuge Produktivitätsgewinne erzielen.“
Der Wechsel von nutzerbasierten Lizenzen zu verbrauchsabhängigen Preisen bei Anbietern von KI-Programmier-Agenten führt laut Gartner zu stark schwankenden Kostenstrukturen bei Softwareentwicklungsprozessen. Vielen Anbietern mangelt es an Transparenz hinsichtlich der Berechnung und Abrechnung des Token-Verbrauchs, was die Fähigkeit von Unternehmen einschränkt, Kosten präzise vorherzusagen und zu kontrollieren.
Ohne klare Einblicke in die Token-Nutzung bei verschiedenen Entwicklungsaufgaben riskieren Unternehmen Budgetüberschreitungen und eine eingeschränkte Möglichkeit, das Verhältnis von Kosten zu Nutzen nachzuvollziehen.
„Den meisten Unternehmen fehlen noch die Reife und die Rahmenbedingungen, um Kosten und geschäftlichen Nutzen effektiv gegenüberzustellen“, so Tyagi. „Verantwortliche in der Softwareentwicklung sind zunehmend besorgt, da sich die durch Token-Verbrauch entstehenden KI-Ausgaben immer schwerer rechtfertigen lassen und Budgets oft früher als erwartet aufgebraucht sind.“
Gartner empfiehlt, ein anwendungsfallbasiertes Entscheidungsmodell zu etablieren. Organisationen sollten klar definieren, wann KI-Codierungsagenten eingesetzt werden sollen und den jeweils angemessenen Autonomiegrad für jede Aufgabe festlegen.
Zudem sollten Unternehmen die Modellauswahl an die Aufgabenkomplexität anpassen. KI-Codierungsagenten seien am kosteneffektivsten, wenn die Arbeit in kleinere Aufgaben unterteilt werde, die von kleineren Modellen bearbeitet werden können.
Entwickler müssen laut Gartner auch darin geschult werden, den Eingabekontext für KI-Systeme zu optimieren, indem sie nur relevante Informationen einbeziehen, Inhalte nach Möglichkeit zusammenfassen und unnötige Daten entfernen, um den Tokenverbrauch zu reduzieren, ohne die Ausgabequalität zu beeinträchtigen.
Von der Vorhersage der Kundenwanderung bis hin zur Aufdeckung von Finanzbetrug – tabellarische Regressions- und Klassifizierungsaufgaben sind im Unternehmenskontext allgegenwärtig. Nun hat Google mit TabFM ein auf tabellarische Daten spezialisiertes KI-Modell vorgestellt.