Firmy toną w kosztach AI. Rachunki za tokeny rosną szybciej niż zwrot z inwestycji

Jeszcze niedawno przedsiębiorstwa ścigały się we wdrażaniu generatywnej AI, a pytania dotyczyły głównie możliwości modeli. Dziś coraz częściej liczy się coś innego: koszty. Wydatki na tokeny rosną lawinowo, budżety pękają już w pierwszych miesiącach roku, a wiele organizacji wciąż nie potrafi jednoznacznie odpowiedzieć, jaki zwrot z inwestycji przynoszą narzędzia AI. Branża zaczyna przechodzić od fascynacji możliwościami do twardej ekonomii.

Coraz więcej organizacji alarmuje, że wydatki na tokeny AI rosną znacznie szybciej, niż zakładano podczas planowania budżetów. W niektórych przypadkach firmy przekroczyły całoroczne limity już w pierwszych miesiącach roku. Jak opisuje TechCrunch, dotyczy to zwłaszcza organizacji wykorzystujących zaawansowane modele agentowe, które wykonują złożone zadania samodzielnie i generują ogromne zużycie tokenów. Przykładem ma być Uber, który według doniesień wyczerpał budżet przeznaczony na narzędzia AI dla programistów już w kwietniu. Z kolei Microsoft ograniczył dostęp części pracowników do narzędzia Claude Code kilka miesięcy po jego wdrożeniu. Paradoksalnie problem nie wynika z rosnących cen jednostkowych. Koszt pojedynczego tokena systematycznie spada. Jednocześnie jednak gwałtownie rośnie ich zużycie.

Im bardziej autonomiczna AI, tym wyższy rachunek

Największym motorem wzrostu kosztów są systemy agentowe. Najnowsze modele potrafią samodzielnie analizować kod, wyszukiwać informacje, planować działania i wykonywać wieloetapowe zadania. To zwiększa produktywność, ale jednocześnie powoduje eksplozję zapotrzebowania na moc obliczeniową.

Nicholas Arcolano, szef badań w Jellyfish, wskazuje, że zużycie tokenów przypadające na jednego programistę wzrosło w ciągu dziewięciu miesięcy aż 18,6 razy. Jednocześnie osoby korzystające z AI najintensywniej, są około dwukrotnie bardziej produktywne od pozostałych, ale osiągają ten efekt przy nawet dziesięciokrotnie wyższych kosztach. To właśnie tutaj pojawia się podstawowy problem biznesowy: produktywność rośnie, lecz nie zawsze proporcjonalnie do wydatków. Jak słusznie zauważa Nicholas Arcolano, kluczowe pytanie brzmi nie „ile tokenów zużywamy?”, lecz „jaką wartość biznesową generuje kod lub produkt powstały dzięki AI”.

ROI pozostaje największą niewiadomą

Wiele przedsiębiorstw nadal nie potrafi precyzyjnie mierzyć zwrotu z inwestycji w sztuczną inteligencję. Badania Faros AI przeprowadzone wśród 20 tys. programistów pokazały, że wykorzystanie AI zwiększa wydajność pracy, ale jednocześnie prowadzi do większej liczby błędów, poprawek i dodatkowych iteracji. W efekcie część korzyści może być niwelowana przez konieczność późniejszej korekty rezultatów.

Problem dostrzegają również sami dostawcy modeli. Jak zauważył Alexander Embiricos z OpenAI cytowany przez Tech Crunch: „Sześć miesięcy temu rozmowy dotyczyły tego, co modele potrafią. Dziś klienci pytają o widoczność kosztów, audyt, kontrolę tokenów i efektywność modeli”.

To symptom dojrzewania rynku. Firmy przestają zachwycać się możliwościami technologii i zaczynają oczekiwać twardych wskaźników biznesowych.

Tokeny stają się nową chmurą

Coraz częściej eksperci porównują obecną sytuację do początków usług chmurowych. W pierwszych latach rozwoju cloud computingu przedsiębiorstwa również zachwycały się elastycznością infrastruktury, by później odkryć, że rachunki rosną szybciej niż korzyści. Odpowiedzią stał się wtedy FinOps, czyli zestaw praktyk pozwalających kontrolować i optymalizować wydatki na chmurę.

Dziś podobny proces rozpoczyna się w świecie AI. Według J.R. Stormenta z FinOps Foundation, część organizacji już kilkukrotnie przekroczyła planowane budżety na tokeny. „Zaczęliśmy słyszeć o kryzysach egzystencjalnych. Rozmowa przestała dotyczyć szybkiego wdrażania AI, a zaczęła koncentrować się na tym, jak nad tym wszystkim zapanować” – mówi J.R. Storment, cytowany przez TechCrunch.

Skala wyzwania jest jednak znacznie większa niż w przypadku chmury. Jak podkreślają eksperci, monitorowanie kosztów chmurowych oznacza analizę setek milionów rekordów miesięcznie. W przypadku tokenów AI mowa już o bilionach operacji.

Powstaje nowy rynek kontroli kosztów AI

Rosnące wydatki tworzą zupełnie nowy segment rynku. Pojawiają się wyspecjalizowane platformy monitorujące zużycie tokenów, analizujące efektywność modeli i pomagające wyliczać ROI projektów AI. Takie funkcje rozwijają m.in. Pay-i, Jellyfish, Faros AI czy Waydev. Również duzi gracze dostrzegają potencjał tego obszaru. Narzędzia do zarządzania kosztami AI rozwijają m.in. Datadog, New Relic oraz Ramp. Według informacji podawanych przez TechCrunch, także AWS przygotowuje nowe funkcje związane z finansowym zarządzaniem wykorzystaniem sztucznej inteligencji.

Coraz większą popularność zdobywają też rozwiązania automatycznie wybierające najtańszy model zdolny wykonać dane zadanie. Dzięki temu organizacje mogą ograniczać koszty bez istotnego pogorszenia jakości wyników.

Jednym z największych problemów pozostaje jednak brak wspólnego języka opisu kosztów AI. Firmy mierzą zużycie tokenów na różne sposoby, a porównywanie efektywności modeli różnych dostawców jest często trudne lub wręcz niemożliwe.

Odpowiedzią na ten problem ma być powołana przez Linux Foundation organizacja Tokenomics Foundation. Jej celem jest stworzenie otwartych standardów pomiaru kosztów i efektywności AI, podobnie jak wcześniej zrobiono to w obszarze zarządzania wydatkami chmurowymi. W planach są m.in. nowe wskaźniki pozwalające mierzyć koszt uzyskania określonego poziomu inteligencji modelu, efektywność wykorzystania tokenów czy relację pomiędzy kosztami a zużyciem energii.

Przyszłość AI będzie zależeć od ekonomii

Prognozy Goldman Sachs zakładają, że globalne wykorzystanie tokenów wzrośnie do 2030 roku aż 24-krotnie. Oznacza to, że problem kosztów będzie narastał, a nie malał. Coraz wyraźniej widać też, że największym wyzwaniem nie jest już sama dostępność modeli czy ich możliwości. Kluczowe staje się efektywne zarządzanie ich wykorzystaniem.

W praktyce oznacza to przejście od strategii „wdrażajmy AI wszędzie” do bardziej selektywnego podejścia. Jak wskazują analizy rynku, najlepsze efekty przynosi umiarkowane wykorzystanie sztucznej inteligencji, a nie maksymalizowanie zużycia przez niewielką grupę najbardziej zaawansowanych użytkowników. Dla wielu firm rok 2026 może okazać się momentem, w którym sztuczna inteligencja przestanie być przede wszystkim projektem technologicznym, a stanie się projektem finansowym.