Abonēšanas un AI izmaksas: kad 200 USD kļūst par problēmu

Maksājot 200 USD mēnesī, jums var likties, ka saņemat premium klases botu. Bet zem virsmas šī mēneša maksa var pārvērsties par daudz lielāku rēķinu modeli darbību nodrošinātājai. SemiAnalysis pārbaudīja intensīvus lietošanas gadījumus OpenAI un Anthropic apmaksātajos līmeņos, un skaitļi ir... satriecoši.

Iedomājieties pieredzējušu lietotāju, kurš palaid garas kodēšanas uzdevumu sērijas un aģentu vadītas darbplūsmas līdz nedēļas ierobežojumi tiek izsmelti. Īss prompts? Neliels izdevums. Orchestrēti aģenti, kas iterē, izmanto rīkus un atkārtoti ģenerē promptus? Tokenu skaits eksplodē. SemiAnalysis lēš, ka pilnībā noslogots ChatGPT Pro 20x abonements par 200 USD mēnesī var nozīmēt aptuveni 14 000 USD API līmeņa tokenu izmaksu OpenAI. Anthropic gadījumā Claude Max 20x ar tādu pašu cenu var izmaksāt aptuveni 8 000 USD.

Šie skaitļi skaidri parāda vienu lietu: virsrakstos norādītās abonēšanas cenas gandrīz neko nepasaka par iekšējo ekonomiku. Cik ātri pakalpojuma sniedzējs sasniedz rentabilitāti, atkarīgs mazāk no tā, cik daudz dolāru lietotājs samaksā, un vairāk no tā, cik efektīvi lietotājs patērē skaitļošanas resursus un tokenus.

Sadalīšanās punkti pienāk ātrāk, nekā varētu domāt. SemiAnalysis modelēšana liecina, ka Anthropic Claude Pro un Claude Max 5x plāni gūst peļņu tikai tad, ja tipiska lietotāja efektivitāte ir aptuveni 20 procenti. OpenAI saskaras ar vēl šaurākām starpām: ChatGPT Plus un ChatGPT Pro 5x var nonākt zaudējumos, kad lietotāju izmantošana pārsniedz aptuveni 11,4 procentus. Augstākajos līmeņos situācija ir vēl smagāka. Anthropic bruto peļņa pietuvojas nullei aptuveni 10 procentu izmantošanas līmenī, savukārt OpenAI nonāk negatīvā diapazonā, ja izmantošana pārsniedz aptuveni 5,7 procentus.

Vienkārši sakot: abonēšanas padarīšanai nerentablu nav nepieciešama armija jaudīgu lietotāju. Sarežģītas aģentu darbplūsmas, intensīvas koda atkļūdošanas sesijas vai uzņēmuma automatizācijas scenāriji var diezgan ātri virzīt patēriņu šajā riska zonā.

Plāns par 200 USD mēnesī sliktākajā intensīvā lietošanas gadījumā pakalpojuma sniedzējam var radīt līdz pat 14 000 USD tokenu izmaksu.

Šis finansiālais spiediens jau maina uzņēmumu iekšējo rīcību. Tokenu patēriņš strauji pieaug; aģentu tipa sistēmas var prasīt līdz 1 000 reizēm vairāk tokenu nekā viens prompts. Uzņēmumi, kas agrāk mudināja plašas iekšējas eksperimentēšanas, tagad ierobežo piekļuvi. Microsoft, Meta un Amazon ir stingrāk kontrolējuši iekšējos programmas pēc rēķinu šoka, ko izraisīja entuziastiski darbinieki, kuri lielos valodas modeļus izmantoja kā bezmaksas pētniecības rīkus.

SemiAnalysis tomēr piedāvā iespējamu risinājumu: uzlabojoties infrastruktūrai un modeļu efektivitātei, vidējās klases modeļi var kļūt daudz lētāki ekspluatācijā, iespējami ļaujot piedāvāt patērētājiem orientētas cenas apmēram 20 USD mēnesī. Tomēr jautājums ir par augstākās klases modeļiem. Jaudīgākās nākamās paaudzes sistēmas, visticamāk, paliks dārgas ekspluatācijā un var tikt izņemtas no abonēšanas plauktiem, piedāvājot tikai API piekļuvi ar norēķiniem pēc patēriņa smagiem lietotājiem.

Tas norāda uz nākotnes dalījumu: pieejami abonementi ikdienas uzdevumiem un mērīta API piekļuve lielapjoma automatizācijai un uzlabotam aģentu darbam. Pārdevējiem izaicinājums ir vairāk politisks nekā tehnisks: kā ierobežot piekļuvi vai palielināt cenas, neradot izaugsmes kavēšanos un neatstumjot lietotāju bāzi, kas vēl pierod pie šīs tehnoloģijas.

Jebkurā gadījumā matematika noķer kaislības. Abonēšanas bija izaugsmes dzinējs. Tagad tās piespiež uzņēmumus izvērtēt, kur patiesās izmaksas atrodas un kas galu galā maksā rēķinu.