ChatGPT pretplata od 200 dolara mogla bi da košta OpenAI čak 14.000 dolara ako koristite u punom potencijalu

Modeli veštačke inteligencije postaju sve moćniji, ali njihovo korišćenje ima cenu koju kompanije sve teže ignorišu. Nova analiza pokazuje da ChatGPT Pro pretplata od 200 dolara mesečno u slučaju maksimalnog korišćenja može napraviti trošak koji bi prema API cenama dostigao čak 14.000 dolara.

Kompanija SemiAnalysis testirala je najskuplje pretplatničke pakete velikih AI servisa, uključujući OpenAI i Anthropic, koristeći zahtevne zadatke programiranja i autonomne AI procese dok nisu dostigli nedeljna ograničenja.

Preporučujemo

Rezultati pokazuju da fiksna mesečna cena pretplate ne odgovara uvek stvarnoj ceni računarske snage koja je potrebna za intenzivno korišćenje najnaprednijih modela.

AI kompanije se suočavaju sa problemom skupog korišćenja

Prema analizi, ChatGPT Pro paket sa 20 puta većim limitima od standardne ponude može imati potencijalni trošak od oko 14.000 dolara kroz API obračun ako ga korisnik maksimalno iskoristi.

Slična situacija postoji i kod Anthropic-ovog Claude Max 20x paketa, koji košta 200 dolara mesečno, ali bi prema proceni mogao da generiše oko 8.000 dolara troška kroz tokene.

Problem je u tome što korisnici ne plaćaju direktno količinu računarske snage koju troše. Umesto toga, AI kompanije nude jednostavne pretplate koje su bile ključne za brzo širenje ovih servisa.

Prema podacima SemiAnalysis-a, Anthropic ostvaruje pozitivnu računicu na određenim paketima dok korišćenje ne pređe određeni nivo. Kod OpenAI situacija je osetljivija, jer ChatGPT Plus i Pro paketi mogu postati neisplativi kada korišćenje pređe relativno nizak prag.

Najskuplji AI zadaci menjaju pravila poslovanja

Najveći pritisak dolazi od novih načina korišćenja AI sistema. Dok klasično postavljanje pitanja troši relativno malo resursa, AI agenti i složeni radni tokovi mogu koristiti višestruko više tokena.

Takvi sistemi često obavljaju duže zadatke, analiziraju velike količine podataka i samostalno izvršavaju više koraka. Prema procenama, agentni sistemi mogu zahtevati i do 1.000 puta više tokena od običnih upita.

Zbog toga velike kompanije sve češće ograničavaju način na koji zaposleni koriste AI alate. Nekoliko velikih tehnoloških kompanija navodno je smanjilo interne programe koji su podsticali neograničeno korišćenje nakon što su troškovi naglo porasli.

Jedan od pristupa koji se sve češće koristi jeste kombinovanje različitih modela. Najskuplji modeli koriste se za najzahtevnije zadatke, dok jednostavniji poslovi prelaze na jeftinije alternative.

Takav pristup može značajno smanjiti troškove. Prema navodima Wall Street Journal-a, pametno usmeravanje zadataka između modela može smanjiti potrošnju i do 95 odsto.

Budućnost AI pretplata još nije rešena

Dodatni izazov predstavlja činjenica da korisnici očekuju da moćni AI alati ostanu dostupni po predvidljivoj mesečnoj ceni. Kompanije, sa druge strane, moraju da pokriju ogromne troškove infrastrukture.

Neki proizvođači zato prelaze na korišćenje otvorenih modela ili razvijaju sopstvena AI rešenja koja rade na njihovim podacima. Takvi sistemi zahtevaju veća početna ulaganja, ali mogu ponuditi bolju kontrolu troškova.

Postoji očekivanje da će cena korišćenja AI modela vremenom padati kako infrastruktura bude napredovala i kako novi modeli budu zamenjivali starije. Ipak, najnapredniji sistemi će verovatno još dugo ostati skupi za pokretanje.

Sam Altman je ranije govorio o problemu rastućih troškova tokena i potrebi da korisnici dobiju veću vrednost za manje novca prilikom korišćenja ChatGPT-a.

Za sada AI kompanije pokušavaju da pronađu ravnotežu između dostupnosti za milione korisnika i realnih troškova pokretanja najmoćnijih modela.

(Telegraf.rs)