AI има един голям проблем: Никой не знае колко ще струва

Ако използвате безплатен ChatGPT, Claude или Gemini, вероятно получавате много повече, отколкото плащате. Зад тези услуги обаче стоят компании, които са инвестирали стотици милиарди долари в разработването на големи езикови модели (LLM). А с навлизането на AI агентите се появява нов проблем: дори самите компании трудно могат да предвидят колко ще им струва използването на изкуствения интелект.

Затова големите технологични компании предлагат платени версии на своите AI услуги с повече възможности – например за програмиране, автоматизация и работа с корпоративни данни.

Паралелно с това се появяват все повече компании, които изграждат собствени услуги върху AI агенти – системи, базирани обикновено на LLM, които могат самостоятелно да изпълняват конкретни задачи.

И тук идва проблемът: как се определя цена за услуга, чието потребление е трудно предвидимо?

Да се опитваме да обвържем някого с модел на разходите за следващите 12 месеца, две или три години просто няма смисъл, защото не знаем какво ще се случи“, казва Саймън Гуч от компанията за управление на идентичности Saviynt пред BBC.

Причината се крие в бързо променящата се икономика на токените – градивните елементи, чрез които работят големите езикови модели и AI агентите.

Когато потребител зададе въпрос на ChatGPT или Claude, поиска код или възложи автоматизиран процес, заявката се разбива на математически единици, наречени токени. Моделът обработва тези токени, а отговорът му също се генерира под формата на токени, които след това се превръщат обратно в текст, програмен код или инструкции.

Проблемът е, че този процес не е напълно предвидим.

Малки промени в начина, по който е формулирана една заявка, могат да доведат до различни резултати. Един и същ prompt не гарантира еднакъв отговор, а различните модели могат да изразходват различен брой токени за една и съща задача.

При AI агентите ситуацията става още по-сложна. Компаниите могат да използват множество агенти едновременно, които вземат решения и предприемат действия един след друг. Това увеличава както броя на използваните токени, така и непредвидимостта на разходите.

Иронията е, че цената на отделния токен рязко пада, докато броят на използваните токени расте с още по-бързи темпове.

Според анализ на Goldman Sachs потреблението на токени от бизнеса и потребителите може да нарасне 24 пъти между 2026 и 2030 г. – до 120 квадрилиона токена месечно. Основният двигател за този ръст се очаква да бъдат AI агентите.

Много компании обаче все още трудно разбират колко токена реално използват – докато не изчерпят лимита си или не получат сметката.

Според информация в медиите дори Microsoft е ограничавала използването от свои инженери на някои външни инструменти за програмиране с AI. Uber пък по-рано тази година е изразходвала за няколко месеца бюджет за AI кодиране, планиран за цяла година.

Хората откриват, че е много трудно да управляват този разход... резултатът не е детерминиран, така че и стойността му не е детерминирана“, казва Уил Вентърс, доцент по дигитални иновации и информационни системи в London School of Economics.

AI може да се окаже по-скъп от очакваното

Компаниите вече търсят начини да ограничат този риск. Оливър Кинг-Смит, основател на инженерната софтуерна компания smartR AI, посочва, че по-малките организации понякога използват фиксирани лични абонаменти, за да избегнат по-високите корпоративни разходи.

Според него обаче тази практика няма да продължи дълго, тъй като големите AI компании в момента понасят значителни загуби по някои от тези планове. Когато инвеститорите започнат да изискват по-ясни печалби, доставчиците на AI услуги вероятно ще започнат да затягат правилата.

Друг начин за контрол е по-внимателният избор на AI модел и по-прецизното формулиране на заявките. „Не бихте изпратили някого от семейството си да пазарува без никакви инструкции какво точно очаквате да има в количката“, казва Роб Стийл, финансов директор на британската счетоводна компания iplicit.

Проблемът става още по-сериозен, когато AI е вграден директно в продукт, който се използва от хиляди клиенти. Тогава разходите могат внезапно да започнат да растат – не само за основната работа на софтуера, но и за тестване, сигурност и системи за контрол на AI.

При агентите това се случва особено лесно. Добавянето на още един AI агент може да стане с няколко клика, докато разширяването на човешкия екип изисква бюджет, одобрение и нови назначения.

В същото време по-високото потребление на токени може да означава и по-висока стойност за бизнеса.

Не е точно като калкулатор“, казва Вентърс. „Колкото повече му давате, толкова по-скъпо е, но резултатът може да е по-добър.“

Кой ще плати сметката?

В крайна сметка разходите за AI трябва да бъдат прехвърлени и към клиентите. И точно тук бизнесът все още няма ясен отговор.

Никой все още не е намерил правилното решение“, казва Бил Питърсън, старши директор „Продуктов маркетинг“ в Sumo Logic.

Компанията подготвя нови услуги за киберсигурност, базирани на AI агенти, но все още обсъжда с корпоративните си клиенти как точно да ги таксува. Възможностите са няколко – по-високи цени за всички клиенти, плащане според постигнатия резултат или фиксирани пакети за определен брой инциденти.

Но всеки модел крие риск. Ако доставчиците на големите езикови модели променят собствените си цени, цялата сметка на компаниите, които изграждат услуги върху тях, може да се промени за месеци.

Попадате в свят на променливо ценообразуване, а то се променя на всеки няколко месеца. Клиентите не го харесват. Така никой не може да планира бюджета си“, казва Питърсън.