Краят на „безплатния обяд“: Олег Петров за скритата инфлация и истинската цена на AI

Изкуственият интелект (AI) е новият „бърз кредит“ на технологичния сектор – измамно евтин на входа, но с потенциално непосилни лихви в бъдеще. Докато компаниите бързат да заменят младшите специалисти с алгоритми, те често пропускат факта, че оперират в икономическа аномалия, поддържана от милиардите на рисковия капитал. Предстои обаче преход от еуфория към ефективност.

AI едновременно променя света и кърви финансово. Намираме се в ерата на „субсидираната интелигентност“, където разликата между реалната цена на изчисленията и това, което плащаме, подготвя почвата за икономическо отрезвяване, което ще пренареди пазара по-драстично дори от дотком балона.

По темата разговаряме с Олег Петров, програмист с дългогодишен опит, предприемач и AI специалист. Преди да влезем в същината на предстоящата бизнес трансформация, той настоява да обясни как работи технологията, защото:

Иначе причините за поскъпването ще останат неразбрани.“

Математика, която не се вижда

Езиковите модели – ChatGPT, Claude, Gemini и останалите – не „мислят“ в буквалния смисъл. Те са математически модели, линейна алгебра. Всяко изречение, което човек изпраща към тях, се превръща в поредица от числа (т.нар. токени). За да върне отговор, машината извършва милиарди калкулации и изчислява кои числа трябва да следват, за да получи потребителят смислен отговор, обяснява Олег Петров. Грубо казано: програмата знае, че след „1, 2, 3“ следва „4, 5, 6“, и сглобява най-вероятните поредици.

Ако погледнете документацията на Anthropic или OpenAI, ще видите цените ясно: 1 милион токена струват „Х“ пари – така се ценообразува.“

Но колко точно са тези токени, когато зададеш „прост“ въпрос? Тук идва уловката, която убягва от вниманието на масовия потребител. В зависимост от езика и сложността на лексиката, броят думи отговаря на различен брой токени. Английският например е много оптимизиран и там около 75 думи се равняват на приблизително 100 токена. При българския обаче – включително защото са на кирилица, но и защото имат по-сложна морфология – думите често се „раздробяват“ на повече токени.

Когато зададеш въпрос от 10 думи, програмата не го праща така. Тя добавя огромно количество допълнителен текст – вътрешни инструкции, контекст, пояснения, за да стане въпросът максимално ясен за модела.

Аз съм правил тестове. Давам задание за програмиране от 100 думи. Отзад програмата го развива и целият входящ пакет може да стане 10 000 токена (б.а. – в зависимост от програмата, тъй като за различните софтуери числата варират). Стократна разлика.“

Същевременно сложността на заявките расте по-бързо от оптимизацията на хардуера. Новите „мислещи“ модели не просто отговарят, те разсъждават, задават си допълнителни вътрешни въпроси, генерират хиляди невидими за потребителя токени, преди да изпратят финалния отговор. Ако преди година един модел е отговарял на въпрос с 500 токена, днешните по-сложни архитектури използват 1500 токена за същия резултат, за да постигнат „по-човешко“ звучене.

Потребителят си мисли, че е вкарал 10 думи. Всъщност са много повече. Говорим за до 300% ръст на разхода, който човек не вижда веднага (числовите параметри зависят от програмата, с която работи потребителят)“, посочва Олег Петров.

В добавка на това, отзад стои много скъп хардуер. Видеокарти – или по-точно специализирани GPU чипове, адаптирани от гейминг индустрията за AI изчисления – произвеждани почти монополно от Nvidia.

„Един юнит (GPU чип) може да струва от 50 до 300 хиляди долара. Големите компании използват десетки хиляди такива. И те изискват изключителна мощност. Аз съм пускал локален AI модел на видеокарта за 3500 лв. (около 1750 евро) – харчи от половин до един киловат на час. А този модел е 100 – 500 пъти по-слаб от ChatGPT. Сега си представете дейта център с 10 000 такива юнита“, дава пример Олег Петров.

Скритата инфлация

Тук темата задълбава в конкретика, която малцина потребители забелязват. Преди дни например Anthropic, създателите на Claude, пуснаха нов модел, чиято цена на пръв поглед остава същата. Но:

Новият модел използва 30% повече токени, за да върне крайния отговор. Тоест цената е вдигната с 30%, но потребителят не го вижда – вижда единствено същата сума.“

OpenAI в същото време направи обратното: обяви, че новият модел използва 30% по-малко токени. Но пък вдигна цената двойно.

Другата форма на скрита инфлация са лимитите и т.нар. „продуктова деградация“ – компаниите тихомълком ограничават лимитите на съобщенията или прехвърлят потребителите към по-евтини (и по-глупави) модели, докато не ги принудят да преминат към корпоративни планове, които започват от 200 долара нагоре.

За един програмист или малък бизнес, разликата е драстична: ако доскоро 20 долара са покривали 6 часа интензивна работа, днес те стигат за едва 20 – 30 минути висококачествено взаимодействие с модела, споделя Олег Петров. Това е десетократно увеличение на разхода за по-малко от година.

Лимитите не са ясно описани. Променят се динамично, без известие. Никой не ти казва колко точно имаш. Просто в един момент ти пишат: след пет часа ще ти се нулира лимитът.“

Стратегията на зависимостта

Това е невероятна бизнес стратегия“, казва Олег. „Да накараш хората да се пристрастят по такъв начин, че работата им да зависи изцяло от продукта. И изведнъж да видиш, че става все по-скъпо и по-скъпо.“

Логиката, която описва той, не е конспирация – тя е добре позната от маркетинга. Пусни го евтино, за да свикне потребителят; после вдигни цената, когато зависимостта вече е факт.

OpenAI например в момента работи на колосална финансова загуба – за миналата година тя е от порядъка на 2 млрд. долара.

Представете си колко са сигурни, че ще си върнат парите, за да си позволяват да губят милиарди всяка година“, коментира Петров.

Нещо повече, през тази и следващата година се очаква всяка от големите AI компании да похарчи поне 5 милиарда долара само за обучение на новите си модели. И тази сума ще се плаща всяка година.

Неизбежната финансова криза

Текущите ниски потребителски цени са субсидирани. Venture capital фондове, банки и инвеститори финансират колосалните загуби на компаниите, очаквайки бъдеща възвращаемост. Прогнозата на Олег Петров за глобалната икономика, базирана на изкуствения интелект, не е особено оптимистична.

Очаквам на годишна база 30 – 50% вдигане на разходите за AI. Не виждам друго нещо, което да поскъпва толкова бързо. Всяка индустрия, ползваща AI, ще вдига цените на крайните си продукти – защото зависимостта им расте.“

Преломният момент ще дойде, когато инвеститорите спрат да субсидират. „Когато на компаниите им писне с финансирането на загуби, ще кажат: спираме, искаме печалба. Това ще доведе до голям, рязък удар по цената. Може би половината потребители ще отпаднат за месец, а останалите ще покрият загубата“, смята Олег Петров и дава пример с Anthropic, която вече има 200-доларови планове.

Голяма част от тези премиум абонати, по негови думи, не достигат лимитите и така, плащайки повече за нещо, което не ползват, на практика субсидират останалите.

Най-застрашени от очакваното поскъпване на AI са малките компании, които изграждат бизнеса си около чужди модели.

Малките стартъпи разбират твърде късно как да си сглобят цените и сметката не им излиза. Можеш да започнеш с 20 долара план, но след две години разходът ти за същото нещо да е над 200 долара“.

Изходът за тях е или да вдигат цените и да загубят клиенти, или да поемат загубата и с голяма вероятност да изчезнат. Третият вариант е да прехвърлят разхода към потребителя, което също крие риск от отлив.

Независимо от очакванията му за криза, според Олег Петров „изкуственият интелект не е балон в класическия смисъл“.

Балоните се спукват и изчезват. Но AI е нещо, което реално работи, върши работа изключително качествено, става все по-силно. Затова просто ще има висока цена.“

Сравнението с имотния балон е по-точно според него: „И там трети страни имаха пряка изгода от раздуването, както тук са Nvidia, инвеститорите, самите AI компании – всички имат интерес цените да вървят нагоре.“

В крайна сметка разделението, което се очертава, е и социално – едни компании и хора ще могат да си позволят пълен достъп до технологията. Останалите – парченца от нея.