Бизнесът влиза неподготвен в ерата на автономния AI

Колкото по-самостоятелни стават системите с изкуствен интелект, толкова по-трудно компаниите успяват да им се доверят. А това вече не е само технологичен или етичен проблем – започва да се отразява пряко върху производителността и възвръщаемостта от инвестициите в AI.

Почти всеки служител, който работи с изкуствен интелект, поне понякога променя или отменя неговите препоръки. Делът достига 97.2%, показва ново международно проучване на SAS, базирано на анализ на IDC. Още по-показателна е причината: хората не се намесват непременно защото AI е дал грешен отговор, а защото не могат да разберат как е стигнал до него.

Това очертава един от парадоксите на сегашния етап от развитието на изкуствения интелект. Компаниите постепенно се придвижват от генеративни инструменти, които предлагат текст, анализ или препоръки, към AI агенти, способни да действат по-самостоятелно. Но колкото повече автономност получават тези системи, толкова повече нараства проблемът с доверието.

Според проучването доверието спада от 76% при генеративния AI до 66% при автономните AI агенти. Именно при тях въпросът „защо системата взе това решение“ започва да има много по-голямо значение, защото последиците вече могат да бъдат не просто неподходящ текст или неточен анализ, а конкретно действие.

Когато автоматизацията създава нова ръчна работа

Идеята зад корпоративните инвестиции в AI е сравнително проста – повече автоматизация, по-бързи процеси и по-висока производителност. На практика обаче липсата на доверие може да произведе обратния ефект.

Когато служителите не могат да разберат логиката на дадено решение, те започват да го проверяват, коригират или изцяло да го отменят. Така част от спестеното чрез автоматизацията време се връща под формата на нов тип работа – проверка на самата автоматизация.

SAS посочва именно това като едно от основните препятствия пред успешното внедряване на AI. Ръчните корекции водят до загуба на време и производителност и в крайна сметка могат да ограничат икономическия ефект от технологията.

В този смисъл обяснимостта на AI постепенно престава да бъде абстрактна тема, свързана единствено с етиката или регулациите. Тя се превръща в бизнес проблем.

Системата може да е стигнала до правилния резултат, но ако служителят не знае защо, той може да реши да не го използва. А AI, чиито решения постоянно трябва да бъдат проверявани от човек, трудно може да донесе обещаното ниво на автоматизация.

От „имаме AI“ към „носи ли ни пари“

Това е особено важно в момент, в който разговорът около изкуствения интелект постепенно се измества. След първата вълна от инвестиции въпросът вече не е само дали компаниите използват AI, а какво получават срещу вложените средства.

И тук проучването показва голяма разлика между организациите. Компаниите, които SAS определя като лидери в т.нар. надежден AI – с по-добро управление на данните и моделите, механизми за обяснимост, политики за отговорно използване и възможности за одит – са значително по-склонни да отчитат висока възвръщаемост от инвестициите си.

62% от тях посочват висока или много висока възвръщаемост от AI проектите си. Сред организациите, които изостават по тези показатели, делът е едва 4%. Това означава, че първата група е около 15 пъти по-склонна да отчита силен резултат, а не че самата им възвръщаемост е 15 пъти по-висока.

Разликата се вижда и отвъд един-единствен показател. Организациите с най-развити практики за надежден AI постигат средно 1.85 пъти по-добри резултати по 13 бизнес показателя, сред които ръст на приходите, намаляване на разходите и подобряване на клиентското преживяване.

Това не доказва само по себе си, че доброто управление на AI автоматично причинява по-висока възвръщаемост. Възможно е по-зрелите организации едновременно да имат по-добри процеси, повече ресурси и по-успешни технологични проекти като цяло. Но връзката, която очертава проучването, е достатъчно силна, за да покаже промяна в начина, по който бизнесът трябва да гледа на AI.

Разликата между успешен и неуспешен проект все по-малко изглежда като въпрос единствено на това кой модел или платформа използва компанията. Все по-важно става как системата е управлявана, какви данни използва и дали хората са готови да приемат решенията ѝ.

Автономност без доверие

Именно тук се появява по-големият риск пред следващата фаза на AI внедряването. С генеративния AI човекът обикновено остава последната инстанция – той прочита текста, разглежда анализа и решава дали да го използва. При AI агентите постепенно се добавя възможността системата сама да изпълнява задачи и да взема последващи решения.

Това увеличава потенциалната полза, но и цената на грешката. От SAS посочват, че съвременните AI агенти могат да грешат в над 25% от случаите при сложни задачи, което поставя под въпрос използването им без достатъчен човешки контрол при важни решения.

Затова следващата фаза от корпоративното навлизане на AI вероятно няма да бъде само състезание за повече автономност. Паралелно ще се развива и състезание за по-добър контрол върху нея.

И докато първата вълна на AI трансформацията беше доминирана от въпроса „Как да внедрим технологията?“, следващата все повече изглежда ще бъде определяна от два други:

Можем ли да разберем решенията ѝ?“ и „Можем ли да докажем, че инвестицията си струва?“

Проучването обхваща 2699 ръководители и експерти с влияние върху инициативите за данни и AI в 28 държави. То е концентрирано в четири сектора – банкиране, застраховане, бионауки и публичен сектор, което означава, че резултатите не могат автоматично да бъдат пренасяни върху цялата икономика.