AI агент е съборил част от облачната услуга на Amazon

Облачното подразделение на Amazon е претърпяло поне две прекъсвания на услуги заради грешки, свързани със собствените му AI инструменти. Това е накарало част от служителите да поставят под въпрос стремежа на американския технологичен гигант да внедрява подобни помощници за програмиране, пише Financial Times.

Amazon Web Services е преживяла 13-часово прекъсване на една от системите, използвани от клиентите ѝ, в средата на декември, след като инженери са позволили на AI инструмента за писане на код Kiro да извърши определени промени, твърдят четирима души, запознати със случая. По думите им, агентният инструмент, който може да предприема автономни действия от името на потребителите, е преценил, че най-добрият ход е „да изтрие и пресъздаде средата“.

Amazon е публикувала вътрешен доклад за причините за „прекъсването“ на системата на AWS, която позволява на клиентите да анализират разходите за услугите ѝ. Няколко служители на Amazon са заявили пред FT, че това е вторият случай през последните месеци, при който AI инструмент на групата е бил в центъра на срив в услуга.

Вече видяхме поне две прекъсвания в продукционна среда през последните няколко месеца“, казва старши служител на AWS. „Инженерите оставиха AI агента да разреши проблем без намеса. Прекъсванията бяха малки, но напълно предвидими.“

AWS, която формира 60% от оперативната печалба на Amazon, се стреми да разработва и внедрява AI инструменти, включително „агенти“, способни да предприемат самостоятелни действия въз основа на човешки инструкции. Подобно на много други компании от Big Tech, тя планира да предлага тази технология и на външни клиенти.

Инцидентите подчертават риска тези все още нови AI инструменти да действат непредвидимо и да причиняват смущения.

От Amazon заявяват, че е „съвпадение, че са били замесени AI инструменти“ и че „същият проблем може да възникне с всеки инструмент за разработка или при ръчно действие“.

И в двата случая става дума за човешка грешка, а не за грешка на AI“, посочват от компанията, като допълват, че не са установили доказателства грешките да са по-чести при използване на AI инструменти.

От компанията уточняват, че инцидентът през декември е бил „изключително ограничено събитие“, засегнало само една услуга в части от континентален Китай. Amazon добавя, че вторият случай не е повлиял на „клиентски ориентирана AWS услуга“.

Нито едно от двете прекъсвания не е било близо по мащаб до 15-часовия срив на AWS през октомври 2025 г., който извади от строя приложения и сайтове на множество клиенти – включително ChatGPT на OpenAI.

Служители посочват, че AI инструментите на групата се третират като помощници на операторите и получават същите права за достъп. В тези два случая инженерите не са изисквали одобрение от втори човек преди да направят промените, както е обичайната практика.

От Amazon заявяват, че по подразбиране инструментът Kiro „изисква разрешение преди да предприеме каквото и да е действие“, но посочват, че инженерът, замесен в инцидента през декември, е имал „по-широки права от очакваното – проблем с контрола на достъпа на потребителите, а не с автономността на AI“.

AWS представи Kiro през юли. Компанията обяви, че асистентът за програмиране ще надгради отвъд т.нар. „vibe coding“ – който позволява на потребителите бързо да създават приложения – и ще пише код въз основа на конкретен набор от спецификации. По-рано групата разчиташе на продукта Amazon Q Developer – чатбот с AI функционалности – за подпомагане на инженерите при писане на код. По думите на трима служители, именно той е бил замесен в по-ранния срив.

Някои служители на Amazon казват, че остават скептични към полезността на AI инструментите за по-голямата част от работата им предвид риска от грешки. Те допълват, че компанията е поставила цел 80% от разработчиците да използват AI за задачи по писане на код поне веднъж седмично и внимателно следи степента на внедряване.

От Amazon заявяват, че отчитат силен ръст на клиентите за Kiro и че желаят както клиентите, така и служителите да се възползват от повишената ефективност.

След инцидента през декември AWS въведе множество предпазни мерки“, включително задължителен преглед от колега и допълнително обучение на персонала, допълват от компанията.