Следващото бойно поле: Запознайте се с новия AI агент, който живее в браузъра ви

Anthropic представи AI агент за браузър, задвижван от моделите Claude. Той ще дава възможност на потребителите да разговарят с чатбота, да му дават достъп до контекста на браузъра и да го инструктират да изпълнява задачи от тяхно име.

Наречен Claude for Chrome, той ще бъде достъпен първоначално за избрана група от 1000 абонати на абонаментния план Anthropic Max. Освен това компанията отваря и списък с чакащи за всички останали, които проявяват интерес към използването на AI агента.

След като добавят разширението към Chrome, избраните потребители ще могат да разговарят с Claude в страничен прозорец, като агентът ще има достъп до контекста на всичко, което се случва в техния браузър. Потребителите могат също така да дадат разрешение на Claude да извършва действия в браузъра и да изпълнява определени задачи от тяхно име.

Браузърът бързо се превръща в следващото бойно поле за AI лабораториите, които се стремят да предложат по-безпроблемна връзка между системите с изкуствен интелект и техните потребители чрез различни интеграции. Неотдавна Perplexity пусна свой собствен браузър, наречен Comet, който разполага с AI агент, способен да изпълнява задачи. Междувременно се говори, че и OpenAI скоро ще пусне свой браузър, задвижван от AI, с функции, подобни на тези на Comet. Google също интегрира Gemini в Chrome през последните месеци.

Състезанието за създаване на браузъри, задвижвани от изкуствен интелект, е още по-интригуващо предвид предстоящото антитръстово дело срещу Google, по което се очаква окончателно решение всеки момент. Федералният съдия по делото намекна, че може да принуди Google да продаде браузъра си Chrome. Perplexity вече направи нежелана оферта от 34.5 млрд. долара за Chrome, а главният изпълнителен директор на OpenAI, Сам Олтман, намекна, че и неговата компания би била готова да го купи.

При обявяването на своя нов продукт Anthropic предупреди обаче, че нарастването на AI агенти с достъп до браузъри създава нови рискове за безопасността. Миналата седмица екипът по сигурността на Brave съобщи, че е открил уязвимост в браузърния агент на Comet. Според тях скрит код на уебсайт може да подмами агента да изпълни злонамерени инструкции по време на обработка на страницата.

Anthropic твърди, че се надява да използва тази предварителна версия, за да открие и отстрани нови рискове за сигурността. Компанията вече е въвела няколко защити срещу т.нар. атаки с променливо въвеждане.

Например, Anthropic дава възможност на потребителите да ограничат достъпа на Claude до определени сайтове в настройките на приложението. Освен това по подразбиране е блокиран достъпът на Claude до уебсайтове за финансови услуги, съдържание за възрастни и пиратско съдържание. Компанията също така заявява, че агентът на Claude ще иска разрешение от потребителя, преди да „предприеме рискови действия като публикуване, закупуване или споделяне на лични данни“.

Това не е първата стъпка на Anthropic в областта на AI моделите, които могат да контролират екрана на компютъра. През октомври 2024 г. компанията пусна AI агент, който можеше да контролира компютъра ви, но тогавашните тестове показаха, че моделът е доста бавен и ненадежден.

Оттогава възможностите на агентите с изкуствен интелект са се подобрили значително. Съвременните браузърни агенти като Comet и ChatGPT Agent са доста надеждни при изпълнението на прости задачи, но все още срещат затруднения с по-сложни проблеми.