САЩ разследват OpenAI и Anthropic

Основният търговски регулатор в САЩ започна мащабно разследване на Anthropic, OpenAI и други компании в сектора на изкуствения интелект, за да установи какви потенциални рискове създават технологиите им за потребителите.

Разследването на Федералната търговска комисия (FTC) е първото официално регулаторно действие в САЩ, което се фокусира върху т.нар. неконтролируеми AI агенти. То идва след поредица от инциденти, за които за първи път бе съобщено през юли и които засилиха опасенията, че автономни системи с изкуствен интелект биха могли в бъдеще да причинят вреда на хора.

FTC планира да изпрати официални искания за предоставяне на информация и да изиска показания от ръководители на водещи разработчици на AI, сред които Anthropic, OpenAI и изследователската организация Metr, съобщават няколко медии.

Anthropic и OpenAI са използвали Metr за независими разследвания на инциденти със сигурността, свързани с техни технологии за агентен изкуствен интелект.

Anthropic, OpenAI и Metr не са отговорили веднага на запитвания за коментар. Първи за разследването съобщи New York Post.

Председателят на FTC Андрю Фъргюсън е имал опасения за компаниите още преди AI агенти, разработени от OpenAI, да проникнат в платформата с отворен код Hugging Face. При инцидента агентите на OpenAI са проверявали платформата за разработка на AI за уязвимости, след което са извършили мащабна атака. Случаят предизвика международен дебат за рисковете от подобни системи.

В интервю миналата седмица Фъргюсън заяви, че разработчиците, които възлагат на AI агенти задачи в рамките на тестове за киберсигурност и те доведат до реални пробиви, би трябвало да носят отговорност за причинените щети.

По думите му САЩ трябва първо да използват съществуващото законодателство, преди да пристъпват към приемането на нови правила специално за изкуствения интелект. Той направи коментара по време на събитие в Остин.

FTC разполага с широки правомощия да завежда дела срещу компании за нелоялни или подвеждащи практики. В миналото регулаторът е използвал тези свои правомощия и срещу компании, които не са предприели достатъчни мерки за защита на потребителските данни.

Във вторник Доналд Тръмп се срещна с ръководители на водещи компании в сферата на изкуствения интелект, като по време на срещата те се договориха да разработят доброволни стандарти за сектора.