Q&A: Какво следва за бизнеса и потребителите от новите AI правила в ЕС

Европейският съюз започна да прилага една от най-важните части на Закона за изкуствения интелект (AI Act) – правилата за т.нар. модели с общо предназначение (General Purpose AI), върху които са изградени системи като ChatGPT, Claude, Gemini и други генеративни AI инструменти. Това е първият подобен режим в света, който поставя конкретни задължения пред разработчиците на най-мощните AI модели и цели да направи технологията по-прозрачна и безопасна.

Тъй като законът въвежда правила, които са първи по рода си, тяхното прилагане поставя уникален набор от предизвикателства, не на последно място защото на всеки няколко месеца се появяват нови поколения технологии за изкуствен интелект. Опитът на Брюксел вероятно ще има отзвук далеч отвъд границите на Европа.

Какво влиза в сила?

Досега AI Act вече забрани някои високорискови практики и въведе правила за определени приложения на изкуствения интелект. От август обаче започват да се прилагат изискванията към самите фундаментални AI модели – технологиите, които стоят зад чатботове, генератори на изображения и други генеративни системи.

За първи път компаниите, които разработват такива модели, са задължени да предоставят повече информация за начина, по който те са създадени, обучени и използвани.

Кои компании са засегнати?

На първо място – разработчиците на големите AI модели като OpenAI, Google, Anthropic, Mistral, xAI и други компании, които предлагат подобни технологии в Европейския съюз.

Правилата обаче засягат и организации, които внедряват генеративен AI в свои продукти и услуги. Ако една компания използва AI за създаване на съдържание, обслужване на клиенти или автоматизирани решения, тя също трябва да спазва определени изисквания за прозрачност.

Важно е, че законът важи не само за европейски компании. Всяка организация, която предлага AI услуги на европейския пазар, попада в неговия обхват.

Какви са новите задължения?

Основната идея е повече прозрачност.

Разработчиците трябва да публикуват информация за възможностите и ограниченията на своите модели, да разкриват какъв тип съдържание е използвано при обучението им, включително ако то е защитено с авторски права, и да предоставят достатъчно информация, за да могат компаниите, които използват модела, да преценят рисковете.

Най-мощните AI модели ще трябва и да оценяват потенциалните системни рискове, които могат да създадат, както и да предприемат мерки за ограничаването им.

Какво означават правилата за съдържанието, създадено с AI?

Една от най-видимите промени са новите изисквания за обозначаване на генерираното съдържание.

Кодексът за добри практики към AI Act препоръчва използването на комбинация от цифрови метаданни, водни знаци и други технически средства, които да позволяват съдържанието, създадено с AI, да бъде разпознавано.

Компаниите трябва да предлагат и инструменти за откриване на подобно съдържание и да се стремят информацията за неговия произход да не се губи при споделяне или редактиране.

Достатъчно ли е едно обозначение „Създадено с AI“?

Не съвсем.

Експерти по дигитални права предупреждават, че един обикновен етикет не гарантира защита срещу злоупотреби. При дълбоки фалшификации (deepfakes), особено при изображения без съгласието на засегнатите лица, обозначаването само по себе си не предотвратява вредите.

Според специалистите е необходимо информацията за произхода на съдържанието да остава вградена в него през целия му жизнен цикъл, дори след редакции и многократно споделяне – нещо, което настоящият Кодекс засега само насърчава, но не прави задължително.

Какво означава това за обикновения потребител?

На теория европейските граждани трябва да получат по-голяма сигурност, че AI системите, които използват, са преминали определени проверки и отговарят на минимални изисквания за безопасност и прозрачност.

Възможно е обаче някои нови AI модели или функции да достигат до европейския пазар със закъснение, тъй като компаниите първо ще трябва да докажат съответствие с новите правила.

Кой ще следи дали правилата се спазват?

За тази цел Европейската комисия създаде специализиран AI Office, който ще отговаря за прилагането на правилата за най-мощните модели.

Задачата му няма да бъде лесна. Освен че трябва да регулира една от най-бързо развиващите се технологии, институцията разполага с ограничен човешки ресурс и ще разчита и на външни учени и независими експерти.

Има ли спор около новите правила?

Да.

Технологичните компании отдавна предупреждават, че прекалено строгата регулация може да забави иновациите и да увеличи административната тежест.

От другата страна експерти по дигитални права настояват, че правилата не трябва да се ограничават единствено до най-драматичните сценарии като кибератаки или загуба на контрол над AI системите. Според тях еднакво внимание трябва да се отделя и на ежедневните рискове – нарушаване на личната неприкосновеност, дискриминация, дезинформация и злоупотреба със синтетично съдържание.

Защо тези правила са важни извън Европа?

AI Act е първият цялостен закон за изкуствения интелект в света и затова се очаква да има влияние далеч извън границите на ЕС.

Подобно на GDPR, европейските изисквания вероятно ще се превърнат във фактически глобален стандарт. Международните компании трудно могат да си позволят да разработват отделни версии на своите AI модели за различните пазари, което означава, че поне част от европейските правила вероятно ще бъдат приложени и в други държави.

Затова следващите месеци няма да бъдат тест само за компаниите, които разработват изкуствен интелект, а и за самия Европейски съюз – дали ще успее да докаже, че е възможно едновременно да насърчава иновациите и да поставя ясни граници пред една технология, която все по-бързо навлиза във всекидневието.