„Астрономически последици“: Съд решава съдбата на Facebook и Instagram

Заплашват ли алгоритмите на Facebook и Instagram психиката на децата? Този въпрос застава в центъра на един от най-мащабните съдебни процеси срещу технологичен гигант в историята. След като щатът Ню Мексико вече нанесе първия силен удар срещу Meta, настоящето дело в Калифорния може да принуди Марк Зукърбърг изцяло да пренапише правилата, по които функционират социалните мрежи.

Във вторник започват встъпителните пледоарии по делото срещу Meta, водено съвместно с главния прокурор на Калифорния Роб Бонта, след поредица от обвинения, че компанията насажда пристрастяващо поведение у деца и тийнейджъри. Съдебното жури бе съставено миналата седмица във федералния съд в Оукланд.

Процесът е резултат от обединените усилия на коалиция от 29 щатски главни прокурори, завели общ иск през 2023 г. Пред съда обвинението ще се представлява от адвокати от Калифорния, Колорадо, Ню Джърси и Кентъки. Залогът е огромен: водещи държавни представители в цялата страна настояват Meta да понесе отговорност за системно нарушаване на федерални и щатски закони, включително Закона за защита на личните данни на децата в интернет (COPPA) и редица разпоредби за защита на потребителите.

Секторни експерти определят казуса като „момента Тютюн“ (по аналогия с процесите срещу тютюневата индустрия през 90-те години) за социалните мрежи, а Meta е в центъра на мишената. Тогава гигантите в тютюнопроизводството бяха принудени да платят милиарди долари за подвеждане на обществеността относно вредите от продуктите си, което драстично срина тяхното влияние.

По-рано този месец Meta загуби дело в Ню Мексико, в резултат на което ще трябва да измени услугите си и да плати близо 1 млрд. долара. Калифорния обаче има такава тежест, че едно неблагоприятно решение в родния щат на Meta би довело до много по-тежки санкции – включително генерален преглед на дейността ѝ и задължителни промени в основните алгоритми.

Калифорния е по-важна от всеки друг щат в САЩ“, коментира Джулия Паулс, изпълнителен директор на Института за технологии, право и политика към UCLA. „Именно тук те са изложени на най-сериозен правен натиск, а юрисдикцията се следи изкъсо от целия свят.“

Главният прокурор на Ню Мексико Раул Торес, окрилен от съдебната си победа, заяви пред CNBC, че последиците за компания, генерираща 98% от приходите си от онлайн реклама, могат да бъдат „астрономически“. Изпълнителният директор на Meta Марк Зъкърбърг разчита именно на свежите пари от рекламния си бизнес, за да финансира мащабните си инвестиции в изкуствен интелект, които само за тази година могат да достигнат 145 млрд. долара.

Съдията в Ню Мексико разпореди Meta да внесе 567 млн. долара във фонд за обезщетения като част от втората фаза на дело за сексуална експлоатация на деца. През март, по време на първата фаза, журито присъди компанията да плати 375 млн. долара за нарушаване на щатския закон за нелоялни търговски практики. От Meta заявиха, че не са съгласни с решението и възнамеряват да го обжалват.

Торес нарече присъдата „доста сериозна“, но бързо допълни, че тя изглежда нищожна на фона на онова, което предстои.

Ню Мексико е щат с около 2 милиона жители“, посочи той. „Ако приложите същата правна логика спрямо Калифорния, Флорида, Тексас или Ню Йорк, става дума за огромна сила, способна да пренареди целия пазар.“

Заобикалянето на „Раздел 230“

Въпреки че детайлите по отделните дела варират, всички те се въртят около вредния по дизайн механизъм на приложения като Facebook и Instagram.

Присъдата в Ню Мексико изисква от Meta да подобри своите „модели и инструменти за потвърждаване на възрастта“ чрез изкуствен интелект и в срок от две години да разработи „специализиран модел за засичане на потребители под 13 години“. Други мерки включват облекчаване на процедурата за подаване на сигнали за непълнолетни потребители и партньорство с училища или организации за защита на децата за създаване на общ портал, през който училищните администрации да съобщават за профили на деца под 13 години във всички платформи.

Торес отбелязва, че фокусът върху функционалностите на приложенията и подвеждащите твърдения за безопасност „дава готов модел на останалите щати как да търсят отговорност“. Този подход позволява на щатите да заобиколят т.нар. „Раздел 230“ от Закона за почтеността в комуникациите, който традиционно пази технологичните гиганти от правна отговорност за съдържание, публикувано от трети страни.

През март Meta и YouTube (собственост на Google) загубиха дело в Лос Анджелис, след като журито прецени, че компаниите са проявили небрежност и не са предупредили потребителите си за рисковете от ползването на платформите.

Роб Бонта, назначен на поста главен прокурор през 2021 г. от губернатора Гавин Нюсъм, заяви в официално обръщение миналия понеделник, че една от най-важните му задачи е „да защити децата от вредно влияние“.

Meta създаде опасен продукт за младите потребители, знаеше за рисковете и въпреки това излъга децата, семействата и цялото общество“, каза той. „Готови сме да потърсим отговорност от Meta за ролята ѝ в задълбочаването на кризата с психичното здраве сред американските деца и очакваме процеса с нетърпение.“

В официална позиция Meta заяви, че „ограничените претенции на коалицията са неоснователни, а финансовите ѝ искания – силно преувеличени“.

„Главните прокурори не предоставят доказателства за нито един подведен гражданин в техните щати. Те представят стандартни опции (като притежаването на втори профил в Instagram) като уж вредни и се опитват да санкционират Meta за предизвикателства, които засягат целия сектор, като например проверката на възрастта“, съобщават от компанията.

Защитата на Meta вече предупреди, че обединеното щатско дело може да доведе до щети в размер на астрономическите 1.4 трлн. долара. Адвокатите на щатите обаче заявиха пред председателстващия съдия Ивон Гонзалес Роджърс, че по-реалистичната сума е около 200 млрд. долара.

Резултатът може да осъмне с решение, което, както вече казах, е просто астрономическо“, добави Торес.

Потенциалните структурни промени, които Meta би трябвало да въведе при загуба в Калифорния, могат да се окажат далеч по-разрушителни от чисто финансовите санкции, смята Лора Маркес-Гарет, адвокат от Social Media Victims Law Center.

За разлика от частните ищци, държавните органи разполагат с лостове да принудят тези компании през съда изцяло да променят бизнес модела си и дизайнерските си решения“, посочи Маркес-Гарет по време на брифинг в петък.

В съдебните си документи главните прокурори посочват, че търсят „постоянна съдебна забрана на национално ниво за преустановяване на незаконните практики на Meta“, свързани с нарушения на закона COPPA. Ако бъде доказано такова нарушение, щатите настояват компанията да изтрие всички лични данни на деца под 13 години, както и алгоритмите и моделите, обучени чрез тях.

Относно нарушенията на щатските закони за защита на потребителите, ищците настояват Meta да бъде принудена да премахне „пристрастяващите елементи в дизайна“, сред които са безкрайното скролване (infinite scroll), автоматичното пускане на видеоклипове (autoplay), временното съдържание (ephemeral content), разкрасяващите филтри и алгоритмите, оптимизирани за задържане на вниманието.

Торес призна, че екипът му не е успял да извоюва всички искани промени в Ню Мексико, като например премахването на безкрайното скролване и промяна в алгоритмите за препоръчано съдържание. Съдията по делото отбеляза, че част от тези мерки могат да влязат в конфликт с „Раздел 230“ и Първата поправка на Конституцията на САЩ (за свободата на словото), а налагането им би било несправедливо, докато конкуренти като TikTok и YouTube продължават да ги използват.

Meta и нейните конкуренти са изправени пред десетки други съдебни битки в страната, включително мащабен федерален процес в Северна Калифорния следващата година, заведен от десетки училищни райони. Първото от тази поредица дела трябваше да започне това лято, но Meta, YouTube, TikTok и Snap предпочетоха да сключат извънсъдебни споразумения.

Според Торес Уолстрийт подценява потенциалните последици от евентуално поражение в Калифорния, гледайки на случая в Ню Мексико като на „изолиран епизод“. Акциите на Meta са се понижили с 11% от началото на годината, но притесненията на аналитиците са свързани основно с колосалните капиталови разходи за инфраструктура за изкуствен интелект, а не толкова с евентуален срив в рекламния бизнес.

Анализаторите в момента не оценяват риска правилно“, категоричен е Торес. „Едно съдебно решение в Калифорния само по себе си може да се окаже толкова колосално, че да постави под въпрос възможността на тази компания да финансира бъдещето си.“