Гонейки само печалбата, Facebook „разкъсва обществата“

Толериране на езика на омразата, дезинформция и допускане на опасни трендове сред тийнейджърите в Instagram – поредицата от обвинения спрямо гиганта в социалните мрежи Facebook отекваха в продължение на седмици, след като Wall Street Journal публикува поредица от текстове, разкриващи нелицеприятните тайни от кухнята на компанията.

Въпросните материали са базирани на изтекли вътрешни документи от компанията, като в тях подробно се описва това как важните хора вътре са осъзнавали напълно социалните вреди и негативните ефекти, които платформите на Facebook оставят върху потребителите, но не са направили нищо или почти нищо, за да спрат това.

Бившият продуктов мениджър в екипа на компанията Франсис Хауген обвини социалната мрежа, че е "предала демокрацията" и подвежда обществото. Тя е специалист по компютърно инженерство и бизнес науки, а през последните 15 години е работила за развитието на различни социални мрежи. Според нея обаче, макар да е виждала много неща в различните платформи, за които е работила, включително Pinterest и Google, "във Facebook беше значително по-зле".

По собствените ѝ думи това, което е видяла в компанията, я е накарало да предприеме действия, които да покажат на бял свят цялото това поставяне на печалбите над обществената безопасност и дори излагането на живота на хората на риск. 

"Ако хората просто намразят Facebook още повече заради това, което направих, значи съм се провалила", заявява тя и допълва, че пътят за спасяването на платформата минава през приемането на истината.

Според нея никой от отговарящите за социалната мрежа хора не е изначално злонамерен и никой не цели да причинява вреди, но самите приоритети в компанията са неправилно подредени. Така, когато мениджърите там са поставени пред избора между печалбата и обществения интерес, изходът винаги е един и същ.

Нещото, което виждах във Facebook отново и отново, бе, че имаше конфликти на интереси между това, което е добро за обществеността, и онова, което е добро за Facebook. И Facebook отново и отново избираше да приоритизира собствените си интереси, като например да печели повече пари", коментира Хауген.

По думите ѝ, когато в социалната мрежа са осъзнали, че ако алгоритъмът, който се използва за оформяне на началната страница на всеки потребител, се промени така, че платформата да стане по-безопасна за хората, те ще започнат да прекарват по-малко време в нея, ще кликат върху по-малко реклами и съответно компанията ще печели по-малко пари. Затова и въпросната промяна не е била направена.

Версията на Facebook, която съществува днес, разкъсва обществата ни и причинява етническо насилие по целия свят", коментира Хауген, посочвайки ситуацията в Мианмар и преследването на малцинството рохинга като пример.

Друг емблематичен случай според нея е и атаката над Капитолия от януари тази година, когато привърженици на Доналд Тръмп се опитаха да спрат Конгреса от това да избере официално Джо Байдън за президент. Хауген смята, че тези действия в немалка степен са били провокирани през Facebook.

Въпросният отдел за борба с дезинформцията, в който Хауген работи, се оказва закрит малко след изборите в САЩ през ноември 2020 г., тъй като от компанията са решили, че такъв вече не е нужен, след като около самите избори няма никакви по-сериозни ексцесии и прояви на насилие. Само около месец по-късно обаче идват събитията от 6 януари и щурмът на Капитолия.

Коренът на проблема, който тя посочва, се крие във факта, че алгоритъмът на Facebook е настроен така, че да показва на потребителите си съдържание, което е вероятно да ги подразни, защото по този начин генерира най-много ангажираност. А именно ангажираността на потребителите с платформата е това, което продава реклами.

Според нея собствено изследване на компанията е показало, че онова съдържание, което предизвиква най-много полемика и поляризиране на мненията и провокира хората да се разгневяват, води до повече реакции и отделяне на внимание от страна на потребителите.

Хауген заяви, че вярва, че основателят и главен изпълнителен директор на Facebook Марк Зукърбърг никога не е имал за цел да създаде платформа на омразата, но е позволил да се направят определени избори въпреки страничните ефекти от тях, водещи до разпространяване на съдържание с омраза.

Прекият ефект от това обаче е, че на политическите партии в Европа им се налага да пускат повече негативни реклами, за да достигнат до оптимален брой потребители във Facebook. Това показва един от изнесените от Хауген доклади.

По думите ѝ алгоритмите на Facebook са настроени по такъв начин, че политическите играчи се виждат принудени да водят негативни кампании онлайн, за да могат изобщо да се класират там пред опонентите си, въпреки че това е вредно за обществото като цяло.

Същевременно с това тя разкри, че Facebook идентифицира само малка част от омразата и дезинформацията в платформата – вътрешен доклад показва, че се откриват едва между 3 и 5% от съдържанието с език на омразата, въпреки че компанията се рекламира като един от примерите за правилно модериране.

Но ако има нещо, което е дори по-притеснително от несправянето на Facebook с обществено адекватното модериране на съдържанието в социалната мрежа, то това е негативната връзка между тийнейджърите и Instagram. Според документите, които Хауген изпраща към Wall Street Journal, Instagram засилва сред младежите мислите за самоубийство, хранителните разстройства, както и цялостно депресията.

Нейното интервю пред "60 минути" предизвика мигновена реакция от страна на Facebook. Вицепрезидентът на компанията Ник Клег коментира, че думите на бившата им служителка съдържат "дълбоко неверни" твърдения и сравнения. Според него компанията наистина не може да контролира цялата информация, което се излива ежеминутно в нейните платформи, но работата им е "да смекчат и намалят лошото съдържание и да усилят доброто", като в тази си задача Facebook върши "доста добра работа".

Той също така потвърди, че компанията ще продължи да използва вътрешни изследвания, които да я насочват към това да разбере по-добре ефектите от своите платформи.

Междувременно американският Сенат вече покани Хауген на изслушване в комисията за "Защита на децата онлайн", където да разкаже по-подробно за вредните ефекти от социалните медии.