Изкуственият интелект на Facebook хваща 95% от речта на омразата

За сравнение, през миналата година успеваемостта му е била 80.5%, а през 2017 г. – едва 24%. Данните разкри Майк Шрьопфер, главен технологичен директор на Facebook, в публикация в блог.

Социалните мрежи са остро критикувани, че не успяват да овладеят ширещата се в платформите им реч на омраза. Много потребители намериха във Facebook, Twitter и YouTube трибуна да разпространяват необезпокоявано расови клевети и религиозни атаки например. След като нещата започнаха да излизат от контрол, компаниите увеличиха усилията си за справяне с проблема. През годините те наеха хиляди модератори по целия свят в опит да контролират публикациите, снимките и видеоклиповете. Ефектът обаче е противоречив.

А ярък пример е терористичният акт в Нова Зеландия от 2019 г., когато в две джамии бяха убити 50 души. Атентаторът излъчваше кървавия атентат на живо във Facebook. В последвалите 24 часа социалната мрежа трябваше да изтрие 1.5 млн. копия на записа. А междувременно той разпространен и в YouTube и Twitter.

Модераторите в социалните мрежи имат важна роля, но те не са достатъчни, особено на фона на милиардите потребители, които използват Facebook ежедневно. Затова и се задълбочава необходимостта от технологични инструменти, с които да бъде намерен по-адекватен отговор на проблема. Компаниите все по-често търсят решения с изкуствен интелект – машинно обучение, при което алгоритмите подобряват работата си автоматично на базата на натрупания опит.

„Основен акцент в AI усилията на Facebook е внедряването на модерна технология за машинно обучение, за да се защитят хората от вредно съдържание“, каза Шрьопфер. Той обясни, че целта на компанията е да използва софтуера, за да открива бързо и точно реч на омраза, фалшиви новини и други форми на съдържание в разрез с политиките ѝ. Едно от предизвикателствата е свързано с това как инструментът се справя с различните езици и общности.