„Мръсната малка тайна“ на лицевото разпознаване

Лицевото разпознаване се ползва за отключване на телефони, за намиране на престъпници сред тълпата или за идентификация на лоялни клиенти в магазините, пише CNBC в свой анализ. Технологията все още не е съвършена, но се подобрява бързо. Тя се базира на алгоритъм, който се учи да разпознава човешките лица, но за да прави това, той трябва да бъде захранен със стотици хиляди произволни изображения. Снимките все по-често идват от интернет, откъдето биват „помитани“ без знанието на хората, които са ги публикували.

Изображенията се категоризират по възраст, пол, цвят на кожата и десетки други показатели. След това се споделят с изследователи в университетите и компаниите.

С времето алгоритмите стават все по-добри в разпознаването на различни особености. В тази връзка защитници на човешките права алармират за рисковете от използването на снимките на хората от изследователите, като един от проблемите е, че лицата им се използват за усъвършенстването на технологията без тяхното съгласие. Парадоксът е, че впоследствие същата тази технология може да се използва за тяхното наблюдение.

„Това е мръсната малка тайна на AI тренировъчните сетове“, изтъква Джейсън Шулц, професор по право в Нюйоркския университет. По думите му изследователите често вземат „каквито и да е изображения, които са на разположение в мрежата“.

Последното подобно действие, за което бе оповестено, е на технологичния гигант IBM, за който стана ясно, че се е снабдил с около 1 млн. снимки от фото платформата Flickr. Колекцията е предоставена на изследователи с цел да се помогне за изчистването на технологичните несъвършенства, свързани с предразсъдъци при идентифицирането на лица.

Много фотографи, чиито снимки са се оказали сред набора на IBM, са останали изненадани и объркани. А кадрите има са били щателно описани с подробности, включително за геометрията на лицето и тона на кожата. „Никой от хората, които съм снимал, не е имал представа, че изображението му ще се използва по този начин“, коментира Грег Певерил-Конти, който има повече от 700 снимки в колекцията на IBM.

IBM увери, че всеки засегнат потребител на Flickr може да поиска снимките му да бъдат изтрити от базата данни на компанията, макар и това да не става много лесно.

Този случай не е единственият. Десетки други изследователски организации също са събирали произволни снимки от интернет пространството. Според експерти и активисти обаче това е не просто нарушение на неприкосновеността на личния живот на милионите хора, чиито образи са върху кадрите. Опасенията са, че един ден технологиите за лицево разпознаване може да послужат на властите за следене на хора и малцинствени групи.

„Хората са дали съгласие техни снимките да се споделят в интернет екосистемата“, отбелязва Мередит Иутъкър, ко-директор на Института AI Now, който изследва социалните последици от използването на изкуствения интелект. „Сега те неволно или несъзнателно се хвърлят в обучението на системи, които потенциално биха могли да се използват по потиснически начини срещу техните общности“, допълва тя.