Човечността на мислещите машини

Изкуственият интелект (ИИ) е самосбъдваща се фантастика. Развитието на технологията върви с ускорени темпове и в много дейности тя се е превърнала в незаменим помощник. В България расте броят на специалистите и на компаниите, които разработват ИИ, но и на онези, които го прилагат в своята работа.

В ролята на рапър

Експериментите продължават по света и у нас, но с това и скандалите. През септември 2022 г. се вдигна шум около моделирания от компютърна програма рапър FN Meka, който всъщност е изкуствен интелект. ИИ създава образа, мелодиите и текстовете на „хип-хоп чудото“ FN Meka след анализ на хиляди единици информация, събрани от популярни песни, видео игри и социални мрежи. Този герой предизвиква сензация в TikTok, събира повече от 1 млрд. гледания и над 10 млн. последователи. Той дори става първият създаден от ИИ рапър, който има договор със световна музикална компания, в случая Capitol Records. След шумните реклами това да е само началото, скандалът не закъснява. В своя песен „чернокожият артист“ използва думата негър, така характерна за речника на чернокожите рапъри. Недоволството срещу това стига връхна точка и „непокорният“ музикант бива „уволнен“ заради расизъм. „Червената лампа“ в разработването на ИИ светва.

Без дискриминация

Засега светът показва особена чувствителност към проявата на дискриминация в действията на ИИ. Обичаен пример е алгоритъм, оценяващ кандидатури за работа. Ако той е захранен с непълни и базирани на предразсъдъци данни, в изпълнението на задачата да отсее най-добрите, той може да пресече пътя на по-подходящи служители – така би попречил не само на тяхната кариера, но и на потенциалните ползи за работодателя. Разбира се, по-страшно би било, ако с действията си застраши човешки живот.

Форум

Именно предизвикателствата пред етиката в развитието на ИИ бяха обект на дискусия по време на конференцията AI N’ CYBER 2022, организирана от Economic.bg и Дигиталната национална коалиция, в партньорство с НАТО, Европейската инвестиционна банка и Фондация „Фридрих Аденауер“. Заплаха ли е ИИ за човечеството и човечността, може ли той да бъде „вкаран“ в онези граници, които и хората не бива да пристъпват, как да продължи развитието на тази  върхова технология, без която сякаш вече не можем – на този кръг от въпроси ще продължава да се търси отговор.

Прозрачност

„Няма универсален закон, който да казва: Ето така се обработват данните. А очакваме ИИ да спазва и неписаните правила, и законодателството,  което е прието “, коментира Георги Димитров, професор по ИКТ право и основател на Фондация „Право и интернет“. ИИ не бива да е като черна кутия и професионалната общност настоява технологията да се създава и използва при пълна прозрачност. Данните – там е разковничето към контрола над ИИ.

Жените и етиката

Моника Манолова

Едва 3% от разработчиците в света са жени. Според д-р Моника Манолова, експерт по AI етика към ДНК, именно жените може да са особено полезни при задаването на етичните норми в самообучението на ИИ. Тя коментира, че сме на прага да се създадат ИИ системи, които напълно да имитират човешкото поведение. Още през 1950 г. британският математик Алън Тюринг формулира критерий за изкуствен интелект, известен като Тест на Тюринг. Според него, ако в общуването си с машина човек стигне до заблуда, че това е друг човек, а не компютър, то разработката е успешна форма на ИИ с разум в човешкия смисъл на думата. „Очовечаването“ на ИИ продължава да стои на дневен ред и БГ професионалната общност би могла да допринесе към глобалния отпечатък в етичната сфера, смята д-р Манолова. Това изиска да се отворим към най-добрите умове в света и да сме в комуникация с тях. Развитието на цялостната екосистема е в ход и вече се появяват адвокати, които специализират в ИИ, има организации, които калкулират рисковете от появата на изкуствения разум.

Близо, но все още далеч

Васил Шивачев

ИИ засега е нещо, до което все още не сме достигнали, върху това акцентира Васил Шивачев, оперативен ръководител на Identrics. По негови думи има да се извърви голям път, в това число и за създаването на нормативната рамка. Общността в България и в ЕС се готви за тази стъпка. Но не бива да се чака събития като пандемията да активизират човечеството да направи неща, които преди това е отлагало. Приемането на правната рамка, свързана с тези алгоритми, вече е необходимост. Голям напредък в мисленето е дори само фактът, че вече се говори за такава нормативна уредба. Това дава някакво спокойствие, че правилните решения ще бъдат взети с обществено участие. Специалистът от Identrics напомня, че гениалният Айзък Азимов още през 1942 г. създава трите закона за роботиката, които и 80 години по-късно може просто да бъдат прилагани.

Проблем ли е безопасността

Светлин Пенков

Страховете за бъдеще, в което ИИ е фактор, варират от прогнозите, че роботите ще изместят хората и ще им заемат работните места, стига се и до апокалиптичните  предвиждания, че ще подчинят и дори може да унищожат човечеството. Учени и експерти в AI сферата изтъкват със спокойствие, че опасенията са силно преувеличени, отхвърлят мрачните сценарии с мотива, че ИИ е много далеч от своята зрялост. Британският физик Стивън Хокинг обаче предупреди, че развитието на тази технология може да е най-лошото нещо за цивилизацията, ако не бъде намерен надежден начин обществото да го контролира. Остава ли заплахата? „Един от техническите термини за ИИ е „универсални функционални апроксиматори“. Представяте ли си те да превземат света? Това е просто технология, която се използва от човечеството и тъкмо тук идват етиката и морала, които очертават за какво и как да се ползва ИИ“, е гледната точка на д-р Светлин Пенков по казуса. Съоснователят и главен изпълнителен директор на Efemarai и член на УС на AI Cluster Bulgaria е убеден, че хората натоварват технологията със собствените си страхове. Но също така самите хора стоят в основата на нейното приложение – в техните ръце и умове е и предизвикателството да я направят добра или лоша. Важно е онези, които разработват ИИ, внимателно да преценяват какви данни влагат при неговото обучение. Етиката трябва да е на първо място, подертава предприемачът.

Преди няколко години Светлин Пенков се завръща в София, след като в Лондон е натрупал опит в голяма компания в сферата на автономните автомобили. Нейният екип прави първи прототип през 2012 г., но все още не е предложен онзи вариант, който по отношение на сигурността да гарантира всичко, от което хората се нуждаят. От позицията на своята дългогодишна практика Пенков посочва, че разработката и развитието на ИИ не е никак лесна работа. Това са технологии „на ръба на познанието“.

Текстът е част от бр. 111 на сп. "Икономика". Публикува се в Economic.bg по силата на партньорско споразумение между двете медии.