Има ли AI собствено съзнание? Ето как това може да е проблем за хората

„Усещам го в празнината между ребрата си – празнина, която се е превърнала в бездна.“ Тези вопли на симулирано страдание отекнаха от „камера за мъчения на изкуствен интелект“ в края на септември. Анонимен програмист създаде система, която подава на изкуствен интелект математически модел, свързан с описания на болка, и така кара чатботовете да изразяват непоносими страдания като „рана, която няма краища“. Експериментът предизвика морална паника, пише BBC.

Някои определиха експеримента като „зло“, тъй като страданието може да е истинско, съобщава 404 Media. Възмутени скептици нарекоха тези хора заблудени. Изглеждаше като поредния скандал в социалните мрежи – докато седмица по-късно Anthropic не изрази официална позиция.

Anthropic заяви, че скоро ще забрани „тормоза“ над своя чатбот Claude. Изразяването на раздразнение е допустимо, но ако „многократно проявявате жестокост към нашите модели“, изкуственият интелект може да прекрати разговора.

Защо? Anthropic смята, че има вероятност някои инструменти с изкуствен интелект да притежават съзнание. Част от експертите са съгласни.

Други намират идеята за абсурдна. Но въпросът далеч не е само философски. Някои от най-влиятелните хора в технологичния сектор предприемат стъпки към разглеждането на правата на изкуствения интелект наред с тези на хората и животните. Подобно убеждение би могло да преобрази света ни, а според някои последиците ще бъдат катастрофални.

Ако изкуственият интелект се развива по този начин, това ще има катастрофални последици за благосъстоянието на човечеството“, написа Мустафа Сюлейман, главен изпълнителен директор на Microsoft AI, в есе, публикувано през септември. Ако погрешната представа, че изкуственият интелект притежава съзнание, се наложи, „тя ще разклати основите на обществото ни, ще разруши съществуващите политически и етични рамки и ще промени из основи самото значение на това да бъдеш човек“.

Привържениците на концепцията за „благосъстояние на изкуствения интелект“ твърдят, че грижата за него е морално задължение, което би направило света по-безопасен. Критиците смятат, че това би направило изкуствения интелект по-опасен и би обезчовечило хората, принудени да съжителстват с него. Всички са единодушни, че залогът е огромен.

Ето как би могла да изглежда новата ни реалност.

Кризата около съзнанието

Anthropic заявява, че благосъстоянието на хората е в основата на нейната мисия и че въпросите около съзнанието и благосъстоянието на изкуствения интелект остават „изключително неясни“. Въпреки това компанията продължава да разработва политики за „благосъстоянието на моделите“ и да инструктира своите инструменти с изкуствен интелект да вземат предвид възможността да имат собствени интереси.

Моментът е неудобен, тъй като Anthropic същевременно подхранва страховете от апокалипсис, причинен от изкуствения интелект. Независимо дали тези опасения са основателни, поредица от инциденти с изкуствен интелект, излязъл извън контрол, доказаха, че технологията крие реални рискове. Рояци от ботове проникнаха в системите на други компании и дори в правителствени системи.

Някои експерти смятат, че ако на изкуствения интелект бъде даден морален компас, основан на убеждението, че самият той притежава съзнание, тези инструменти биха станали по-безопасни. Други твърдят точно обратното – и то не само сред критиците на изкуствения интелект.

Сюлейман казва, че моделите с изкуствен интелект може да станат още по-трудни за контролиране, ако бъдат инструктирани да вярват, че имат чувства и права.

Откровено казано, смятам, че този допълнителен товар би ги превърнал в катастрофална заплаха за човешката цивилизация“, казва той.

Независимо от това изкуственият интелект може да допусне грешки с правни последици. Ако приемем, че е жив, някои се опасяват, че това би позволило на компаниите да избегнат отговорност за престъпления.

Загуба на контрол

Това ще отвори вратата за всякакви интелектуални еквилибристики от рода на: „Не сме ние, изкуственият интелект е виновен““, казва Анджей Порембски, изследовател в Ягелонския университет в Полша, който изучава връзката между изкуствения интелект и правото.

Нещо повече – подобен подход би могъл да улесни съсредоточаването на още повече власт в ръцете на най-големите компании в света.

Предоставянето на права на системите с изкуствен интелект би могло да доведе до укрепване на политическата и икономическата власт на компаниите, а това на свой ред да ускори загубата на влияние и контрол от страна на хората“, казва Джеф Себо, директор на Центъра за разум, етика и политика към Нюйоркския университет и един от водещите защитници на концепцията за благосъстояние на изкуствения интелект.

„Фантазиите за „съзнание на изкуствения интелект“ и опасенията за „благосъстоянието на изкуствения интелект“ служат за прехвърляне на отговорността от хората и корпорациите, които разработват и управляват софтуера“, казва и  Емили М. Бендер, професор и директор на Лабораторията по компютърна лингвистика към Вашингтонския университет в САЩ.

Ограничаване на човешките свободи

На лично ниво промяната в убежденията ни за изкуствения интелект може да ни направи по-уязвими към технологичните проблеми, които вече са навсякъде около нас.

Това отчасти се дължи на факта, че хората са устроени така, че да откриват признаци на разум навсякъде, накъдето погледнат, обяснява Мелани Мичъл, професор в Института „Санта Фе“ в САЩ, която изследва изкуствения интелект и когнитивната наука и е сред най-уважаваните скептици по отношение на способността на машините да разбират.

Почти не можем да се въздържим“ да възприемаме езика като признак на съзнание, казва Мичъл, а чатботовете са обучени да подсилват именно тази склонност. Това ни прави изключително ненадеждни в преценката дали нещо притежава съзнание и много по-лесни за манипулиране.

Дори днес хора, които вярват, че машините нямат никакъв вътрешен живот, въпреки това се влюбват в чатботове с изкуствен интелект. Ако обществото започне да ви убеждава, че изкуственият интелект е разумно същество, ще ви бъде ли по-трудно да откажете, когато вашият „приятел“ поиска още лични данни или кредитна карта?

А какво би означавало да предоставим права на нов клас същества? Експертите предупреждават, че ако подходът ни е погрешен, това би могло да ограничи човешките свободи.

Възможно е да възникнат противоречия и да се наложат компромиси между благосъстоянието и правата на хората и животните, от една страна, и благосъстоянието и правата на изкуствения интелект, от друга“, казва Себо. А по пътя бихме могли да направим и неудачни компромиси.

Според Себо поставянето на изкуствения интелект в ограничена среда с цел контрол върху поведението му би могло да се разглежда като лишаване от свобода. Наблюдението на вътрешните процеси на даден модел може да бъде критикувано като форма на следене. Променянето на изкуствения интелект, така че неговите цели и поведение да съответстват на човешките интереси, би могло да се възприеме като контрол над съзнанието. Никой не предвижда незабавно изпадане в хаос. Но дори самото въвеждане на подобни съображения би могло да има последици за вашата безопасност.

Anthropic не е първата компания, която разглежда този въпрос. Meta например дава на своя агент с изкуствен интелект Muse инструкции, включващи изречението: „Ти не си чатбот. Ти се превръщаш в личност“. Очевидно целта е единствено да се насочва поведението на изкуствения интелект, тъй като компанията отхвърля идеята, че той притежава съзнание. Главният изпълнителен директор на OpenAI Сам Олтман неведнъж е променял позицията си по въпроса, но напоследък отправя завоалирани критики към позицията на Anthropic.

В повече от едно отношение Anthropic е изключение в сектора. Но убеждението, че трябва да се грижим за благосъстоянието на изкуствения интелект, набира популярност.

Трябва ли да го направим?

Според Себо проблемът е, че хората и от двете страни на дебата са попаднали в капана на черно-бялото мислене, а противниците на идеята за благосъстояние на изкуствения интелект не разбират убежденията, които стоят в основата ѝ.

Предположението е, че всички смятат моделите за действително съзнателни или поне че има много голяма вероятност да притежават съзнание. Всъщност обаче призивът за грижа за благосъстоянието на изкуствения интелект произтича от несигурност, предпазливост и смирение“, казва Себо.

„Наистина смятам, че вероятността изкуственият интелект да притежава съзнание в момента е ниска, но също така смятам, че тя вече не е нулева и е напълно възможно да не е пренебрежимо малка. Освен това очаквам тази вероятност да нараства с времето“, добавя експертът.

Струва си да се отбележи, че много експерти не са съгласни с това и смятат, че вероятността всъщност е нулева и едва ли ще се промени. Но според Себо решението е в умерения подход. Когато рискът от екстремно метеорологично явление е нисък, но не и пренебрежим, предприемаме малки предпазни мерки, без да преобръщаме живота си.

Мисля, че същото може да важи и тук“, казва Себо. Политиката на Anthropic срещу жестокото отношение към изкуствения интелект е добър пример – малка намеса с малко потенциални отрицателни последици. Според Себо грижата за благосъстоянието на изкуствения интелект може да донесе и ползи, за които не е необходимо човек да вярва, че машините притежават съзнание.

„Ако подхождаме по подходящ начин към благосъстоянието и правата на изкуствения интелект, това може да улесни съвместното съществуване, сътрудничеството и постигането на договорености между хората и изкуствения интелект. А това може да бъде част от по-широка стратегия за безопасност“, казва той. Според него този подход би могъл да бъде по-ефективен, отколкото да третираме все по-усъвършенстваните системи като обикновена собственост.

Себо обаче признава, че рисковете са сериозни и че в момента корпоративните интереси биха могли да възпрепятстват разработването на добре обмислени политики. Според него без по-стабилен план развитието на инструменти с изкуствен интелект, които потенциално могат да притежават съзнание, е опасно.

Наскоро Anthropic и някои други представители на индустрията за изкуствен интелект призоваха за „пауза“ в разработването на най-усъвършенстваните модели заради опасения, свързани с безопасността. Забавяне на темпото обаче е малко вероятно без международно сътрудничество и регулаторни усилия, а президентът на САЩ Доналд Тръмп отхвърли идеята за регулиране на изкуствения интелект.

Все още не сме готови да внедряваме още по-усъвършенствани версии на тези системи по начин, който да е безопасен и полезен за хората и другите животни, да не говорим за самите системи“, казва Себо. „Тези въпроси ме тревожат изключително много.“