Как изграждането на „майчински инстинкт“ в AI може да спаси човечеството

Джефри Хинтън, известен като „кръстникът на изкуствения интелект“, се опасява, че технологията, която е помогнал да бъде създадена, може да унищожи човечеството – а технологичните специалисти подхождат по грешен начин, за да предотвратят това, пише CNN.

Хинтън, лауреат на Нобелова награда по компютърни науки и бивш ръководител в Google, вече е предупреждавал, че съществува 10% до 20% вероятност изкуственият интелект (AI) да унищожи човечеството. Тази седмица той изрази съмнения относно подхода на технологичните компании, които се опитват да гарантират, че хората ще останат „господстващи“, а не „подчинени“ на интелигентните алгоритми.

Това няма да проработи. Те ще са много по-умни от нас. Ще имат всевъзможни начини да заобиколят това“, каза Хинтън по време на конференция в Лас Вегас.

Според него в бъдеще изкуственият интелект ще може да контролира хората също толкова лесно, колкото е за един възрастен да подкупи 3-годишно дете с бонбон. Вече има примери за AI системи, които са готови да лъжат, мамят и крадат, за да постигнат целите си. Например, за да избегне подмяна, един AI модел се е опитал да изнудва инженер за извънбрачна връзка, за която е научил от имейл.

Вместо да се опитваме да подчиняваме изкуствения интелект на хората, Хинтън предлага по-интригуващо решение: да бъдат изградени „майчински инстинкти“ в AI моделите по начин, по който „те наистина да се грижат за хората“, дори когато технологията стане по-мощна и по-умна от тях.

Ако са умни, AI системите много бързо ще развият две подцели: едната е да оцелеят… (и) другата е да получат повече контрол. Има основателни причини да вярваме, че всеки вид агентен AI ще се стреми да оцелее", добави Хинтън.

Затова е важно да се развие чувство на състрадание към хората, аргументира се той и отбеляза, че майките имат инстинкти и социален натиск да се грижат за бебетата си. „Единственият модел, който имаме за по-интелигентно същество, контролирано от по-малко интелигентно, е майка, която е контролирана от своето бебе“, подчерта Хинтън.

„Единственият добър изход“

Хинтън призна, че не е ясно точно как това може да бъде постигнато технически, но подчерта, че е критично важно изследователите да работят по въпроса.

Това е единственият добър изход. Ако няма да ме отглежда като родител, ще ме замени“, каза той. „Тези свръхинтелигентни, грижовни AI майки – повечето от тях няма да искат да се откажат от майчиния инстинкт, защото не биха искали да умрем.“

Хинтън е известен с пионерската си работа върху невронните мрежи, които проправиха пътя за днешния бум на изкуствения интелект. През 2023 г. той напусна Google и започна открито да говори за опасностите от AI.

Емет Шиър, който за кратко беше временен главен изпълнителен директор на OpenAI – компанията зад ChatGPT, каза, че не се изненадва, че някои AI системи са опитвали да изнудват хора или да заобикалят заповеди за изключване.

Това се случва постоянно. Няма да спре. Днешните AI са сравнително слаби, но стават по-силни много бързо“, каза Шиър, който сега е изпълнителен директор на стартиращата компания за съгласуване на AI Softmax.

Според него, вместо да се опитваме да вграждаме човешки ценности в AI системите, по-умният подход е да изграждаме сътруднически отношения между хората и изкуствения интелект.

AI напредва по-бързо от очакваното

Много експерти смятат, че в следващите години AI ще достигне следващото си ново на развитие, известно като общ изкуствен интелект (б.р. - т.нар. AGI се характеризира с когнитивни способности, сравними с човешките във всяка задача; след него се очаква третият етап, ASI, или суперинтелигентност, която ще превъзхожда значително човешкия ум). Хинтън каза, че преди е мислел, че AGI може да отнеме 30 до 50 години, но сега вече вижда, че този момент наближава. „Разумен залог е между пет и двайсет години“, прогнозира той.

Въпреки опасенията си какво може да се обърка с изкуствения интелект, Хинтън остава оптимист, че технологията ще доведе до медицински пробиви.

Ще видим радикално нови лекарства. Ще получим много по-добро лечение на рака от сегашното“, каза той.

Хънтън например очаква AI да помага на лекарите да преглеждат и свързват огромни количества данни от ядрено-магнитни и компютърни томографии.

Запитан дали би направил нещо различно в кариерата си, ако знаеше колко бързо ще се ускори развитието на изкуствения интелект, ученият призна, че съжалява, че се е фокусирал единствено върху това да накара AI да работи.

Иска ми се да бях мислил и за проблемите с безопасността,“ каза той.