„Състезание, което е невъзможно да спрем“: Опасен ли е изкуственият интелект?

Миналият понеделник виден, британски учен хвърли граната в трескавия мравуняк на изследователи и корпорации, които в момента са обсебени от изкуствения интелект. Ученият бе Джефри Хинтън и бомбата бе новината, че той напуска Google, където вършеше страхотна работа по машинно обучение през последните 10 години. Той искаше свобода да изрази страховете си относно бъдещето на технология, в която самият Хинтън има огромен принос, пише The Guardian.

Да се каже, че това е голяма новина, би било епично подценяване. Технологичната индустрия е огромен, възбудим звяр, който понякога е склонен към изблици на „ирационално изобилие“, т.е. лудост. Един неотдавнашен пристъп включваше криптовалути и визия за бъдещето на интернет, наречена „Web3“, която проницателен млад блогър и критик, Моли Уайт, запомнящо се описва като

огромна измама, която излива по-лека течност върху нашата вече тлееща планета“.

В момента сме в плен на друго избухване на изобилие, предизвикано от „Generative AI“ – чатботове, големи езикови модели (LLM) и други екзотични артефакти, активирани от масовото внедряване на машинно обучение – което индустрията сега разглежда като бъдещето.

Наскоро повече от 27 000 души – включително много, които са запознати с технологията – станаха толкова разтревожени от бързината на Gadarene към машинно управлявана дистопия, че излязоха отворено писмо, призоваващо за шестмесечна пауза в развитието на технологията.

Усъвършенстваният AI може да представлява дълбока промяна в историята на живота на Земята“, се казва в него, „и трябва да бъде планиран и управляван със съразмерна грижа и ресурси.“

Технологичните гиганти, които имат дълга история на безразличие към нуждите на обществото, са надушили нова възможност за световно господство и няма да позволят на група нервни интелектуалци да застанат на пътя им. Ето защо намесата на Хинтън беше толкова значима. Защото той е човекът, чиито изследвания отключиха технологията, която сега е свободна в света, за добро или лошо. И това е доста убедителна причина да седнете и да обърнете внимание на думите му.

Интелектуално родословие на Хинтън

Той е наистина забележителна фигура. Ако има такова нещо като интелектуално родословие, тогава Хинтън е чистокръвен по тази линия. Баща му, ентомолог, бе член на Кралското общество. Неговият пра-пра-дядо е Джордж Бул, математикът от 19-ти век, който изобретява логиката, която е в основата на всички цифрови изчисления.

Неговият прадядо е Чарлз Хауърд Хинтън, математикът и писател, чиято идея за „четвъртото измерение“ се превърна в основен елемент от научната фантастика и завърши във филмите за супергерои на Marvel от 2010 г. А неговата братовчедка, ядреният физик Джоан Хинтън, бе една от малкото жени, работили по военния проект Манхатън в Лос Аламос, който произведе първата атомна бомба.

Хинтън е бил обсебен от изкуствения интелект през целия си зрял живот и особено в проблема как да се изградят машини, които могат да учат. Един ранен подход към това бе създаването на „персептрон“ – машина, моделирана върху човешкия мозък и базирана на опростен модел на биологичен неврон. През 1958 г. професор от Корнел, Франк Розенблат, всъщност изгради такова нещо и за известно време невронните мрежи бяха гореща тема в тази област.

Но през 1969 г. беше публикувана опустошителна критика от двама учени от Масачузетския технологичен институт, Марвин Мински и Сиймор Пейпърт... и внезапно невронните мрежи се превърнаха в история от вчера.

Освен че един упорит изследовател – Хинтън – е убеден, че те държат ключа към машинното обучение. Както казва технологичният репортер на New York Times Кейд Мец,

Хинтън остана един от малкото, които вярваха, че един ден ще изпълни обещанието си, създавайки машини, които не само могат да разпознават обекти, но и да идентифицират изговорени думи, да разбират естествения език, да водят разговор, и може би дори да решава проблеми, които хората не могат да решат сами”.

През 1986 г. той и двама негови колеги от Университета на Торонто публикуваха забележителна статия, показваща, че са разбили проблема с позволяването на невронна мрежа да стане постоянно подобряваща се, използвайки математическа техника, наречена „обратно разпространение“. И с хитър ход Хинтън кръщава този подход „задълбочено обучение“, запомняща се фраза, за която журналистите могат да се хванат. (Те отговориха, като го описаха като „кръстника на ИИ“, което е грубо дори по стандартите на таблоидите.)

През 2012 г. Google плати 44 милиона долара за новосъздадената компания, която той основа с колегите си, и Хинтън отиде да работи за технологичния гигант, като в процеса ръководи и вдъхновява група изследователи, извършващи голяма част от последващата новаторска работа, която компанията направи.

По време на престоя си в Google Хинтън беше доста неангажиращ (поне публично) относно опасността технологията да ни отведе в дистопично бъдеще. „До съвсем наскоро“, каза той, „мислех, че тази екзистенциална криза е далече. Така че наистина не съжалявам за това, което направих.“

Но сега, когато отново стана свободен човек, той очевидно е по-притеснен. В интервю миналата седмица той започна да обяснява защо. В основата на тревогата му беше фактът, че новите машини се обучават много по-добре и по-бързо от хората.

Обратното разпространение може да е много по-добър алгоритъм за обучение от това, което имаме. Това е страшно... Имаме цифрови компютри, които могат да научат повече неща по-бързо и те могат незабавно да ги учат един от друг. Сякаш хората в стаята биха могли незабавно да прехвърлят в главата ми това, което имат в тяхната.“

Още по-интересното обаче е намекът, че това, което наистина го тревожи, е фактът, че тази мощна технология е изцяло в ръцете на няколко огромни корпорации. Миналата година Хинтън каза на Мец, журналиста на Times, който го е профилирал, „Google действаше като подходящ стопанин на технологията, внимавайки да не пусне нещо, което може да причини вреда.“

Но сега, след като Microsoft разшири своята търсачка Bing с чатбот – предизвиквайки основния бизнес на Google – Google се надпреварва да внедри същия вид технология. Технологичните гиганти са вкарани в конкуренция, която може да е невъзможно да бъде спряна.“

Той е прав. Движим се в непозната територия.