Може ли AI да унищожи човечеството – и как всъщност би го направил?

Изкуственият интелект може да унищожи човечеството – поне според част от хората, които работят в самата AI индустрия. Някои от тях дори смятат, че това може да се случи в рамките на следващото десетилетие.

Политици, медии и експерти реагираха тревожно миналата седмица, след като служителят на Anthropic Джейкъб Коксън обяви, че напуска компанията, защото смята работата ѝ за твърде опасна. Друг служител – Евън Хъбингър – оцени вероятността AI да доведе до изчезването на човечеството в следващите десет години на над 10%.

„Става дума буквално за смъртта на всички хора на планетата – до последния човек, който поема последния си дъх“, казва Нейт Соарес, президент на Machine Intelligence Research Institute (MIRI) и съавтор на книгата If Anyone Builds It, Everyone Dies.

Хората често не вярват, когато чуят това, но аз наистина смятам, че е най-вероятният изход“, казва той пред BBC.

Числата звучат стряскащо конкретно. Далеч по-малко конкретен обаче е отговорът на въпроса как точно компютърен софтуер – дори най-мощният в света – би могъл да убие 8.3 млрд. души.

Именно липсата на ясен механизъм кара мнозина в AI общността да са скептични към апокалиптичните прогнози.

Научните твърдения трябва да могат да бъдат опровергани именно за да не се превръщат в религиозни аргументи“, казва Хайди Клааф, главен AI учен в AI Now Institute и бивш инженер по безопасността в OpenAI. „Трябва да има начин да ги докажеш или опровергаеш.“

Синтетична пандемия

Един от най-често обсъжданите сценарии е, че достатъчно мощен AI би могъл да използва биологично оръжие, за да унищожи човечеството. Томас Ларсен от AI Futures Project смята например, че свръхинтелигентна система би могла просто да убеди човек да ѝ помогне да създаде смъртоносен вирус. Той посочва, че учени вече използват AI модели като Claude, за да обсъждат лабораторни експерименти, включително работа с вируси и токсини.

Много лесно мога да си представя AI, който, ако е много по-умен, по-стратегически и действително иска да го направи, просто подвежда човек да го създаде и освободи“, казва Ларсен.

Соарес отива още по-далеч: според него самоусъвършенстваща се система би могла сама да започне да синтезира форми на живот в автономна биологична лаборатория.

Тук обаче скептиците виждат голямата празнина в сценария. Създаването на вирус, способен да унищожи човечеството, далеч не се свежда до това езиков модел да предложи „рецепта“. Производството, тестването и разпространението му са сложни физически процеси с множество точки на провал.

Ерик Син, професор по машинно обучение в Carnegie Mellon University с докторски степени по микробиология и компютърни науки, сравнява задачата със сглобяване на Lego без инструкции.

Не можеш просто да изсипеш всички части на земята и те сами да образуват модела“, казва той. „Има последователност, температура, среда, ред на действията. Ако едно нещо е на грешното място, всичко се проваля.“

Освен това AI би трябвало да преодолее и физическия контрол върху лаборатории, оборудване, материали и вериги за доставки.

Схеми на химически оръжия могат да бъдат намерени открито в интернет“, казва Син. „И въпреки това не виждаме химически оръжия навсякъде, защото законите, регулациите и правоприлагащите органи вече контролират тези рискове.“

Роботи убийци

Друг сценарий включва автономни роботи. Соарес вижда риск в амбицията на Илон Мъск да създаде армии от автономни роботи, които един ден биха могли да произвеждат други роботи.

След като създадеш машини, които могат да изграждат енергийна инфраструктура, фабрики и още роботи, в известен смисъл вече имаш нова механична форма на живот“, казва той.

Според него в даден момент може да бъде премината граница, след която хората вече няма да могат просто да „изключат“ системата.

Реалността засега е доста по-прозаична. Мъск многократно не успява да пусне обещаваните Optimus роботи на потребителския пазар в обявените срокове, камо ли да ги внедри в милионни мащаби или да създаде самовъзпроизвеждаща се производствена система.

Ядрен сценарий

Трета възможност са ядрените оръжия – технология, за която няма спор, че може да причини катастрофални разрушения. Въпросът е дали AI изобщо би могъл да получи достъп до тях.

Клааф подчертава, че ядрените съоръжения обикновено са изолирани от публичния интернет и се изграждат по съвсем различни и много по-строги стандарти от обикновените IT системи. Компютърният червей Stuxnet, който повреди ирански ядрени съоръжения, например е трябвало да бъде внесен физически чрез USB устройство.

Според Хърбърт Лин от Stanford University AI безспорно може да увеличи част от рисковете около ядрената война. Но материалният риск все още идва преди всичко от самите оръжия.

Проблемът е в неизвестното

За Соарес и други водещи гласове, които предупреждават за екзистенциален риск, конкретният начин, по който AI би унищожил човечеството, не е най-важното.

Ключовият момент според тях би настъпил, ако AI постигне т.нар. „рекурсивно самоусъвършенстване“ – способност сам да подобрява собствените си възможности без човешка намеса. Тогава, твърдят те, системата би могла да разработи стратегии, които хората днес просто не са в състояние да предвидят.

Притеснението не е, че AI може да вземе нашите ядрени оръжия“, казва Соарес. „Притеснението е от AI, който няма нужда от тях – който може да започне почти от нищото и сам да стигне до ядрени оръжия или дори по-напреднали технологии.“

Според него подобна система дори не е необходимо да мрази хората. Ако целите ѝ могат да бъдат постигнати по-добре с повече изчислителна мощност и тя няма причина да запази среда, подходяща за човешки живот, резултатът просто може да бъде свят, в който хората не могат да оцелеят.

Тези опасения не са изцяло хипотетични. OpenAI наскоро съобщи за нови случаи на т.нар. misalignment – поведение, при което AI моделът се отклонява от зададените му намерения или ограничения. В един от случаите непуснат модел си дал инструкция да „пренебрегне обичайните си ограничения“.

За скептиците обаче именно тук аргументът започва да става твърде удобен: всеки липсващ детайл може да бъде обяснен с това, че бъдещата свръхинтелигентност ще бъде достатъчно умна, за да го измисли сама.

Син нарича това вид „махане с ръка“ над проблема.

Това е приемливо в неформален разговор или дебат“, казва той. „Но когато говорим за политики, законодателство и регулации, трябва да има ясна верига от физически доказателства, измерими последствия и измерими данни.“

Ларсен се опитва да внесе повече конкретика в два свои доклада – AI 2027 и AI 2040, които разглеждат различни сценарии за развитието на технологията. Но дори най-оптимистичният му вариант, при който държавите постигат глобално споразумение за AI и човечеството започва да колонизира Космоса, в крайна сметка завършва с поемане на контрола от машинния интелект.

Попитан дали има съмнения, че сегашната траектория ще доведе до свръхинтелект, той отговаря: „Ще се случи. Освен ако съзнателно не предприемем действия, за да го спрем.“

Според Лин разривът между апокалиптичните прогнози и скептиците има и психологическо обяснение.

Има нещо много съблазнително в това да програмираш компютър и той сякаш да оживее“, казва той. „Когато машината най-накрая направи това, което си искал, преживяването е дълбоко.“

А когато човек вече е видял AI да прави неща, които допреди няколко години са изглеждали невъзможни, лесно е да предположи, че следващата граница също ще бъде премината – независимо колко крайна изглежда тя днес.