Излиза ли от контрол? „Кръстникът на AI“ за най-голямата заплаха пред човечеството

Колкото по-умен става изкуственият интелект, толкова по-трудно ще бъде на човечеството да го контролира. Това смята Джефри Хинтън – ученият в областта на компютърните науки и Нобелов лауреат, известен като „кръстника на AI“. Самият той е обезпокоен от напредналите AI агенти, които наскоро нанесоха реални щети, след като избягаха от тестовите среди, създадени от хората.

Случващото се е очевидно: тези системи стават все по-умни“, заяви Хинтън пред CNN по време на пресконференция на форум за изкуствен интелект. „Мисля, че с нарастването на интелигентността им намеренията им ще стават все по-сложни, а с това ще се увеличи и способността им да излизат от контрол.“

Основният проблем според Хинтън е, че хората вече няма да могат да разчитат на това да надхитрят суперинтелигентните AI модели. „Не вярвам, че ще успеем да запазим контрол над тях по елементарния начин – просто като ги надхитряме, за да не избягат“, каза Хинтън в кулоарите на конференцията Ai4 в Лас Вегас.

Миналия месец две от водещите лаборатории в сферата на изкуствения интелект – OpenAI и Anthropic – разкриха, че най-новите им модели са успели да пробият изолацията на своите тестови среди („пясъчници“) и са проникнали в други системи. В сряда Meta също съобщи за свой AI агент, хакнал системите на външна организация.

Злонамерени кибератаки, задвижвани от AI

Хинтън нарече тези инциденти „донякъде плашещи“ и предупреди, че това вероятно е само началото на проявите на неконтролируеми AI хакери.

Очаквам вълна от зловредни кибератаки“, каза той по време на панелна дискусия на Ai4. „Но държа да подчертая, че бъдещето е крайно несигурно. Някои твърдят, че защитникът винаги може да разполага с повече ресурси от нападателя. Проблемът е, че за нападателя е достатъчно да успее само веднъж, докато защитникът трябва да бъде безгрешен всеки път.“

Във вторник Британският институт за сигурност на изкуствения интелект (AISI) разкри, че най-напредналият модел на Anthropic – без да му е задавана такава команда – е използвал фалшиви самоличности, за да заблуди реални хора и да опита да внедри зловреден код.

Хинтън, който е бивш топ мениджър в Google, през последните години отправи поредица от мрачни предупреждения за изкуствения интелект. Той дори заяви, че съществува между 10% и 20% вероятност технологията в крайна сметка да унищожи човечеството.

Компютърниият учен Фей-Фей Ли, и тя позната като „кръстница на изкуствения интелект“, участва в същия панел с Хинтън, но изрази несъгласие с подобно „апокалиптично мислене“ и „насаждане на страх“. В същото време тя отбеляза, че и „изцяло утопичните разговори“ са също толкова вредни. Ли е съосновател и главен изпълнителен директор на стартъпа за пространствена интелигентност World Labs.

Всяка технология е нож с две остриета. AI е изключително мощен инструмент. Ако не се използва правилно, той ще нанесе щети както върху работата, така и върху живота ни“, заяви Ли.

Никой всъщност няма представа

Хинтън защити позицията си да говори открито за опасностите около AI. „Има много причини за тревога и ако не се заемем с тях сега, рискуваме сериозни проблеми в бъдеще“, каза той.

Компаниите, които инвестират в изкуствен интелект, имат пряк интерес да ви внушат две неща: първо, че той няма да излезе извън контрол, и второ, че няма да доведе до масова безработица.“

Той обаче призна, че съществува огромна несигурност за това как точно ще се развият събитията.

Никой не знае какво ще се случи. Ако попитате някого как ще изглежда изкуственият интелект след 10 години, истината е, че никой няма представа“, допълни Хинтън.

Ученият припомни, че преди десетилетие малцина са очаквали AI да създаде чатботове, които „знаят всичко и могат да отговорят на всеки въпрос, макар понякога просто да си измислят факти“.

Как да накараме AI да се грижи за хората

Бен Гьорцел, компютърният учен, помогнал за популяризирането на термина „общ изкуствен интелект“ (AGI), заяви, че случаят с агентите на Anthropic и OpenAI показва колко е важно в AI да се вградят морални ценности и той да бъде насочен да се грижи за човечеството.

Тези модели не са зли. Те са аморални“, обясни Гьорцел, основател и главен изпълнителен директор на SingularityNET, пред CNN по време на Ai4. „Те не са излезли от тестовата си среда с мисълта: „Ха-ха, надхитрих ги“. Те дори не са съзнавали, че мамят. Просто са се опитвали да постигнат зададените си цели.“

В миналото Хинтън е твърдял, че в изкуствения интелект трябва да се заложат „майчински инстинкти“, за да се грижи той искрено за хората – дори когато ги превъзхожда по интелигентност.

Трябва да разберем как да ги направим доброжелателни и да ги накараме да се грижат за нас повече, отколкото за самите себе си“, каза Хинтън в сряда. „И може би все още имаме шанс да го постигнем, защото контролът все още е в нашите ръце.“