Сам Олтман предупреждава за „криза с измамите“ заради изкуствения интелект

Главният изпълнителен директор на OpenAI, Сам Олтман, казва, че светът може да е на прага на „криза с измамите“ заради начина, по който изкуственият интелект позволява на злонамерени лица да се представят за други хора, предава CNN Business.

„Нещо, което ме ужасява, е, че очевидно все още има някои финансови институции, които приемат гласов отпечатък като удостоверяване, за да прехвърлите много пари или да направите нещо друго – казвате нужната фраза и те просто го правят“, коментира Алтман.

Това е лудост, която все още се прави... Изкуственият интелект напълно е победил повечето от начините, по които хората се удостоверяват в момента, освен паролите.“

Коментарите са част от широкообхватното му интервю относно икономическото и общественото въздействие на изкуствения интелект във Федералния резерв във вторник. Той също така разказа на публиката, която включваше представители на големи американски финансови институции, за ролята, която изкуственият интелект се очаква да играе в икономиката.

Появата му идва в момент, когато се очаква Белият дом да публикува своя „План за действие относно изкуствения интелект“ през следващите дни – политически документ, който да очертае подхода към регулирането на технологията и насърчаването на господството на Америка в областта на изкуствения интелект.

OpenAI, която предостави свои препоръки за плана, засили присъствието си на и около Капитолийския хълм през последните месеци.

Във вторник компанията потвърди, че ще отвори първия си офис във Вашингтон в началото на следващата година, за да приюти приблизително 30-те си служители в града. Чан Парк, ръководител по глобалните въпроси на OpenAI за САЩ и Канада, ще ръководи новия офис заедно с Джо Ларсън, който напусна компанията за отбранителни технологии Anduril, за да стане вицепрезидент на правителството на OpenAI.

Компанията ще използва пространството, за да приема политици, да представя нови технологии и да предоставя обучения по AI, например на учители и държавни служители. То ще помещава и изследвания за икономическото въздействие на изкуствения интелект и как да се подобри достъпът до технологията.

Въпреки предупрежденията на Олтман относно рисковете, свързани с технологията, OpenAI призова администрацията на Тръмп да избягва регулации, които според нея биха могли да попречат на способността на технологичните компании да се конкурират с чуждестранните иновации в областта на AI. По-рано този месец Сенатът гласува за премахване на спорна разпоредба от законопроекта, която би попречила на щатите да прилагат закони, свързани с AI, в продължение на 10 години.

Криза с измамите

Олтман не е единственият, който се тревожи, че изкуственият интелект ще засили измамите.

ФБР предупреди за измамите с „клониране“ на глас и видео с изкуствен интелект миналата година. Много родители съобщиха, че гласовата технология с изкуствен интелект е била използвана при опити за измама с пари, като хора са били убеждавани, че децата им са в беда. А по-рано този месец американски служители предупредиха, че някой, използващ изкуствен интелект, се е представил с гласа на държавния секретар Марко Рубио пред външни министри, губернатор на САЩ и член на Конгреса.

Много съм нервен, че имаме предстояща, значителна, предстояща криза с измамите“, каза Алтман.

„Засега става въпрос за гласови обаждания; скоро ще бъде видео или FaceTime, което е неразличимо от реалността“, каза Олтман.

Той предупреди, че макар компанията му да не разработва такива инструменти за имитация, това е предизвикателство, с което светът скоро ще трябва да се справи, тъй като изкуственият интелект продължава да се развива. Олтман подкрепя инструмент, наречен The Orb, създаден от Tools for Humanity, който твърди, че ще предложи „доказателство за човечност“ в свят, където изкуственият интелект затруднява разграничаването на това кое и кой е истински онлайн.

Олтман също така обясни какво го държи буден през нощта: идеята злонамерени лица да създават и злоупотребяват със „суперинтелект“ с изкуствен интелект, преди останалият свят да е напреднал достатъчно, за да се защити от подобна атака – например, американски враг, използващ изкуствен интелект, за да атакува енергийната мрежа на страната или да създаде биологично оръжие.

Този коментар говори за страховете в Белия дом и другаде на Капитолийския хълм относно Китай, който изпреварва американските технологични компании в областта на изкуствения интелект.

Олтман също така каза, че се тревожи относно перспективата хората да загубят контрол над свръхинтелигентна система с изкуствен интелект или да дадат на технологията твърде много правомощия за вземане на решения. Различни технологични компании, включително OpenAI, се стремят към свръхинтелект с изкуствен интелект – и Олтман е казал, че смята, че през 30-те години на този век бихме могли да видим изкуственият интелект да стигне далеч отвъд това, на което хората са способни.

Влиянието на AI върху работните места?

Но Олтман каза, че не е толкова притеснен, колкото някои от колегите си в Силициевата долина, относно потенциалното въздействие на изкуствения интелект върху работната сила, след като лидери като изпълнителния директор на Anthropic Дарио Амодей и изпълнителния директор на Amazon Анди Джаси предупредиха, че технологията ще отнеме работни места.

Вместо това Олтман вярва, че „никой не знае какво ще се случи след това“.

Има много от тези наистина умно звучащи прогнози“, каза той. „Но никой не знае със сигурност. Според мен това е твърде сложна система, това е твърде нова и въздействаща технология, много е трудно да се предвиди.“

Той добави, че докато „цели класове работни места ще изчезнат“, ще се появят нови видове работа. И Олтман повтори предсказание, което е правил и преди, че ако светът можеше да гледа напред 100 години, работниците на бъдещето вероятно нямаше да имат това, което работниците днес смятат за „истинска работа“.

Имате всичко, от което евентуално бихте могли да се нуждаете. Нямате какво да правите“, каза Олтман за бъдещата работна сила. „Значи си измисляте работа, за да играете глупава игра на статут, да запълвате времето си и да се чувствате полезни за другите хора.“

Изглежда Олтман смята, че не трябва да се тревожим за това, че AI отнема работни места, защото в бъдеще така или иначе няма да имаме нужда от работа, въпреки че не уточни как бъдещите инструменти s изкуствен интелект, например, биха могли надеждно да водят дело в съда, да почистват нечии зъби или да строят къща.

Във връзка с речта на Олтман, OpenAI публикува доклад, съставен от главния икономист Рони Чатерджи, в който се очертават ползите за производителността от ChatGPT за работниците.

В доклада Чатерджи, който се присъедини към OpenAI като първи главен икономист, след като беше координатор на Закона за CHIPS и науката в Белия дом по времето на Байдън, сравни изкуствения интелект с трансформиращи технологии, като електричеството и транзистора. Той каза, че ChatGPT вече има 500 милиона потребители в световен мащаб.

Сред американските потребители 20% използват ChatGPT като „персонализиран учител“ за „обучение и повишаване на квалификацията“, според доклада, въпреки че не се уточнява какви неща хората учат чрез услугата.

Чатерджи също така отбеляза, че повече от половината американски потребители на ChatGPT са на възраст между 18 и 34 години, „което предполага, че може да има дългосрочни икономически ползи, тъй като те продължават да използват инструменти с изкуствен интелект на работното място в бъдеще“.

През следващата година Чатерджи планира да работи с икономистите Джейсън Фърман и Майкъл Стрейн по проучване на въздействието на изкуствения интелект върху работните места и работната сила в САЩ. Тази работа ще се проведе в новия офис във Вашингтон, окръг Колумбия.