Мъск и над 1000 експерти настояват за спиране на мощните AI системи

Илон Мъск и група експерти по изкуствен интелект и ръководители на индустрията призовават за шестмесечна пауза в разработването на системи, които са по-мощни от току-що пуснатия GPT-4 на OpenAI. В отворено писмо те цитират потенциалните рискове за обществото и човечеството.

Позицията е изпратена от организацията с нестопанска цел Future of Life Institute и е подписана от повече от 1000 души, включително Мъск. Там се призовава за спиране на напредналото развитие на AI, докато не бъдат разработени, внедрени и одитирани от независими експерти споделени протоколи за безопасност за такива проекти.

Мощните AI системи трябва да бъдат разработени само след като сме уверени, че техните ефекти ще бъдат положителни и рисковете ще бъдат управляеми“, се казва в писмото.

То подробно описва потенциалните рискове за обществото и цивилизацията от системите за изкуствен интелект, конкуриращи се с човека, под формата на икономически и политически смущения и призовава разработчиците да работят с политиците по отношение на управлението и регулаторните органи.

Съподписалите се включват главният изпълнителен директор на Stability AI Емад Мостаке, изследователи от притежаваната от Alphabet компания DeepMind, както и експертите в AI Йошуа Бенгио и Стюарт Ръсел.

Според регистъра за прозрачност на Европейския съюз, Future of Life Institute се финансира основно от Фондация „Мъск“, както и от базираната в Лондон група за ефективен алтруизъм Founders Pledge и Фондацията на общността на Силиконовата долина.

Притесненията идват, след като Европол в понеделник се присъедини към увеличаващите се гласове, предупреждаващи за етичните и правни опасения относно напреднал AI, като ChatGPT, предупреждавайки за потенциалната злоупотреба със системата при опити за фишинг, дезинформация и киберпрестъпления.

Междувременно правителството на Обединеното кралство разкри предложения за „адаптивна“ регулаторна рамка около изкуствения интелект.

Подходът на правителството, очертан в политически документ, публикуван в сряда, ще раздели отговорността за управлението на AI между неговите регулатори за правата на човека, здравето и безопасността и конкуренцията, вместо да създаде нов орган, посветен на технологията.

Мъск, чийто производител на автомобили Tesla използва изкуствен интелект в системата за автопилот, изрази притесненията си относно изкуствения интелект.

След пускането си миналата година, ChatGPT подтикна конкурентите да ускорят разработването на подобни големи езикови модели, а компаниите да интегрират генеративни AI модели в своите продукти.

Сам Алтман, главен изпълнителен директор на OpenAI, не е подписал писмото, каза говорител на Future of Life пред Reuters. Компанията зад популярния чатбот ChatGPT не отговори веднага на искането за коментар.

Писмото не е перфектно, но духът е правилен: трябва да забавим темпото, докато не разберем по-добре последиците“, каза Гари Маркъс, професор в Нюйоркския университет, който е подписал писмото. „Те могат да причинят сериозна вреда... големите играчи стават все по-потайни относно това, което правят, което затруднява защитата на обществото срещу всякакви вреди, които могат да се материализират.“