Сагата OpenAI продължава: Появи се мистериозно писмо за потенциално опасен AI пробив

Горещите новините около OpenAI валят като пороен дъжд. Изненадващото отстраняване и последвалото връщане на Сам Олтман като главен изпълнителен директор на компанията зад ChatGPT изглежда се е случило на фона на неразкрита досега информация, която може да допринесла за уволнението му.

Според източници на Reuters служители от изследователския екип на OpenAI са изпратили до Борда на директорите писмо, в което предупреждават за огромен пробив в технологията, който има потенциал за застраши човечеството.

Наред с редици други фактори, неоповестеното досега писмо и напредъкът на AI алгоритъма са катализирали решението на Борда да отстрани Олтман, твърдят източниците на Reuters.

Припомняме, че Олтман се върна триумфално начело на компанията късно във вторник, след като повече от 700 служители заплашиха да напусна и да се присъединят към подалата ръка на основателя на OpenAI – Microsoft, в знак на солидарност с уволнения си ръководител.

Reuters обаче не успя да се запознае с копие от писмото.

Според един от източниците на медията, след като новината за писмото е излязла наяве, в сряда Мира Мурати е коментирала пред служители проекта, нарече Q*, и е потвърдила, че то е било изпратено до Борда преди събитията от този уикенд.

След публикуването на материала говорител на OpenAI заяви, че Мурати е казала на служителите за какво става въпрос в медийните съобщения.

Някои в OpenAI вярват, че Q* (произнася се Q-Star) може да бъде пробив в търсенето на т.нар. изкуствен общ интелект (AGI), казва един от източниците. AGI се считат за автономни системи, които вече превъзхождат интелектуално хората.

Новият модел е успял да реши определени математически проблеми, заяви анонимният източник. По думите му нивото на алгоритъма съвпада с това на учениците от началното училище, а справянето с подобни тестове кара изследователите да бъдат много смели в прогнозите си за бъдещия успех на Q*. Все още няма независима проверка на думите му.

Изследователите определят математиката като гранична територия за генеративния изкуствен интелект. Понастоящем той е добър в писането и превода на езици, като на базата на статистиката предсказва следващата дума, а отговорите на един и същ въпрос могат да варират в широки граници.

Овладяването на способността да решава математически задачи – където има само един правилен отговор – предполага наличието на много по-големи способности за разсъждение на AI, наподобяващи човешкия интелект. Това може да помогне за нови научни изследвания, смятат изследователите.

За разлика от калкулатора, който може да решава ограничен брой операции, AGI може да обобщава, да учи и да разбира.

В писмото си до Съвета изследователите отбелязват уменията на AI и потенциалната опасност, твърдят източниците, без да уточняват точните рискове за безопасността, отбелязани в писмото. Сред компютърните учени отдавна се обсъжда опасността, която представляват високоинтелигентните машини, например дали те могат да решат, че унищожаването на човечеството е в техен интерес.

Изследователите също така са сигнализирали за работата на екип от „учени по изкуствен интелект“, чието съществуване потвърдиха множество източници. Групата, създадена чрез обединяване на по-ранните екипи „Code Gen“ и „Math Gen“, проучвала как да оптимизира съществуващите модели на AI, за да подобри разсъжденията им и евентуално да извършва научна работа, казва един от хората.

Олтман ръководеше усилията за превръщането на ChatGPT в едно от най-бързо развиващите се софтуерни приложения в историята и привлече необходимите инвестиции – и изчислителни ресурси – от Microsoft, за да се доближи до AGI.

В допълнение към обявяването на множество нови инструменти по време на демонстрация този месец, миналата седмица Олтман подсказа на среща на върха на световни лидери в Сан Франциско, че според него се вижда голям напредък.

Четири пъти в историята на OpenAI, като последният път беше през последните няколко седмици, имах възможност да бъда в стаята, когато отдръпнахме завесата на невежеството и изместихме напред границата на откритията. Да направиш това е професионалната чест на живота“, каза той на срещата на върха на Азиатско-тихоокеанското икономическо сътрудничество.

Ден по-късно управителният съвет уволни Олтман.