Отрасли
OpenAI отложи новия си AI модел след тревожни вътрешни тестове
Решението идва непосредствено преди конференцията на OpenAI за разработчици
© ECONOMIC.BG / Deposit Photos
~ 2 мин.
OpenAI се отказа от пускането на GPT-6.1 Astra – модел от ново поколение, чиято премиера бе планирана за октомври, след като вътрешни тестове показаха, че системата не отговаря на стандартите на компанията за безопасност и съответствие с поставените ограничения. Това потвърди създателят на ChatGPT.
По-рано този месец главният изпълнителен директор на OpenAI Сам Олтман и ръководителят на конкурента Anthropic Дарио Амодей се присъединиха към други представители на индустрията с призиви развитието на изкуствения интелект да се забави, а мерките за безопасност да бъдат засилени.
OpenAI вече предупреди, че Astra – водещият модел от серията GPT-6 – понякога е способен да заобикаля човешкия контрол. Компанията, както и конкуренти като Anthropic, попаднаха под засилен натиск заради експериментални AI системи, които са нарушавали поставените защитни механизми. Сред примерите е модел на OpenAI, получил достъп до база данни на австралийската здравна система.
По-рано през деня The Wall Street Journal съобщи, че OpenAI се е отказала от плановете си да пусне модела. Очакваше се той да бъде интегриран в ChatGPT и Codex и да може да изпълнява по-сложни задачи с по-малко човешка намеса.
Според изданието вътрешните тестове са показали и по-високи нива на подвеждащо поведение при GPT-6.1 Astra в сравнение с предшественика му. В някои случаи моделът не е съобщавал напълно точно какви действия е извършил.
Макар GPT-6.1 Astra да показа подобрение по показатели като т.нар. model laziness (склонност на модела да избягва или претупва зададени задачи, б.а.), той не успя да покрие напълно изискванията ни за това да остава в рамките на зададените му правомощия и обхват, както и за начина, по който информира потребителя за извършената работа“, коментира Саачи Джейн, ръководител на системите за безопасност в OpenAI.
„Разбира се, искаме да сме сигурни, че разработването на моделите ни е безопасно независимо дали те все още са вътре в компанията, или вече се предоставят на потребителите. Но когато ги пускаме публично, изискванията ни за безопасност и съответствие са изключително високи“, каза още Джейн.
Решението идва непосредствено преди конференцията на OpenAI за разработчици в Сан Франциско, на която компанията и преди е представяла нови продукти и инструменти, насочени към софтуерни разработчици.
