Nvidia пусна в масово производство 5 пъти по-мощния си AI чип

Главният изпълнителен директор на Nvidia, Дженсън Хуанг, заяви в понеделник, че следващото поколение чипове на компанията е в „пълномащабно производство“ и може да осигури пет пъти повече изчислителна мощ за изкуствен интелект в сравнение с предишните модели на компанията при обслужване на чатботове и други AI приложения.

В реч по време на изложението Consumer Electronics Show (CES) в Лас Вегас ръководителят на най-скъпата компания в света разкри нови подробности за чиповете, които ще излязат по-късно тази година и които, по думите му, вече се тестват в лабораториите на компанията от AI фирми. Това се случва на фона на нарастваща конкуренция както от страна на традиционни съперници, така и от самите клиенти на Nvidia.

Платформата Vera Rubin, съставена от шест отделни чипа на Nvidia, се очаква да дебютира по-късно тази година, като флагманският сървър ще съдържа 72 графични процесора на компанията и 36 от новите ѝ централни процесори. Хуанг показа как те могат да бъдат свързвани в „подове“ с над 1000 чипа Rubin и заяви, че това може да подобри ефективността при генерирането на т.нар. „токени“ – основната единица на AI системите – десетократно.

За да се постигнат тези нови резултати по отношение на производителността обаче, Хуанг каза, че чиповете Rubin използват собствен, патентован тип данни, който компанията се надява по-широката индустрия да възприеме.

Това е начинът, по който успяхме да постигнем толкова гигантски скок в производителността, въпреки че разполагаме само с 1.6 пъти повече транзистори“, каза Хуанг, цитиран от Reuters.

Докато Nvidia все още доминира пазара за обучение на AI модели, тя е изправена пред много по-сериозна конкуренция – както от традиционни съперници като Advanced Micro Devices (AMD), така и от клиенти като Google – при доставянето на резултатите от тези модели до стотици милиони потребители на чатботове и други технологии.

Голяма част от речта на Хуанг беше фокусирана върху това колко добре новите чипове ще се справят именно с тази задача, включително чрез добавянето на нов слой технология за съхранение, наречен „context memory storage“, който има за цел да помогне на чатботовете да дават по-бързи отговори на дълги въпроси и разговори.

Nvidia също така представи ново поколение мрежови суичове с нов тип връзка, наречена co-packaged optics. Тази технология, която е ключова за свързването на хиляди машини в една система, се конкурира с решенията на Broadcom и Cisco Systems.

От Nvidia съобщиха, че CoreWeave ще бъде сред първите компании, които ще разполагат с новите системи Vera Rubin, и че очакват Microsoft, Oracle, Amazon и Alphabet също да ги възприемат.

В други анонси Хуанг акцентира върху нов софтуер, който може да помага на самоуправляващите се автомобили да вземат решения за това по кой път да поемат – и да оставя „хартиена следа“, която инженерите да използват впоследствие. Nvidia показа изследвания за софтуера, наречен Alpamayo, още в края на миналата година, като Хуанг заяви в понеделник, че той ще бъде пуснат за по-широка употреба заедно с данните, използвани за обучението му, за да могат автомобилните производители да правят оценки.

Ние не само отваряме кода на моделите, но и отваряме данните, които използваме, за да обучаваме тези модели, защото само по този начин можете наистина да се доверите на това как са създадени моделите“, каза Хуанг от сцената в Лас Вегас.

Миналия месец Nvidia привлече таланти и технологии за чипове от стартъпа Groq, включително ръководители, които са изиграли ключова роля в това Alphabet да помогне на Google да проектира собствените си AI чипове. Макар Google да е основен клиент на Nvidia, собствените му чипове се очертаха като една от най-големите заплахи за Nvidia, тъй като Google работи тясно с Meta Platforms и други компании, за да подкопае доминацията на Nvidia в областта на AI.

По време на сесия с въпроси и отговори с финансови анализатори след речта си Хуанг заяви, че сделката с Groq „няма да засегне основния ни бизнес“, но може да доведе до нови продукти, които да разширят продуктовата линия на компанията.

В същото време Nvidia е нетърпелива да покаже, че най-новите ѝ продукти могат да надминат по-старите чипове, като H200, които президентът на САЩ Доналд Тръмп е позволил да бъдат изнасяни за Китай. Reuters съобщи, че този чип, който е предшественик на настоящия Blackwell на Nvidia, е с изключително високо търсене в Китай, което е разтревожило „ястребите“ по отношение на Китай в целия политически спектър на САЩ.

Хуанг заяви пред финансови анализатори след основната си реч, че търсенето на чиповете H200 в Китай е силно, а главният финансов директор Колет Крес каза, че Nvidia е подала заявления за лицензи за износ на чиповете за Китай, но изчаква одобрения от правителството на САЩ и други правителства, за да може да ги доставя.