Nvidia обяви много важно нововъведение – специалната технология за памет NVHBM. Плановете предвиждат тя да бъде достъпна както за партньорите в NVLink Fusion Link при разработването на собствени AI ускорители, така и за AI ускорителите, изградени около графичните процесори на Nvidia. И в двата случая технологията предлага значителни предимства спрямо стандартните подсистеми с памет HBM4E.
В основата на NVHBM е нова архитектура, при която контролерите на паметта вече не са разположени върху XPU кристала. Вместо да заемат ценна силициева площ върху кристалите, изпълнени с изчислителни блокове, те се преместват върху базовия кристал на стековете памет NVHBM. Това освобождава ценна площ върху XPU кристалите и позволява създаването на по-сложни AI ускорители с по-висока изчислителна производителност, тъй като по-голяма част от транзисторния им бюджет може да бъде отделена за изчислителни блокове.
Според Ian Cutress, изключително компетентен анализатор и дългогодишен водещ автор в вече закрития AnandTech, NVHBM на практика е важна стъпка от стандартизираните стекове HBM памет към архитектури, съобразени с конкретните изисквания на клиента. Те отварят редица нови възможности. В бъдеще за интереса на клиентите наред със стандартните стекове HBM памет ще се конкурират и HBM решения със специално разработени базови кристали, както и 3D памети с по-тясна интеграция с чиповете. Именно тези решения вероятно ще изместят широко използваните днес стандартни стекове HBM памет, тъй като архитектурите и базовите кристали, съобразени с конкретните нужди, ще предлагат множество предимства по отношение на изчислителната производителност, пропускателната способност на паметта и енергийната ефективност.
Според Nvidia при стековете памет NVHBM пропускателната способност на чип може да бъде увеличена с до 30 % спрямо стандартните HBM4E модели, а консумацията на енергия да бъде намалена с до 15 % спрямо обичайното за HBM4E чиповете ниво. Същевременно преработеният интерфейс на паметта ще позволи на клиентите да използват до 25 % повече силициева площ за XPU. Така върху същия кристал ще могат да се поберат повече компоненти, което според нуждите може да осигури по-висока изчислителна производителност и/или допълнителни функции.
По-тесният интерфейс на паметта може също да опрости конструкцията на интерпозера и да улесни прокарването на връзките. Така използваемата силициева площ в рамките на целия корпус може да се увеличи с до 80 %. Според Nvidia общата производителност на XPU може да нарасне с до 30 % благодарение на по-високата пропускателна способност на NVHBM, освободената силициева площ, която може да се използва за увеличаване на изчислителния капацитет, и по-енергийно ефективната работа на подсистемата с HBM памет.
Един от първите клиенти, които ще могат да се възползват от предимствата на NVHBM, ще бъде Annapurna Labs, която е част от Amazon. Компанията вече разработва AI ускорителя Trainium4, който може да предложи поддръжка на NVLink Fusion и NVLink 6. Това би му позволило да работи съвместно с AI ускорителите на Nvidia, базирани на графични процесори, в рамките на една и съща рак архитектура. Според плановете на Nvidia в бъдеще няколко производители на памет ще предлагат NVHBM чипове. Компанията обаче не разкри кое ще бъде първото поколение графични процесори в собствената ѝ гама, което ще се възползва от предимствата на NVHBM.
































