JEDEC завърши интересен стандарт за памет, чиято основна цел е чрез нестандартни решения да намали разходите за подсистемата за памет на AI ускорителите, използващи HBM. Това обаче изисква известни компромиси, което подсказва, че SPHBM4 ще бъде по-скоро интересно допълнение, отколкото конкурент на стандартите HBM4/HBM4E.
Стандартът Standard Package High Bandwidth Memory, обозначен като JESD330-4, е предназначен преди всичко да замени скъпите и сложни технологии за корпусиране на чипове. Производственият капацитет за тях е ограничен, което силно ограничава и броя чипове, които могат да бъдат произведени с тях — такъв пример е технологията CoWoS на TSMC. При SPHBM4 също се подреждат DRAM кристали един върху друг, така че обичайните вертикални връзки през силиция (TSV) остават необходими. Под стековете памет обаче няма да се поставя скъп и сложен интерпозер, изискващ усъвършенствани технологии за корпусиране и скъпи материали, а значително по-евтин за изработка базов слой от органични материали. Той ще може да използва много по-тясна шина за памет — само 512 бита вместо обичайните 2.048 бита.
За да се запази характерната за стековете HBM4 пропускателна способност въпреки по-тясната шина, скоростта на предаване на данни се увеличава значително. Тя ще бъде между 22,4 GT/s и 46 GT/s, докато стандартните чипове HBM4 работят само с 8 GT/s, а при HBM4E се очакват около 12 GT/s. Стандартните чипове HBM4E осигуряват пропускателна способност от 3 TB/s чрез своята 2.048-битова шина. При SPHBM4 съответната стойност е 2,944 TB/s при скорост от 46 GT/s, която със сигурност няма да бъде достижима в началото.
Как SPHBM4 постига такава скорост с 512-битова шина за памет? Чиповете SPHBM4 разполагат с общо 32 DDR канала за памет с ширина 16 бита, които системата може да използва като осем групи Quad Channel. При стековете HBM4 всеки чип използва вътрешно общо 32 канала за памет, всеки с ширина 64 бита, откъдето се получава 2.048-битовата шина. За да свърже вътрешната 2.048-битова шина с външна 512-битова шина, SPHBM4 трябва да обедини вътрешните канали на HBM4 по четири в групи Quad Channel. Всяка такава група обслужва общо 64 линии за данни, тоест 4 x 16 бита, които на практика заместват 256-те вътрешни канала за данни, налични при стандартен чип HBM4.
Тези 64 линии за данни работят с четири пъти по-висока скорост на предаване спрямо стандартните чипове HBM4. Така 512-битовият чип в крайна сметка може да предложи почти същата пропускателна способност като стандартната 2.048-битова версия, но за това са необходими доста допълнителни технологии. В базовия слой се прилагат редица техники, наложителни заради високата скорост на предаване на данни. При стандартните чипове HBM4 те не са необходими поради ниската скорост и високата степен на паралелизъм. SPHBM4 изисква и допълнителни стъпки при обработката на данните, например SerDes, които могат да увеличат латентността с няколко наносекунди. За определени видове задачи този компромис е приемлив, но при инференция няма да бъде подходящ, тъй като там латентността има много голямо значение.
Следователно SPHBM4 е компромисно решение, което може да бъде полезно само за по-тесен кръг AI ускорители, но за тях ползата може да бъде значителна. Засега остава неясно каква ще бъде крайната енергийна ефективност, тъй като тя зависи силно от реализацията на отделните производители. Със сигурност обаче тази технология ще позволява само фиксирано входно-изходно напрежение от 0,75 V. При HBM4 могат да се използват 0,7 V, 0,75 V, 0,8 V или 0,9 V в зависимост от допустимите граници на консумацията, скоростта и целостта на сигнала, както и от необходимия баланс между тях.
Подобно на моделите HBM4E, чиповете памет SPHBM4 ще могат да съдържат 4, 8, 12 или 16 слоя кристали с капацитет 24 Gb или 32 Gb всеки. На теория с 16 кристала по 32 Gb и при SPHBM4 може да се достигне капацитет от 64 GB, както при HBM4E, така че по отношение на капацитета двата стандарта ще бъдат много близки. Благодарение на по-тясната шина за памет обаче чиповете SPHBM4 могат да бъдат по-малки. Така върху една и съща площ могат да се разположат повече от тях, отколкото ако съответният производител използва HBM4.
Доколко SPHBM4 ще бъде привлекателен за отделните производители, предстои да разберем. По-късно ще стане ясно и каква енергийна ефективност ще предлагат различните реализации спрямо HBM4 или HBM4E.






























