Търсенето на многослойни чипове памет, базирани на различните версии на стандарта High-Bandwidth Memory, е огромно, тъй като тези компоненти са незаменими за производството на съвременни AI ускорители. Самият стандарт също се развива с много бързи темпове, за да отговори възможно най-ефективно на нарастващите изисквания за капацитет и пропускателна способност на паметта.
Дори трите големи производителя на памет — Samsung, Micron и SK hynix — не успяват да произведат достатъчно чипове, за да задоволят пазара. Затова има потенциално търсене както на алтернативни доставчици, така и на алтернативни технологии за памет. Разработването на последните обаче не е лесна задача: контролерите за памет на AI ускорителите трябва да бъдат адаптирани към новите чипове, а това изисква време. Все пак в следващото поколение AI ускорители вече може да намерят място някои конкуренти на HBM, включително наскоро представената от Qualcomm технология HBC.
Разработката HBC, чието име означава High-Bandwidth Compute, се различава от HBM по два основни признака. Първо, вместо класическа DRAM тя използва енергоспестяващи чипове памет от типа LPDDR, предназначени за мобилния пазар. Второ, включва специален базов кристал, който позволява извършването на изчисления в непосредствена близост до паметта.
Samsung също възнамерява да навлезе в тази област, така че HBM може да бъде конкурентна и в това отношение. По отношение на енергийната ефективност обаче предимството може да е на страната на HBC, тъй като кристалите памет с по-ниско работно напрежение консумират по-малко енергия от стандартните си аналози. За центровете за данни това може да се превърне в съществено преимущество, защото един голям клъстер обикновено включва хиляди или десетки хиляди AI ускорители. В такъв мащаб дори разлика от няколко вата има значение: по-ниската консумация намалява експлоатационните разходи и може донякъде да улесни осигуряването на ефективно охлаждане.
Многослойните HBC чипове съдържат вертикално подредени кристали LPDDR памет, свързани чрез проходни силициеви връзки (TSV, Through-Silicon Vias), които завършват в базовия кристал. Той осигурява и известна изчислителна мощност за изпълнение на основни операции върху данните. Това разтоварва графичния процесор на AI ускорителя и прави обработката по-ефективна, което в крайна сметка повишава производителността. HBM4 също се стреми към подобни възможности, но решението на Qualcomm цели още по-висока ефективност и по-добре оптимизиран пренос на данни. Благодарение на това пропускателната способност на паметта за всеки ват консумирана мощност може да бъде увеличена шест пъти спрямо възможностите на настоящия стандарт HBM.
С първото поколение HBC в комбинация с ускорител AI250 е постигната пропускателна способност на паметта от 133 TB/s. Това е 18 пъти повече от възможностите на сегашната карта AI200 на Qualcomm, която използва стандартни чипове LPDDR5X памет. В по-дългосрочен план Qualcomm възнамерява да оборудва няколко свои AI ускорителя от следващо поколение с HBC чипове. Първи може да ги получи моделът AI250, очакван в средата на 2027 г. Следващото поколение HBC също вече се разработва и ще донесе допълнителни подобрения, най-вече значително увеличение на пропускателната способност на паметта.
Засега не е известно от кой доставчик Qualcomm възнамерява да купува кристалите LPDDR5X памет. Компанията не е разкрила и на коя точно версия на стандарта LPDDR ще се базират новите продукти. Системите върху чип Snapdragon на Qualcomm се произвеждат от TSMC, но изчислителният кристал Compute Die, използван в HBC, на практика може да бъде произведен от всеки производител на памет. Това означава, че задачата може да бъде възложена на същия доставчик, който осигурява и LPDDR кристалите. Един от най-очевидните варианти е Samsung Foundry, тъй като компанията за договорно производство на полупроводници произвежда както собствено разработени LPDDR кристали, така и изчислителни кристали по поръчка.
Qualcomm все още не е разкрила избрания доставчик, но се надяваме това да стане скоро. Засега не е ясно и дали компанията възнамерява да превърне HBC в конкурент на HBM и да излезе със собственото си решение на пазара на AI ускорители. Предвид бума на изкуствения интелект това не би било лоша идея, особено ако пазарът приеме технологията положително.
































