Den sydkoreanska minnesjätten SK Hynix har presenterat ”iHBM”, en teknik som ska tygla den allt högre värmeutvecklingen hos högpresterande minne. Som namnet avslöjar handlar det specifikt om High-Bandwidth Memory (HBM), den minnesteknik som används för högpresterande AI-beräkningskretsar från bland annat Nvidia och AMD.
Prefixet ”i” är kort för integrated cooling elements (ICEs), vilket innebär att ett icke-ledande lager kisel placerat direkt på det PHY-lager (Physical Element) som hanterar dataöverföring mellan minne och beräkningskrets. Enligt SK Hynix medger iHBM en minskning av termiskt motstånd om 30 procent, vilket ”säkerställer stabil drift även i miljöer med hög temperatur och belastning”.
En av de stora flaskhalsarna för allsköns beräkningar, men kanske främst AI-relaterade, handlar inte främst om beräkningskretsen utan minneskapacitet och -hastighet. Här har svaret hitintills varit HBM, som till skillnad från konventionellt minne staplar flera DRAM-kretsar vertikalt för att korta avståndet data behöver färdas vilket i sin tur möjliggör för högre överföringshastighet (bandbredd) och energieffektivitet. Tillverkningstekniska hinder och inte minst att fysikens lagar sätter stopp för vidare krympningar av minnesceller och kondensatorer har dock gjort att värmeutveckling blivit ett allt större problem.
Redan sommaren 2015 lanserades HBM tillsammans med AMD:s konsumentorienterade grafikkort Radeon R9 Fury X som hade fyra HBM-kapslar om 1 GB (gigabyte) fördelat över fyra DRAM-kretsar (4-Hi) med en total överföringshastighet om 1 Gbps. Kommande generations HBM4 bygger på upp till 16 DRAM-kretsar (16-Hi) per kapsel med en kapacitet om 64 GB och en bandbredd om 8 Gbps i standardutförande, men redan nu har SK Hynix aviserat hastigheter uppemot 11,7 och rentav 13 Gbps – flerfaldiga ökningar som inte mötts upp av tillverkningstekniska avancemang. Sammanlagt har detta vänt en tidigare exceptionellt sval och energisnål minnesteknik till raka motsatsen.
För att HBM-minnets fördelar med hög bandbredd ska komma till sin rätt behöver det placeras intill själva beräkningskretsen, vars energiförbrukning och värmeutveckling på ett fåtal år också ökat flerfaldigt. Gällande AI-datacenter problematiseras i regel energiförbrukning och vilka effekter det har på omgivning och samhälle i stort, men inuti datacentren och på chip-nivå är värmeutveckling en än större utmaning.
Medan SK Hynix avtäcker iHBM redan idag gör bolaget gällande att implementering dröjer till nästkommande generations HBM5, som med nuvarande prognoser väntas se dagens ljus först 2029–2030. Bolaget gör dock samtidigt gällande att iHBM redan kan massproduceras med deras befintliga paketeringsteknik Wafer Level Packaging (WLP), som bygger vidare dess Mass Reflow Molded Underfill (MR-MUF).
Att SK Hynix påpekar att tekniken för att implementera iHBM redan finns på plats och det faktum att Nvidia gärna hade sett morgondagens minnestekniker idag, kan vara en indikation om att kylningstekniken kan ta plats redan i HBM4 eller mellangenerationen HBM4E tänkt att gå in i produktion 2027.
