Artificiell intelligens (AI) är i ropet och med detta har efterfrågan på hårdvara ämnad den typen av beräkningar ökat explosionsartat. Med detta har den tidigare perifera minnestekniken High-Bandwidth Memory (HBM) blivit hårdvaluta, då denna lösning om än dyr kan leverera både hög kapacitet till skyhög bandbredd – två viktiga delar i högpresterande AI-beräkningskort.
TSMC låter meddela att de ingått ett samarbete med Samsung om kommande HBM4, som namnet till trots är sjätte generationens HBM. Det något oväntade samarbetet mellan rivalerna kommer efter tidigare rapporter där det blivit känt att TSMC arbetar med Samsungs ärkerival på hemmaplan, minnestillverkaren SK Hynix, kring just HBM4.
We will maximize HBM performance by combining the design and production capabilities of Samsung’s System LSI and Memory Business Divisions with the manufacturing capabilities of the foundry. We are preparing more than 20 customized solutions in collaboration with other foundry companies.
– Lee Jung-bae, chef för Memory Business Division på Samsung Electronics
Den sydkoreanska affärstidningen Business Korea utvecklar det hela med hänvisning till Samsungs chef för minnesdivisionen, Lee Jung-bae, som förklarar att det finns begränsningar när det kommer till att förbättra HBM-prestanda. Detta ska inte längre vara möjligt att göra på egen hand i egenskap av minnestillverkare, utan kräver närmare samarbete med den foundry-aktör som ska sammanfoga HBM-kapslarna med själva beräkningskretsen.
Till skillnad från TSMC talar inte Samsung om vem deras samarbetspartner är på foundry-sidan, men att det är TSMC är en självklarhet. Jämte Samsung [Foundry] själva är det endast TSMC som har förmågan att tillverka beräkningskretsar för AI i spjutspetsen och har tekniker likt CoWoS för att paketera färdiga produkter. Det ska inte heller uteslutas att Intel med sin tillverkningsteknik 1,8 nanometer (Intel 18A) är en partner. Oavsett konstellationer gör Samsung gällande att de arbetar på mer än 20 skräddarsydda HBM-lösningar tillsammans med ”andra” foundry-företag.
Utöver att närmare samarbete och integration krävs för att höja prestandaribban för HBM uppges Samsung och TSMC tillsammans arbeta på bufferfri HBM. Detta ska enligt uppgifterna förbättra energieffektiviteten med 40 procent och sänka latensen vid minnesanrop med 10 procent. Samma teknik tros även vara aktuell inom ramen för det HBM4-samarbete som sker mellan TSMC och SK Hynix.
En intressant aspekt i det hela är att Samsung har ett teoretiskt övertag mot både SK Hynix och TSMC, då de till skillnad från duon kan tillverka alla komponenter vertikalt inom konglomeratet – från minneskretsar till AI-kretsar och slutpaketering. Att de trots detta krokar arm med TSMC är av den enkla anledning att Samsung blivit akterseglade på AI-fronten, och saknar högprofilerade kunder som vill tillverka AI-kretsar i spjutspetsen i deras fabriker. Samtidigt är marknaden för HBM en växande mångmiljardindustri de inte vill gå miste om.
