TSMC:s paketeringsteknik Chip-on-Wafer-on-Substrate (CoWoS) har en storkund i Nvidia och bolagets satsningar på AI-kretsar, och nu rapporterar Digitimes att det senare bolaget går in och tvingar TSMC skruva upp tillverkningstakten för år 2023. TSMC uppges ha en månatlig kapacitet om 8–9 000 kiselskivor med CoWoS, som redan tidigare i huvudsak var bokad åt Nvidia – och nu tillkommer en order om 10 000 extra wafers för året.
Anledningen till den ökade orderingången är Nvidias dominans på marknaden för AI-processorer. Källor uppger också till Digitimes att bolaget anlitar TSMC och dess CoWoS-paketering för att kunna tillskansa sig kretstillverkning och avancerad paketering under ett och samma tak. Mellan raderna kan utläsas att Nvidia säljer aktuella kretsar på löpande band och att bolaget inte har råd att vänta på paketering hos tredje part enligt traditionellt recept.
CoWoS i sig är inget nytt, för Nvidia, TSMC eller branschen i sig. Paketeringstekniken är en variant av 2.5D-paketering, där tidigare kommersialiserade produkter länkat samman en processor med någon form av minne med hjälp av en interposer. I det aktuella fallet rör det sig sannolikt om utökad tillverkning av Nvidias beräkningskrets H100, som med hjälp av CoWoS paras med sex staplar HBM3-minne för totalt 80 GB och en bandbredd upp till 3,35 TB/s. Själva beräkningskretsen tillverkas på 4 nanometer.
Paketeringstekniken har sin huvudsakliga fördel i att den möjliggör för större kretsar än traditionellt monolitiska (2D) kretsar, utan att förlita sig på ren stapling av kretsar (3D). Där den praktiska storleksgränsen för en traditionell 2D-krets går vid cirka 800 mm2 utvecklas CoWoS för att möjliggöra kretsar på uppemot 2 500 mm2. TSMC uppges också vara i full färd med att utveckla CoWoS som tillåter kretsar med storlekar om sex gånger reticle-storleken, eller drygt 5 000 mm2, med plats för uppemot ett dussin staplar minne av typen HBM och andra typer av chiplet-liknande kretsdesigner.
Den nu rådande AI-hypen, kanske främst driven av ChatGPT, förlitar sig till stor del på Nvidias beräkningskretsar. Ett tecken på hur stort behovet av ökad beräkningskraft är kan skymtas i att även 2020 års A100 säljs på begagnatmarknaden för mer än de 15 000 USD produkten ursprungligen betingade. Detta kan ställas mot de cirka 40 000 USD Nvidia tar för ett nytt H100 – eller molntjänsten DGX Cloud som kostar 36 000 USD per månad.
CoWoS-paketerade kretsar väntas för helåret 2023 stå för cirka 6–7 procent av TSMC:s omsättning, och pekas av bolaget ut som ett segment som väntas växa snabbare relativt andra av bolagets erbjudanden. Avancerade beräkningskretsar för AI är dock inte ensamma om att bruka paketeringstekniken – även nätverksprocessorer i enterprise-klass bygger numera på CoWoS.
