De nieuwste HBM-chips (High Bandwidth Memory) van Samsung Electronics moeten nog slagen voor de tests van Nvidia voor gebruik in de AI-processors van het Amerikaanse bedrijf vanwege problemen met warmte en stroomverbruik, aldus drie mensen die op de hoogte zijn van de problemen.

De problemen hebben betrekking op de HBM3-chips van Samsung, de vierde generatie HBM-standaard die momenteel het meest wordt gebruikt in grafische verwerkingseenheden (GPU's) voor kunstmatige intelligentie, en op de vijfde generatie HBM3E-chips die de Zuid-Koreaanse techgigant en zijn rivalen dit jaar op de markt brengen, zeiden ze.

De redenen waarom Samsung niet slaagde voor de tests van Nvidia worden voor het eerst gerapporteerd.

Samsung zei in een verklaring aan Reuters dat HBM een op maat gemaakt geheugenproduct is dat "optimalisatieprocessen vereist die zijn afgestemd op de behoeften van de klant", en voegde eraan toe dat het bedrijf zijn producten aan het optimaliseren is door nauw samen te werken met klanten. Het bedrijf weigerde commentaar te geven op specifieke klanten.

Nvidia weigerde commentaar te geven.

HBM - een type dynamisch random access memory of DRAM-standaard die in 2013 voor het eerst werd geproduceerd en waarbij chips verticaal worden gestapeld om ruimte te besparen en het stroomverbruik te verminderen - helpt bij het verwerken van enorme hoeveelheden gegevens die worden geproduceerd door complexe AI-toepassingen. Naarmate de vraag naar geavanceerde GPU's is gestegen door de hausse in generatieve AI, is ook de vraag naar HBM gestegen.

Het tevreden stellen van Nvidia - dat ongeveer 80% van de wereldwijde GPU-markt voor AI-toepassingen in handen heeft - wordt gezien als de sleutel tot toekomstige groei voor HBM-fabrikanten - zowel qua reputatie als qua winstmomentum.

Samsung probeert al sinds vorig jaar Nvidia's tests voor HBM3 en HBM3E te doorstaan, aldus de drie bronnen. Volgens twee van de mensen kwamen de resultaten van een recente mislukte test voor de 8-laagse en 12-laagse HBM3E-chips van Samsung in april.

Het was niet meteen duidelijk of de problemen gemakkelijk verholpen kunnen worden, maar de drie bronnen zeiden dat de mislukkingen om aan de eisen van Nvidia te voldoen de bezorgdheid in de industrie en onder beleggers hebben doen toenemen dat Samsung op het gebied van HBM verder achterop zou kunnen raken bij rivalen SK Hynix en Micron Technology.

De bronnen, waarvan er twee door Samsung-functionarissen op de hoogte zijn gebracht, spraken op voorwaarde van anonimiteit omdat de informatie vertrouwelijk was.

NIEUW HOOFD CHIPEENHEID

In tegenstelling tot Samsung is de binnenlandse rivaal SK Hynix de belangrijkste leverancier van HBM-chips aan Nvidia en levert het sinds juni 2022 HBM3. Het begon eind maart ook HBM3E te leveren aan een klant die het niet wilde noemen. De leveringen gingen naar Nvidia, aldus bronnen.

Micron, de enige andere grote fabrikant van HBM, heeft ook gezegd dat het HBM3E aan Nvidia zal leveren.

In een zet die volgens analisten de bezorgdheid van Samsung over zijn achterstand in HBM leek te onderstrepen, verving Samsung deze week het hoofd van zijn halfgeleiderafdeling en zei dat er een nieuw persoon aan de top nodig was om te navigeren door wat het een "crisis" in de industrie noemde.

De markt verwacht dat Samsung, als 's werelds grootste producent van geheugenchips, de tests van Nvidia snel zou doorstaan, maar het is ook normaal dat gespecialiseerde producten zoals HBM enige tijd nodig hebben om aan de prestatie-evaluaties van klanten te voldoen, zei Jeff Kim, hoofd onderzoek bij KB Securities.

Hoewel Samsung nog geen leverancier van HBM3 aan Nvidia is, levert het bedrijf wel aan klanten zoals Advanced Micro Devices (AMD) en streeft het ernaar om in het tweede kwartaal te beginnen met de massaproductie van HBM3E-chips. Samsung zei in zijn verklaring aan Reuters dat het productschema volgens plan verloopt.

Analisten zeggen ook dat SK Hynix, dat in 2013 de eerste HBM-chip ontwikkelde, de afgelopen tien jaar veel meer tijd en middelen aan HBM-onderzoek en -ontwikkeling heeft besteed dan Samsung, wat goed is voor de technologische voorsprong.

Samsung zei in zijn verklaring dat het in 2015 de eerste commerciële HBM-oplossing voor high-performance computing heeft ontwikkeld en sindsdien is blijven investeren in HBM.

GPU-fabrikanten zoals Nvidia en AMD willen graag dat Samsung zijn HBM-chips perfectioneert, zodat ze meer opties voor verkopers hebben en de prijsmacht van SK Hynix verzwakken, aldus de bronnen.

Tijdens een Nvidia AI-conferentie in maart ondertekende Nvidia CEO Jensen Huang een bord bij de stand van Samsung met de tekst "Jensen approved" voor de 12-laags HBM3E van Samsung - wat het enthousiasme van het bedrijf onderstreept over het vooruitzicht dat Samsung deze chips gaat leveren.

Volgens onderzoeksbureau Trendforce zullen HBM3E-chips dit jaar waarschijnlijk het mainstream HBM-product op de markt worden en zullen de leveringen zich concentreren in de tweede helft van 2024.

Los daarvan schat SK Hynix dat de vraag naar HBM-geheugenchips in het algemeen kan toenemen met een jaarlijks percentage van 82% tot 2027.

Analisten hebben gezegd dat de relatief zwakke positie van Samsung in HBM is opgemerkt door beleggers. De aandelen van Samsung staan vlak voor het afgelopen jaar, terwijl de aandelen van SK Hynix met 41% zijn gestegen en die van Micron met 48%. ($1 = 1.362,8600 won) (Verslaggeving door Heekyong Yang in Seoul en Fanny Potkin in Singapore; Aanvullende rapportage door Ju-min Park in Seoul en Max A. Cherney in San Francisco; Bewerking door Josh Smith en Edwina Gibbs)