Maar het is een beetje een gedempt groen licht, omdat de HBM3-chips van Samsung voorlopig alleen zullen worden gebruikt in een minder geavanceerde grafische verwerkingseenheid (GPU) van Nvidia, de H20, die is ontwikkeld voor de Chinese markt in overeenstemming met de Amerikaanse exportcontroles, aldus de mensen.
Het was niet meteen duidelijk of Nvidia de HBM3-chips van Samsung zou gebruiken in haar andere AI-processors of dat de chips eerst nog extra tests zouden moeten doorstaan voordat dat zou kunnen gebeuren, voegden ze eraan toe.
Samsung moet ook nog voldoen aan de normen van Nvidia voor HBM3E-chips van de vijfde generatie en het testen van die chips gaat door, voegden de mensen eraan toe, die niet geïdentificeerd wilden worden omdat ze geen toestemming hadden om met de media te spreken.
Nvidia en Samsung weigerden commentaar te geven.
HBM is een type dynamisch random access memory of DRAM-standaard die voor het eerst werd geproduceerd in 2013 en waarbij chips verticaal worden gestapeld om ruimte te besparen en het stroomverbruik te verminderen. Het is een belangrijk onderdeel van GPU's voor kunstmatige intelligentie en helpt bij het verwerken van enorme hoeveelheden gegevens die worden geproduceerd door complexe toepassingen.
De goedkeuring door Nvidia van de HBM3-chips van Samsung komt op een moment dat de vraag naar geavanceerde GPU's door de hausse in generatieve AI toeneemt, een vraag waaraan Nvidia en andere makers van AI-chipsets met moeite kunnen voldoen.
Er zijn slechts drie grote HBM-fabrikanten - SK Hynix, Micron en Samsung - en omdat er ook een tekort is aan HBM3, wil Nvidia graag dat Samsung zijn standaarden goedkeurt, zodat het zijn leveranciersbestand kan diversifiëren.
Nvidia's behoefte aan meer toegang tot HBM3 zal ook toenemen omdat SK Hynix - de duidelijke leider op dit gebied - van plan is om zijn HBM3E-productie te verhogen en minder HBM3 te maken, aldus twee van de bronnen.
SK Hynix weigerde commentaar te geven.
Samsung, 's werelds grootste fabrikant van geheugenchips, probeert al sinds vorig jaar de tests van Nvidia voor zowel HBM3 als HBM3E te doorstaan, maar heeft daar moeite mee vanwege problemen met warmte en stroomverbruik, meldde Reuters in mei, waarbij het bronnen citeerde.
Samsung zei na de publicatie van het Reuters-artikel in mei dat beweringen dat de tests van Nvidia niet doorgingen vanwege problemen met warmte en stroomverbruik niet waar waren.
H20
Samsung zou volgens twee van de bronnen al in augustus kunnen beginnen met het leveren van HBM3 voor de H20-processor van Nvidia.
De H20 is de meest geavanceerde van drie GPU's die Nvidia op maat heeft gemaakt voor de Chinese markt, nadat de VS de exportbeperkingen in 2023 heeft aangescherpt om supercomputers en AI-doorbraken te verhinderen die het Chinese leger ten goede zouden kunnen komen.
In overeenstemming met de Amerikaanse sancties is de rekenkracht van de H20 aanzienlijk beperkt in vergelijking met de versie die buiten China wordt verkocht, de H100.
De H20 had aanvankelijk een zwakke start toen de leveringen dit jaar begonnen en het Amerikaanse bedrijf de prijs lager stelde dan een rivaliserende chip van de Chinese techgigant Huawei, meldde Reuters in mei.
Maar de verkoop groeit nu snel, aldus afzonderlijke bronnen.
In tegenstelling tot Samsung is SK Hynix de belangrijkste leverancier van HBM-chips aan Nvidia en levert het sinds juni 2022 HBM3. Het begon eind maart ook HBM3E te leveren aan een klant die het niet wilde noemen. De leveringen gingen naar Nvidia, aldus bronnen.
Micron heeft ook gezegd dat het HBM3E aan Nvidia zal leveren.
