Marvell Technology, Inc. kondigt aan dat het een nieuwe custom HBM compute-architectuur heeft ontwikkeld waarmee XPU's een grotere reken- en geheugendichtheid kunnen bereiken. De nieuwe technologie is beschikbaar voor al haar klanten met op maat gemaakte siliconen om de prestaties, efficiëntie en TCO van hun op maat gemaakte XPU's te verbeteren. Marvell werkt samen met haar cloudklanten en toonaangevende HBM-fabrikanten, Micron, Samsung Electronics en SK hynix, om aangepaste HBM-oplossingen voor de volgende generatie XPU's te definiëren en te ontwikkelen.

HBM is een essentieel onderdeel dat in de XPU is geïntegreerd met behulp van geavanceerde 2,5D-verpakkingstechnologie en snelle industriestandaard interfaces. De schaalbaarheid van XPU's wordt echter beperkt door de huidige standaard interface-gebaseerde architectuur. De nieuwe custom HBM compute-architectuur van Marvell introduceert op maat gemaakte interfaces om de prestaties, het vermogen, de grootte van de matrijs en de kosten voor specifieke XPU-ontwerpen te optimaliseren.

Deze aanpak houdt rekening met het computersilicium, HBM-stacks en verpakking. Door het HBM-geheugensubsysteem aan te passen, inclusief de stack zelf, bevordert Marvell de aanpassing in cloud datacenterinfrastructuur. Marvell werkt samen met belangrijke HBM-fabrikanten om deze nieuwe architectuur te implementeren en te voldoen aan de behoeften van exploitanten van cloud-datacenters.

De Marvell custom HBM compute Architecture verbetert XPU's door de I/O-interfaces tussen de interne AI compute accelerator silicon dies en de HBM base dies te serialiseren en te versnellen. Dit resulteert in betere prestaties en tot 70% minder interfacevermogen in vergelijking met standaard HBM-interfaces. De geoptimaliseerde interfaces verminderen ook het benodigde silicium onroerend goed in elke chip, waardoor HBM ondersteunende logica kan worden geïntegreerd in de basis chip.

Deze besparingen op onroerend goed, tot 25%, kunnen worden gebruikt om de rekencapaciteiten te verbeteren, nieuwe functies toe te voegen en tot 33% meer HBM-stacks te ondersteunen, waardoor de geheugencapaciteit per XPU toeneemt. Deze verbeteringen verbeteren de prestaties en energie-efficiëntie van XPU's en verlagen de TCO voor cloud operators.