MLCommons, een groep die benchmarktests ontwikkelt voor kunstmatige intelligentie (AI)-technologie, heeft dinsdag de resultaten onthuld van een nieuwe test die de snelheid van systemen bepaalt bij het trainen van algoritmen die worden gebruikt voor chatbots zoals ChatGPT - en Nvidia kwam als beste uit de bus.

De MLPerf benchmark is gebaseerd op GPT-3, een AI-model dat wordt gebruikt om ChatGPT te trainen, de virale chatbot die is ontwikkeld door OpenAI en wordt ondersteund door Microsoft. Omdat het model echter enorm groot is, gebruikt de benchmark slechts een representatief deel.

"Dit was onze duurste benchmark tot nu toe," vertelde MLCommons Executive Director David Kanter aan Reuters. "We hebben meer dan 600K uur aan rekenkracht van de versneller besteed om hem te ontwikkelen, plus een aantal fantastisch getalenteerde ingenieurs."

Kanter weigerde de ontwikkelingskosten bekend te maken en zei alleen dat het om miljoenen dollars ging.

Slechts twee chipbedrijven - Nvidia en Intel's Habana Labs - dienden resultaten in voor de benchmark, waarbij de snelste tijd afkomstig was van systemen die de nieuwste H100-chip van Nvidia gebruikten, de onbetwiste leider in hardware voor het trainen van AI.

Het grootste systeem van Nvidia, dat werd ingediend in samenwerking met AI-cloud startup CoreWeave, gebruikte 3.584 H100-chips, wat resulteerde in een trainingstijd van 10,94 minuten. Habana Labs, een AI-chipbedrijf dat is overgenomen door Intel, deed de benchmark in 311,945 minuten met een veel kleiner systeem dat was uitgerust met 384 Gaudi2-chips.

Over het algemeen betekenen meer chips en een groter systeem een snellere training.

Jordan Plawner, senior director AI Products van Intel, zei dat de resultaten het potentieel aantonen van Gaudi2, dat in september een software-update zal krijgen om de snelheid te verhogen.

"U krijgt een 1,5X tot 2X hogere snelheid op de Habana resultaten. Dus dat is wanneer we zien dat Habana Gaudi2 echt concurrerend en lager geprijsd is dan H100," vertelde Plawner aan Reuters.

Plawner weigerde te zeggen hoeveel een Gaudi2-chip kost, maar zei dat de industrie een tweede leverancier van chips voor AI-training nodig heeft, en de MLPerf-resultaten laten zien dat Intel in die behoefte kan voorzien. (Verslaggeving door Jane Lanhee Lee; Bewerking door Christopher Cushing)