Oracle heeft aangekondigd dat er binnenkort nieuwe Oracle Cloud Infrastructure (OCI) Compute-instanties beschikbaar zullen zijn die worden aangedreven door NVIDIA H100 Tensor Core GPU's, NVIDIA L40S GPU's en Ampere AmpereOne? CPU's. De nieuwe OCI Compute-instanties zijn ontworpen om het uitvoeren van een verscheidenheid aan werklasten - van training, fijnafstemming en AI-modelinferencing tot het uitvoeren van cloud-native toepassingen en video transcoding-toepassingen - in de cloud toegankelijker te maken voor organisaties, terwijl de prijs-prestatieverhouding wordt verbeterd.

De komende OCI Compute-instanties op basis van de volgende generatie NVIDIA GPU's omvatten: OCI Compute Bare Metal Instances, aangedreven door NVIDIA H100 GPU's: Kan klanten helpen de tijd te verkorten die nodig is om grote AI-modellen te trainen, zoals de modellen die natuurlijke taalverwerking en aanbevelingssystemen aandrijven. Organisaties die NVIDIA H100 Tensor Core GPU's gebruiken, hebben een prestatieverbetering van maar liefst 30x gezien voor AI-inferentie use cases en 4x betere prestaties voor het trainen van AI-modellen in vergelijking met het gebruik van de vorige generatie NVIDIA A100 Tensor Core GPU's. Voor klanten die intensieve computing workloads uitvoeren, zoals AI-model training, stelt OCI Supercluster hen in staat om tienduizenden NVIDIA H100 GPU's te verbinden via een krachtig clusternetwerk met ultralage latency. Deze instances zullen volgens planning later dit jaar algemeen beschikbaar zijn in de Oracle Cloud London Region en Oracle Cloud Chicago Region, en andere zullen naar verwachting volgen.

OCI Compute Bare Metal Instances, aangedreven door NVIDIA L40S GPU's: Biedt klanten een alternatieve optie voor werklasten zoals AI-inferencing of het trainen van kleine tot middelgrote AI-modellen. Deze instances zijn getest om tot 20% betere prestaties te leveren voor generatieve AI-workloads en tot 70% betere prestaties voor het fine-tunen van modellen in vergelijking met de vorige generatie NVIDIA A100 GPU's. De instances zullen volgens planning volgend jaar beschikbaar zijn.

De komende OCI Compute Instances op basis van Ampere Computing CPU's omvatten: OCI Compute A2 Instances aangedreven door Ampere AmpereOne? CPU's: Zullen naar verwachting toonaangevende prijs-prestaties en het hoogste aantal beschikbare processorkernen in de industrie leveren?320 cores in de bare metal vorm en tot 156 cores in de flexibele VM vorm?om een verscheidenheid aan universele cloud workloads aan te drijven, waaronder het draaien van webservers, het transcoderen van video en het onderhouden van CPU-gebaseerde AI-inferentie verzoeken. Het hoge aantal cores dat in deze instanties beschikbaar is, kan hogere prestatieniveaus, dichtheid van virtuele machines en schaling ondersteunen om klanten te helpen hun computerwerklasten efficiënter te beheren en tegelijkertijd de voetafdruk van datacenters en het stroomverbruik te verminderen.

Deze instanties kunnen ook flexibele vormen voor virtuele machines uitvoeren om klanten granulaire opties te bieden voor de hoeveelheid verwerkingskracht en geheugen om het gebruik van resources te maximaliseren en de kosten te minimaliseren, terwijl er een eenvoudig en voorspelbaar prijsmodel wordt geboden. Deze instanties staan gepland voor volgend jaar.