Om AI mogelijk te maken is veel GPU-rekenkracht noodzakelijk. Oracle heeft nu daarom een supercluster aankondigt, waarbij klanten de beschikking kunnen krijgen over maximaal 131.072 NVIDIA Blackwell GPU’s. Dat is niet alleen een enorm aantal GPU’s, maar de hoeveelheid theoretische rekenkracht komt uit op een duizelingwekkende 2.4 zettaFLOPS.
Naast superclusters met Blackwell GPU’s kunnen klanten ook kiezen voor superclusters met NVIDIA H100 of H200 GPU’s. In het geval van de H100 kunnen er maximaal 16,384 GPUs worden gebruikt met een maximale performance van 65 ExaFLOPS. Bij de H200 kunnen er maximaal 65.536 GPU’s met een maximale performance van 260 ExaFLOPS.
De verwachting is dat een Blackwell GPU zo’n 1.000 Watt aan stroom zal verbruiken, terwijl een H100 ook al 700 Watt aan stroom verbruikt. De totale hoeveelheid vermogen die nodig is om de GPU’s te draaien zal daarom alleen al voor alle Blackwell GPU’s rond de 131 Megawatt bedragen.
Daarnaast is er ook de financiele kant. Een enkele H100 GPU kost rond de $10.000, terwijl een Blackwell GPU naar verwachting tenminste $30.000 gaat kosten. Om 131.072 NVIDIA Blackwell GPU’s te financieren is daarom al snel zo’n $4 miljard dollar nodig. Daar komen de kosten voor de rest van de host en overige IT-infrastructuur nog bij.
Al met al zijn het duizelingwekkende prestaties, vermogens en bedragen waar de superclusters van Oracle mee gepaard gaan. Het is ook weer een duidelijk voorbeeld van investeringen die alleen kunnen worden gedaan door hyperscalers.