Nvidia

Nvidia er en amerikansk chipvirksomhed, der producerer GPU'er (grafiske processorenheder) som H100 og Blackwell, plus den softwareplatform, CUDA, som gør det praktisk at træne og køre store AI-modeller. Når virksomheder taler om prisen ved at bygge eller drifte AI, er det ofte Nvidia-hardware og -software, der forklarer både regningen og leveringsrisikoen.

Hvorfor Nvidia bestemmer AI-prisen for din virksomhed

Nvidia leverer ikke bare chips, men et komplet økosystem: GPU-hardware, drivere og CUDA, et softwarelag der lader udviklere bruge GPU'ernes regnekraft effektivt. Den kombination betyder, at folk kan træne store modeller hurtigere end på almindelige server-CPU'er, men det koster: kort leveringstid og høj efterspørgsel gør priser og lead-tider uforudsigelige. For dig som leder betyder det, at budgetter for udvikling og drift af AI ofte skal tage højde for både hardwareindkøb, strøm- og kølebehov og de indirekte omkostninger ved at vente på tilgængelighed.

Sådan virker Nvidia i praksis

Forestil dig, at en GPU er motoren i en bil og CUDA er gearkassen, der får motoren til at arbejde sammen med resten af bilen. I praksis installerer en IT-afdeling servere med otte eller flere GPU'er for at træne en sprogmodel eller køre store inferens-opgaver. GPU'ernes parallelle design klarer store matrix-beregninger, som træning kræver, hurtigere end almindelige CPU'er. Det betyder, projektet bliver teknisk muligt og gjort på en tidshorisont, som forretningen kan bruge. Men det stiller krav til strøm, køling og specialiseret driftspotentiale i huset, og det stiller krav til den, som køber: vælger du køb af egne GPU'er, eller tager du cloud-løsninger, hvor prisen måles som drift i stedet for engangsinvestering.

Eksempel: IT-chefen der bestiller en GPU-klynge midt i en produktlancering

IT-chefen i en mellemstor produktionsvirksomhed skulle to uger før en større produktlancering sætte en intern prototype i drift, der bruger en billedgenkendelsesmodel til kvalitetstjek. Budgettet var på plads, men leverandøren kunne først levere H100-kort om tre uger. IT-chefen nød ikke det. Efter at have talt med tre leverandører endte de med at leje en klynge i skyen i en uge, få en midlertidig lokal GPU på plads til test, og så modtage og installere de bestilte H100-kort dagen før lanceringen. Opsætningen tog to arbejdsdages ekstra tid, firmwareopdatering og test fyldte en hel dag, og der var en overraskelse: den eksisterende serverracks kølede ikke tilstrækkeligt, så der blev brugt tid og penge på ekstra køling. Læringen: hardware er ikke bare et produkt, det er en driftspakke; hvis du står med en deadline, kan ledetid og krav til infrastruktur blive det, der bremser projektet.

Nvidia er ikke det samme som Træning eller Gefion

Nvidia gør chips og software, men selve arbejdet med at træne modeller, Træning, er en proces, der også kræver data, modeller, algoritmer og drift. At købe Nvidia-GPU'er betyder ikke automatisk, at I kan træne gode modeller, men det gør mange træningsopgaver praktisk mulige. Gefion er en dansk supercomputer, som er bygget med Nvidia-chips, og den viser, hvordan nationale regneklynger også hviler på Nvidias økosystem; Gefion er et eksempel på et sted, hvor Nvidia-hardware bruges som grundlaget, men selve værdiarbejdet er en kombination af hardware, software og faglig viden.

Hvad du skal være opmærksom på, når du vælger Nvidia-hardware

1. Levering og pris: GPU'er kan have lange lead-tider og prisudsving. Aftal forventninger med dine leverandører tidligt.
2. Vendor lock-in: CUDA gør udvikling hurtig og effektiv, men dependency på et proprietært softwarelag kan gøre det dyrere at flytte til konkurrent-hardware senere.
3. Drift: strømforbrug, køling, plads i serverrummet og firmwareopdateringer er reelle omkostninger. Beregn dem ind i budgettet.
4. Support og opgraderinger: Nvidia opdaterer drivere og software. Sørg for en plan for opgraderinger og test, så en driveropdatering ikke afbryder produktionen.
5. Alternativer og cloud: Hvis I ikke vil eje hardware, kan cloud-udbydere tilbyde adgang til Nvidia-GPU'er på timebasis. Det fjerner kapitalbinding, men variable driftsomkostninger kan blive større over tid.

Og ja, Nvidia er stor. Men ikke uovervindelig. Konkurrenter kæmper med både hardware og software-økosystemet, og det er grunden til, at mange projekter stadig ender med Nvidia. Det er lidt som at eje en fabrik, hvor alle maskiner er indrettet til en særlig skruetype: det virker godt, hvis du allerede har skrue-torx, men skifter du standard, koster det at omstille alt.

Skal flere end én i huset kunne noget med nvidia, så se, hvordan en AI-workshop er skruet sammen.