Datacenter

Datacenter er den fysiske bygning med servere, GPU'er, køleanlæg og stor strømforsyning, hvor AI-modeller trænes og kører. Når en medarbejder sender en prompt til ChatGPT, rammer den en server i et datacenter; når I køber cloudplads, lejer I praktisk talt plads i en sådan bygning. Datacenteret bestemmer derfor både hvor jeres data fysisk ligger, og hvilken strøm- og vandprofil det medfører.

Sådan virker et datacenter i praksis

Et datacenter svarer til en postcentral for digitale opgaver: servere modtager anmodninger, beregner svar og sender resultater tilbage. I stedet for breve er det data og processorkraft; i stedet for emner og postnumre er det computation og netværkskapacitet. Mange moderne datacentre indeholder specialiserede GPU'er til træning af modeller, racks med tusinder af servere og store kølesystemer, fordi maskinlæring afgiver meget varme.

Hyperscale-datacentre er de meget store anlæg, som nogle få udbydere driver globalt. De rummer så meget udstyr, at de kan skaffe økonomier i skala, både i købekraft til hardware og i drift. For en virksomhed betyder det, at tjenester som ChatGPT eller cloud-databaser ofte lander i disse store centre, fordi leverandørerne har der, hvor de har deres store kapacitet.

Hvorfor datacenter betyder noget for din virksomhed

Du støder på ordet, når nogen spørger "hvor ligger vores data?" eller nævner el- og vandforbrug i nyhederne. Placeringen har betydning for databeskyttelse: hvis data fysisk ligger uden for EU, kan det trække ekstra krav og risici ind. Samtidig påvirker store AI-arbejdsmængder virksomhedens CO2-regnskab indirekte, fordi de kræver strøm og køling i datacentret. Du behøver ikke forstå serverarkitektur, men du skal kende svarene på to spørgsmål: hvor placeres vores data, og hvor meget beregningskraft kræver vores brug af AI?

Eksempel: Datacenter og en dansk IT-chef før et kundemøde

IT-chefen i en dansk produktionsvirksomhed skal fremlægge en løsning til automatisk dokumentklassificering dagen efter et tilbudsmøde. Klokken er tirsdag efter frokost, og backupen af 70.000 scannede fakturalinjer ligger allerede i en cloud-tjeneste. Ved gennemgang opdager IT-chefen, at tredjepartsleverandørens maskinlæringsservice kører i et hyperscale-datacenter uden for EU, og at købsaftalen ikke nævner dataplacering. Der opstår hurtigt modstand: salgschefen vil vise en live-demo, men jura-afdelingen kræver dokumentation for dataflow. IT-chefen må lave to ekstra møder af 60 minutters varighed, ændre servicevalg og bede leverandøren om en databehandleraftale. Resultatet blev en forsinket demo og en uge brugt på afklaring. Læringen var klar: spørg altid om datacenterplacering og backupsted, før I lover en live-løsning.

Datacenter er ikke det samme som cloud, Prompt eller ChatGPT

"Cloud" er et forretningsbegreb: det beskriver at I lejer kapacitet fra en leverandør. Et datacenter er den fysiske placering, hvor den lejede kapacitet står. En "prompt" er den tekst, en medarbejder skriver til en model; prompten rejser over nettet og behandles i et datacenter. ChatGPT er en tjeneste, der kører i datacentre; det betyder, at hver prompt til ChatGPT behandles i et specifikt datacenter, afhængig af leverandørens infrastruktur. Når debatten handler om AI's energiforbrug, handler det ofte om, hvor energieffektive de datacentre er, og hvor strømmen kommer fra.

Hvad du skal være opmærksom på

Spørg om dataplacering i kontrakter og i leverandørernes dokumentation. Hvis I har persondata under GDPR, skal I kende om data lagres i EU eller sendes udenfor, og tage højde for nødvendige aftaler; tjek altid krav hos Datatilsynet. Vurder leverandørens oplysninger om strømkilder og køling, hvis virksomhedens omdømme eller klimaaftryk betyder noget for jer. Overvej også latency: nogle ophavsdata eller realtime-tjenester fungerer bedst, hvis serverne ligger tæt på brugerne.

Datacentre behandler I ikke hver dag, men de behandler jeres data konstant. De er både teknikken bag en prompt og omdrejningspunktet i diskussionen om energi og lovgivning... Men ikke hvis du er lidt smart. Stil de konkrete spørgsmål i jeres udbud og kontrakter, så I ved, hvilken bygning der holder styr på jeres data.

Skal flere end én i huset kunne noget med datacenter, så se, hvordan en AI-workshop er skruet sammen.