De bouw van AI-data­cen­ters dwingt data­cen­ter­ont­wik­ke­laars tot een andere manier van speci­fi­ceren, inkopen en beoor­delen. Waar een tradi­ti­o­neel data­center vaak nog met rela­tief bekende ontwerp­prin­cipes uit de voeten kan, stelt AI-infra­struc­tuur veel zwaar­dere eisen aan koeling, stroom­voor­zie­ning, schaal­baar­heid en beschik­baar­heid. Vooral de combi­natie van hoge vermo­gens per rack, snel wisse­lende belas­tingen en nieuwe koel­tech­nieken maakt de selectie van tech­no­logie en leve­ran­ciers een kriti­sche fase in elk AI-project.

Dat blijkt uit het rapport ‘Tech­nical Vendor Requi­re­ments and Evalu­a­tion’ van Uptime Insti­tute. De orga­ni­satie waar­schuwt dat verkeerde keuzes in deze vroege fase grote gevolgen kunnen hebben voor de levens­duur, pres­ta­ties en uitbreid­baar­heid van een data­center. AI-faci­li­teiten moeten vaak snel worden gebouwd, maar snel­heid mag volgens de onder­zoe­kers niet ten koste gaan van kwali­teit, veer­kracht of aanslui­ting op de bedrijfs­doelen.

Meer dan ‘zware’ datacenters

De kern van het probleem is dat AI-data­cen­ters niet simpelweg gewone data­cen­ters met zwaar­dere racks zijn. De IT-belas­ting is anders, de warm­te­pro­ductie is anders en ook het gedrag van de stroom­vraag wijkt sterk af van conven­ti­o­nele workloads. Zeker bij grote AI-trai­nings­clus­ters kan de vermo­gens­vraag veel sterker en vaker fluc­tu­eren dan bij tradi­ti­o­nele CPU-omge­vingen, aldus Uptime. Dat heeft uiter­aard gevolgen voor de elek­tri­sche infra­struc­tuur, de keuze van UPS-systemen, distri­butie, beka­be­ling en de manier waarop redun­dantie wordt inge­richt.

Ook aan de koel­zijde veran­deren de uitgangs­punten snel. Lucht­koe­ling blijft belang­rijk, maar is bij de hoogste rack­ver­mo­gens niet langer voldoende. Uptime ziet 40 tot 60 kW per rack grofweg als de boven­grens voor systemen die uitslui­tend met lucht kunnen worden gekoeld, al hangt de precieze grens af van onder meer de econo­mi­sche afwe­ging, de bestaande infra­struc­tuur en de verwachte toekom­stige belas­ting. Tege­lij­ker­tijd schuift die grens in de markt wel op. Uit enquêtes blijkt volgens Uptime dat veel partijen lucht­koe­ling zo lang moge­lijk willen blijven gebruiken en dat vroege GPU-geba­seerde AI-systemen zelfs racks van 40 kW nog volledig met lucht koelden.

Direct-to-chip

Bij de nieuwste gene­ratie AI-hard­ware is die discussie echter groten­deels voorbij. Racks met GPU’s kunnen inmid­dels vermo­gens bereiken van 130 kW. Op dat niveau is vloei­stof­koe­ling nood­za­ke­lijk. Volgens Uptime ligt direct-to-chip liquid cooling, kortweg DLC, in de meeste gevallen het meest voor de hand. Daarbij wordt koel­vloei­stof via cold plates direct langs de warmste compo­nenten geleid, zoals GPU’s. Het voor­deel is dat deze tech­niek rela­tief goed past binnen het bekende rack­model van data­cen­ters. Dat maakt toepas­sing in nieuwe data­cen­ters moge­lijk, maar onder voor­waarden ook retrofit in bestaande ruimtes.

DLC vervangt lucht­koe­ling overi­gens niet volledig, stelt Uptime. In een high-density rack blijven compo­nenten aanwezig die conven­ti­o­nele lucht­koe­ling nodig hebben, zoals netwerk­kaarten, opslag en aanvul­lende proces­sors. Bij een rack van 130 kW kan meer dan 100 kW via directe vloei­stof­koe­ling worden afge­voerd, terwijl nog altijd meer dan 30 kW aan lucht­koe­ling nodig is. Sommige high-density faci­li­teiten speci­fi­ceren volgens Uptime zelfs combi­na­ties tot 125 kW DLC en 60 kW lucht­koe­ling per rack. Voor ontwer­pers en instal­la­teurs bete­kent dit dat hybride koel­con­cepten eerder regel dan uitzon­de­ring worden.

Immersion cooling

Immersion cooling, waarbij IT-appa­ra­tuur in een diëlek­tri­sche vloei­stof wordt onder­ge­dom­peld, blijft volgens het rapport vooral rele­vant voor speci­fieke situ­a­ties. De tech­niek kan inte­res­sant zijn bij struc­tu­reel zeer hoge vermo­gens­dicht­heden, en wordt in bepaalde HPC-omge­vingen al langer toege­past. Toch vraagt immersion cooling om een grotere breuk met de huidige data­cen­ter­prak­tijk. De tanks zijn zwaar, vragen soms om versterkte vloeren en laten zich minder flexibel combi­neren met conven­ti­o­nele racks. Ook onder­houds­pro­ce­dures veran­deren ingrij­pend.

Naast koeling wordt stroom­voor­zie­ning een bepa­lende factor. In veel regio’s zetten high-density data­cen­ters lokale netten onder druk. Wacht­tijden voor aansluit­ver­mogen kunnen projecten vertragen, waar­door sommige grote faci­li­teiten kijken naar eigen primaire stroom­op­wek­king op locatie, bijvoor­beeld met gastur­bines. Dat is echter kapi­taal­in­ten­sief en brengt nieuwe tech­ni­sche en opera­ti­o­nele uitda­gingen met zich mee.

Hogere spanningen nodig?

Daar komt bij dat AI-data­cen­ters moge­lijk met hogere span­ningen moeten gaan werken dan conven­ti­o­nele faci­li­teiten, om de kosten en omvang van kabels en busbars beheers­baar te houden. Uptime noemt onder meer distri­butie op 800 volt DC als optie, maar wijst erop dat geschikte appa­ra­tuur duurder en lastiger verkrijg­baar kan zijn. Ook hier geldt dat keuzes niet alleen moeten passen bij de eerste fase van het project, maar ook bij latere uitbrei­dingen en moge­lijke herbe­stem­ming van instal­la­ties. Een gene­rator die aanvan­ke­lijk als primaire stroom­bron wordt gebruikt, kan later bijvoor­beeld dienst­doen als nood­stroom­voor­zie­ning zodra een netaan­slui­ting beschik­baar komt.

Het rapport bena­drukt daarom het belang van een gestruc­tu­reerd RFP- en aanbe­ste­dings­proces. Speci­fi­ca­ties moeten niet alleen de tech­ni­sche eisen bevatten, maar ook eisen rond lever­tijden, uitbreid­baar­heid, herge­bruik, pres­ta­ties onder piek­be­las­ting en de conse­quen­ties wanneer leve­ran­ciers afspraken niet nakomen. Vooral lever­tijden zijn een gevoelig punt, omdat lange wacht­tijden voor cruciale appa­ra­tuur inmid­dels gebrui­ke­lijk zijn.

Selectieproces

Uptime advi­seert om per type kriti­sche compo­nent, zoals UPS-systemen, gene­ra­toren en koel­units, meer­dere leve­ran­ciers te beoor­delen. Een eerste selectie kan plaats­vinden op basis van tech­no­logie, beschik­baar­heid en geogra­fi­sche onder­steu­ning. Daarna moeten biedingen worden beoor­deeld met een vaste template die aansluit op de project­doelen en het ontwerp. Dat moet voor­komen dat beslis­singen te veel worden gestuurd door losse product­spe­ci­fi­ca­ties of commer­ciële beloften.

Voor data­cen­ter­ont­wik­ke­laars, consul­tants, instal­la­teurs en tech­ni­sche dienst­ver­le­ners ligt hier een belang­rijke les. AI-infra­struc­tuur vraagt niet alleen om zwaar­dere instal­la­ties, maar vooral om een scher­pere koppe­ling tussen busi­nessdoelen, tech­ni­sche ontwerp­keuzes en leve­ran­ciers­stra­tegie. Wie nu kiest voor een koel- of stroom­ar­chi­tec­tuur die over enkele jaren niet meer meegroeit, loopt het risico vroeg­tijdig opnieuw te moeten inves­teren.

De ontwik­ke­ling van AI-data­cen­ters wordt daarmee ook een test voor de volwas­sen­heid van de hele data­cen­ter­keten. Ontwerp, inkoop, bouw en operatie kunnen minder dan voor­heen als losse fasen worden behan­deld. De tech­ni­sche keuzes die in de aanbe­ste­ding worden gemaakt, bepalen in hoge mate of een AI-data­center straks flexibel genoeg is voor nieuwe GPU-gene­ra­ties, hogere vermo­gens­dicht­heden en veran­de­rende bedrijfs­mo­dellen. Snel bouwen blijft belang­rijk, maar bij AI-infra­struc­tuur wordt vooral duide­lijk dat snel­heid zonder goede speci­fi­ca­ties een duur risico kan worden.