Vapenkapplöpningen med artificiell intelligens förändrar datacenterindustrin på en mängd olika sätt, inklusive hur operatörer tacklar en av sina största utmaningar: kyla anläggningarna.
Chipsen som behövs för AI och andra alltmer framträdande högpresterande datoruppgifter skapar betydligt mer värme än traditionella servrar. Istället för att kyla datacenter med luft, använder operatörer i allt högre grad flytande köldmedium för att kyla servrar direkt.
Vätskekylning har länge diskuterats i branschkretsar, men det ser plötsligt en utbredd användning i datacenter som drivs av moln- och sociala mediejättar. Hur snabbt vätskekylning tar fäste i resten av branschen återstår att se, men det finns en bred enighet om att skiftet mot att denna teknik ska bli standard är på god väg.
“Vi ser det här som att det händer i en viral skala,” sa Bijan Nowroozi, Open Compute Project Foundations tekniska chef, på Bisnows National DICE Data Center Management, Operations and Cooling Series på Hilton Anatole Dallas hotel tidigare denna månad. “Det finns så mycket aktivitet inom vätskekylning och så stort globalt intresse. Det är utanför listorna.”
Att hantera värmen som produceras av tusentals servrar och annan datorutrustning är en av de främsta utmaningarna för datacenterbyggare och operatörer. Traditionellt har datacenter använt kyld luft för kylning – i huvudsak enorma, finjusterade luftkonditioneringssystem som i många fall levererar kall luft direkt till varje enskild server.
Men nu använder datacenter alltmer vätskekylningssystem, som leder flytande köldmedium till kylplattor som är anslutna till servrar eller i plattor och rör som är integrerade i själva datorutrustningen. I andra fall är specialdesignade servrar helt nedsänkta i ett kylt, icke-ledande köldmedium. När de väl är på plats tar vätskekylningssystem vanligtvis bort värme mer effektivt än luftkylning, och använder vanligtvis mindre ström och vatten än traditionella system.
Vätskekylning för datacenter har funnits i decennier, men hittills har användningen av vätskekylning varit begränsad främst till mycket specifika applikationer som superdatorer. Trots de förbättrade erbjudandena om vätskekylning jämfört med traditionella system har datacenteroperatörer och deras hyresgäster varit tveksamma till att byta. Och inte utan anledning.
Medan flytande kylning är billigare att driva, är systemen dyrare att bygga och kräver betydande designförändringar från luftkylda byggnader. Ofta kräver de olika servrar och annan datacenterutrustning. Det fanns också en utbredd oro över riskerna med att ha enorma mängder vätska i en verksamhetskritisk miljö där en läcka kunde leda till katastrof.
Det kanske viktigaste är att luftkylningen fungerade. Att byta till vätskekylning innebar att man kastade bort en stor mängd kunskap om hur kylsystem ska drivas och optimeras, omskola erfarna team från grunden och sätta nya ledningssystem på plats. De marginella vinsterna var helt enkelt inte värda det.
Men nu gör en AI-kapprustning mellan tekniska jättar flytande kylning till en nödvändighet. Efter den enorma framgången med ChatGPT har företag som Microsoft, Google och Meta hällt resurser på AI och den digitala infrastruktur som behövs för att stödja den.
AI-beräkningar kräver högpresterande processorer som kallas GPU:er som använder mycket mer kraft än traditionella datacenterchips. Som ett resultat skapar AI-beräkningar betydligt mer värme än traditionell datacenterutrustning, vilket överträffar kapaciteten hos luftkylningssystem.
“Chipkraft driver verkligen mycket vätskekylning,” sa John Sasser, teknisk chef vid Sabey Data Centers, vid DICE-evenemanget. “För att få den typen av prestanda kan du helt enkelt inte göra det med luftkylda kylare. Kunderna kommer att kräva den prestandan. Den prestandan kommer att kräva vätskekylning, och så du kommer att se ökad användning i datacentret, först för applikationer som AI.”
Bisnow
Trane Commercials Matthew Caldwell, Ehvert Mission Criticals Vello Ehvert, CleanArc Data Centers Lindsey Bruner, Compass Datacenters Adil Attlassy, Sabey Data Centers John Sasser och Open Compute Project Foundations Bijan Nowroozi vid Bisnows National DICE Data Center Management, Operations and Cooling Series .
Att kyla den högpresterande datorinfrastrukturen som krävs för AI har redan en betydande inverkan på utvecklingen av hyperskala datacenter. I december pausade Meta all global konstruktion av datacenter för att i grunden göra om sina anläggningar för att vara optimerade för AI och använda flytande kylning. Branschinsiders säger att andra teknikjättar på samma sätt byter till vätskekylningsdesigner i massor.
“Det händer redan i hyperskaliga rymden,” sa Nowroozi. “Alla vill göra det: Google vill göra det, Microsoft vill göra det. Det här är mycket datatunga, AI-intensiva applikationer där beräkningstätheten i slutändan är så hög att den kräver vätskekylning.”
Medan vätskekylning snabbt håller på att bli den nya standarden i hyperskala rymden, rådde en allmän konsensus bland paneldeltagarna vid Bisnows DICE-toppmöte att det kommer att ta längre tid för en utbredd användning att sippra ner till operatörer och hyresgäster av företags- och samlokaliseringsdatacenter.
“Jag tror att vi kommer att se en utveckling, men det kommer inte att bli en revolution”, säger Adil Attlassy, teknisk chef på Compass Datacenters. “Det kommer att vara ett långsamt upptag av vätskekylning – förmodligen fem år senare, enligt min uppfattning.”
Enligt Attlassy behöver de allra flesta arbetsbelastningar som behandlas i datacenter av företagsanvändare inte dessa nya högpresterande chips för närvarande, och inte heller är IT-system inrättade för att använda dem effektivt. Luftkylning fungerar fortfarande bra för det mesta av vad företag utanför de stora moln- och sociala medier-leverantörerna gör med sin digitala infrastruktur, sa han.
Compass största kunder kräver en blandning av vätske- och luftkylning, men nästan 90 % är vanligtvis fortfarande luftkyld, enligt Attlassy. Han förväntar sig inte att detta förhållande kommer att förändras nämnvärt under ytterligare tre eller fyra år.
Men tre eller fyra år är faktiskt inte så mycket tid i en bransch där utvecklingsprocessen kan sträcka sig ännu längre och företag planerar för den kapacitet de kommer att behöva om ett decennium. För samlokaliseringsoperatörer och företag som bygger datacenter enligt specifikation, har hastigheten med vilken vätskekylning blir branschnormen verkliga konsekvenser för hur de designar de datacenter som de utvecklar idag.
Företag försöker undvika att behöva välja mellan att möta de nuvarande behoven hos hyresgäster som till stor del kräver luftkylning men som riskerar inkurans och spela på en vätskekylande framtid som kanske eller inte kan dyka upp som förutspått. Men att designa för flexibilitet kan innebära att väga avvägningar, enligt Sabeys Sasser. Han sa att medan de allra flesta av företagets hyresgäster kräver luftkylning, bytte Sabey till en mindre effektiv datacenterdesign eftersom den kan ta emot vätskekylning när efterfrågan dyker upp.
“Vi drivs av det vi ser på marknaden. Det vi ser är fortfarande mestadels luftkylt”, sa Sasser. “Jag tror att vätskekylning kommer att få mycket mer dragkraft i framtiden, och vi har fattat beslut kring det, men inte till den grad att vi bygger vätskekylda datacenter.”
