Är flytande kylning den ultimata kyllösningen för AI-servrar?

 

I Traditionell luftkylning är överbelastad; Vätskekylningsteknik uppstår

 

De tre pelarna i AI är chips, datorkraft och algoritmer. Chips och datorkraft är drivkrafterna för produktiviteten, och för att uppnå extraordinär datorkraft söker människor ständigt snabbare processorer och effektivare hårdvara. När AI-beräkningskraften ökar och prestandan hos CPU:er och GPU:er förbättras, ökar strömförbrukningen och värmegenereringen i enlighet med detta. Till exempel har NVIDIAs H200-serie GPU-kretsar en TDP (Thermal Design Power) på upp till 700W.

 

Traditionell luftkylning har sina begränsningar. Principen för luftkylning är att låta luft strömma över ytan av kylflänsar för att avleda värme. För närvarande kan de bästa luftkylarna på marknaden hantera upp till 275W effekt. Traditionell luftkylning kan inte längre uppfylla kylningskraven för vanliga AI-servrar.

 

Vätskekylningsteknik har dykt upp. Principen för vätskekylning är att cirkulera en flytande kylvätska i servern och absorbera värme från de värmealstrande komponenterna genom termiskt utbyte. Vätskekylning ger högre kylningseffektivitet och tillåter exakt kontroll av kylvätskan för att anpassa sig till olika arbetsmiljöer, även om det kommer med högre kostnader.

 

Vätskekylning har fått officiellt erkännande. I juni 2023 släppte Kinas tre stora telekomoperatörer gemensamt "White Paper on Liquid Cooling Technology for Telecom Operators (2023)," som tydligt främjade två tekniska vägar: vätskekylning med kall platt och enfas nedsänkningsvätskekylning. De beskrev också en kampanjplan för 2023-2025:

 

▲ En kampanjplan för 2023-2025

 

 

II Vad är flytande kylning?

 

Vätskekylning är en kylmetod som använder vätska som kylmedel för att överföra värmen som genereras av de interna komponenterna i IT-utrustning i datacenter till utsidan, vilket säkerställer att de värmealstrande delarna av IT-utrustning fungerar inom ett säkert temperaturområde. De vanliga vätskekylningslösningarna är huvudsakligen uppdelade i kylplattor och nedsänkningstyper. Nedsänkningsvätskekylning kan vidare delas in i fasförändring och icke-fasförändrad nedsänkningskylning, beroende på om kylvätskan genomgår en fasförändring.

 

▲ Vätskekylningsteknik

 

Kallplatta flytande kylning fungerar genom att använda en kylfläns gjord av metaller som koppar eller aluminium, som har god värmeledningsförmåga. Värmen som genereras av komponenter överförs till det flytande kylmediet i kylflänsen, som sedan för bort värmen.

 

Nedsänkt vätskekylning är en direktkontaktsvätskekylningsmetod där IT-utrustning, såsom servrar (inklusive CPU, minne, I/O, etc.), är helt nedsänkt i kylvätskan. Kylning sker genom vätskans cirkulation. Fasförändringstekniken för nedsänkningskylning, som utvecklas snabbt, fungerar genom att kyla de värmealstrande komponenterna, få kylvätskan att förångas och sedan kondensera ångan tillbaka till flytande form för återanvändning. Denna metod ger högre kylningseffektivitet och lägre ljud.

 

 

III Bör alla serverkylningslösningar ersättas med flytande kylning?

 

Uppenbarligen inte. Datacenterkylningsmetoder inkluderar både forcerad luftkylning och vätskekylning. Medan luftkylningstekniken är relativt mogen, är vätskekylning ett nyare krav som drivs av de ökade kylbehoven i datacenter under de senaste åren.

 

För närvarande har datacenter i första hand tre kylningslösningar:

1. Designa nya datacenter som enbart förlitar sig på vätskekylning, skapa mindre, mer effektiva datacenter med enorm datorkraft.

2. Designa datacenter som i första hand använder luftkylning men inkluderar alternativ för vätskekylning för att förenkla framtida övergångar.

3. Datacenteroperatörer som integrerar vätskekylning i befintliga luftkylda anläggningar, ofta delvis omvandlar luftkylningssystem till vätskekylning.

 

▲ Rekommenderade kylningsmetoder för olika typer av datacenter

 

 

 

IV Vilka utmaningar möter vätskekylning?

 

1. Kostnadsfrågor

Kostnaden för vätskekylsystem inkluderar höga materialkostnader (kylvätska, kylflänsar, rörledningar, etc.), såväl som komplexiteten i design och tillverkning, höga installations- och underhållskostnader och behovet av högre investeringar för att uppnå hög tillförlitlighet.

 

2. Tillförlitlighetsproblem

 

Stabilitet:Den kemiska stabiliteten hos det flytande kylmediet kan vara otillräcklig, vilket leder till nedbrytning, oxidation eller produktion av skadliga ämnen under användning, vilket påverkar kyleffekten och systemets stabilitet.

 

Läckage:I händelse av vätskeläckor, blockering av rörledningar eller andra incidenter kan befintliga indirekta vätskekylningssystem misslyckas med att upptäcka fel i tid, vilket äventyrar serversäkerheten.

 

Kompatibilitet:Viss datacenterutrustning kanske inte är lämplig för vätskekylningssystem, vilket kräver ytterligare anpassning och modifiering.

 

 

V Vilka är uppströms- och nedströmsindustrin inom flytande kylning?

 

Vätskekylningsindustrins ekosystem inkluderar leverantörer av uppströmskomponenter, leverantörer av vätskekylda servrar i mitten och nedströms datorkraftanvändare, med fokus på kylsystem för kylplatta och nedsänkning av vätskekylning.

 

▲ Princip för kylplatta för flytande kylsystem

 

▲ Princip för nedsänkning av vätskekylsystem

 

 

1. Uppströms

 

▲ Uppströms om Cold Plate Liquid Cooling System
 

Cold Plate Liquid Cooling System består huvudsakligen av CDU, kallkälla, kylvätska, vätskekylningsrörledningar och vätskekylskåp. Nedsänkningsvätskekylsystemet består huvudsakligen av CDU, kallkälla, vätskekylningsrörledningar, nedsänkningskammare, IT-utrustning och kylvätska.

 

Kylning Distribution Enhet (CDU)

CDU används för värmeväxling mellan högtemperaturkylvätskan på sekundärsidan och kylkällan på primärsidan, vilket ger kyldistribution för vätskekyld IT-utrustning och hanterar temperatur, tryck och flödesövervakning. Den har funktioner som värmeväxling, cirkulationsdrivning, kylvätskerening och vätskelagring. CDU består huvudsakligen av en värmeväxlare/kondensor, cirkulationspump, filter, vätsketank och tillbehör (ventiler, rörledningar, kopplingar, sensorer, etc.).

 

Kall källa

Utomhuskylkällan för vätskekylsystemet kan väljas baserat på förhållanden från torrkylare, slutna kyltorn eller kylare.

 

Rörledningar för vätskekylning

Rörledningar är nödvändiga komponenter som ansluter värmeväxlarens kylplatta, kyldistributionsenhet, värmeväxlarenhet och utomhuskylkälla. Generellt kan cirkulationsrörledningarna delas in i direktanslutnings (asynkron) och loopanslutning (synkron) baserat på deras olika anslutningsmetoder.

 

Kylvätska

Vanliga kylmedel för kallplattesystem inkluderar vatten, etylenglykol, propylenglykol, etc. Dessa kylmedel har hög specifik värmekapacitet och låg viskositet, vilket gör att de snabbt kan absorbera värmen som genereras av utrustningen och överföra den till värmeväxlaren för avledning.

 

Vanliga nedsänkningskylmedel (isolerande) inkluderar mineralolja, fluorkolföreningar, etc. Bland dem kan fasförändringskylning endast använda icke brännbara fluorkolföreningar. Kompatibiliteten mellan kylmediet och materialen i olika komponenter är en av nyckelfaktorerna som påverkar prestandan hos nedsänkningsfasförändringsvätskekylsystemet.

 

För närvarande finns det få typer av fluorerade vätskor tillgängliga för nedsänkning av fasförändringskylning, med huvudleverantören 3M. Kinas nedsänkningsvätskekylning är fortfarande i sin linda.

 

Förseglad kammare

Kammaren används för att innehålla fasväxlingskylvätskan. Kammaren måste förslutas vid den kalla plattan, rörledningar, anslutningar och andra delar för att säkerställa säkerheten utan läckage, och därigenom säkerställa integriteten för kraft- och signalöverföringen och säkerheten för datacentret. Därför krävs anpassade tätningskomponenter, såsom gummipackningar, vätskeutloppskontakter, strömkontakter, signalkontakter etc.

 

Vätskekylskåp

Vätskekylskåpet består huvudsakligen av en vätskekylplatta, grenrör, rörledningar, kopplingar, snabbkopplingar, vätskefördelare och valfri kompressor.

 

Vätskekylplattan fungerar som en värmeöverföringsenhet, motsvarande förångaren i ett kylsystem, och är en nyckelteknologi designad för kylsystemet. Den består vanligtvis av en täckplatta, fenor, basplatta och tätning.

Fördelaren är en enhet som ansluter kyldistributionsenheten till vätskekylserverns kylplatta. Vanligtvis inbyggd i skåpet fördelar den kylvätskeflödet jämnt till varje kylplattalager och samlar upp kylvätskan efter att den absorberat värme, och skickar den genom anslutningsrör till kyldistributionsenheten.

 

Snabbkopplingen består av en huvuddel och en ändterminal. Huvudkroppen är den primära enheten för att uppnå vätskesnabbkopplingens anslutnings- och tätningsfunktioner, medan ändterminalen fungerar som installationsport för montering och säkring av vätskesnabbkopplingen.

 

Styrsystem

Styrsystemet övervakar och reglerar driften av kylsystemet, inklusive temperatur- och trycksensorer, som mäter värmeavledning och justerar pumphastighet eller kylvätskeflöde.

 

Filtrerings- och reningsanordningar

Filter används för att ta bort skräp och partiklar från den flytande kylvätskan, vilket säkerställer systemets prestanda och livslängd. Metoder som UV-sterilisering eller kemisk behandling kan rena kylvätskan.

 

2. Medelström

Mittströmmen består främst av vätskekylningssystem, där nyckelkomponenter som radiatorer, pumpar, rör och kylmedel är integrerade i ett enda system. Dessa företag kräver en viss nivå av teknisk expertis och produktionskapacitet för att säkerställa produktkvalitet och prestanda.

 

3. Nedströms

Nedströmsanvändare av datorkraft inkluderar datacenter, superdatorer, AI-servrar, elektroniska enheter, nya energifordon, lasrar, växelriktare och annan industriell utrustning. Vätskekylningsteknik används till och med inom flyg- och rymdområdet. På grund av dess högeffektiva kylningsegenskaper används vätskekylda datacenter och deras infrastruktur huvudsakligen inom högpresterande datorområden. För närvarande inkluderar industrier som använder teknik för flytande kylning internet, finans, telekommunikation, energi, biologi och hälsovård.

 

Bland dessa är internet kärnkunden för vätskekylda datacenter, med betydande efterfrågan på data, en bred användarbas och stora affärsvolymer. Kraven på datorkraft för datacenter är höga, med effekttätheter i ett skåp som överstiger 10 kW.

 

 

VI I vilket skede är industrialiseringen av flytande kylning?

 

För närvarande har olika valideringar av vätskekylda datacenter till största delen slutförts, och de kommande tre åren kommer vätskekylningstekniken att expandera i stor skala. På den tekniska fronten förblir kylplåtskylning den vanliga vätskekylningslösningen på marknaden; På industriutvecklingsfronten har fullstackleveransmodellen, från infrastruktur till AI-utrustning, blivit en konsensus i branschen; På kundfronten har internet- och telekommunikationssektorerna, de två största applikationskunderna inom datacenterindustrin, visat ett positivt erkännande av vätskekylningsteknik.

 

Enligt halvårsrapporten för 2023 som avslöjats av relevanta industriföretag, har deras vätskekylda datacenter ackumulerat över 260 MW kapacitet, som involverar flera branscher som teknik, energi, myndigheter, finans och internet.

 

 

VII Hur stor är marknaden för AI Liquid Cooling?

 

Enligt data från Caitong Securities kommer marknadsstorleken på Kinas vätskekylda datacenter att växa från 6,999 miljarder yuan 2022 till över 35,877 miljarder yuan 2025, med AI-datacentrets vätskekylningsmarknadsstorlek ökande från 5,552 miljarder yuan 2022 till 27,964 miljarder yuan 2025, vilket motsvarar en sammansatt årlig tillväxt på 76,2 %. Baserat på produktklassificering förväntas nedsänkningsvätskekylningsprodukter, med sin högre kylningseffektivitet och förmåga att effektivt minska PUE (Power Usage Effectiveness) för datacenter, ta en större marknadsandel, växa från 18 % 2019 (med kyla) plattvätskekylningsprodukter som står för 82 %) till 41 % 2025.

 

Eftersom marknaden kräver högre kylning och energieffektivitet för datacenterinfrastruktur, förutspår industrin att penetrationshastigheten för flytande kylprodukter kommer att nå 20 % år 2025, med marknadsandelar som ökar kontinuerligt. Våren med storskaliga applikationer för AI-vätskekylda servrar närmar sig tyst!

 

 

VIII Vilka är de välkända vätskekylningsföretagen?

 

De största aktörerna på den utomeuropeiska marknaden för vätskekylning för kylplattor inkluderar IBM, CoolIT Systems, Asetek och Motivair, medan huvudaktörerna på marknaden för vätskekylning är GRC, LiquidStack och Midas.