NVIDIA driver vätskekylning till över 20 % till 2025

 

Penetrationshastigheten för vätskekylningslösningar kommer att öka avsevärt, och hoppa från cirka 10 % 2024 till över 20 % 2025. Enligt den senaste TrendForce-undersökningen förväntas NVIDIAs Blackwell-plattform levereras under fjärde kvartalet, vilket kommer att öka antagande av flytande kyllösningar. Den växande globala medvetenheten om ESG, tillsammans med CSP:er som accelererar distributionen av AI-servrar, underlättar en övergång från luftkylning till vätskekylning.

 

 

På den globala AI-servermarknaden är NVIDIA fortfarande den dominerande leverantören i år. Inom GPU AI-serversegmentet har NVIDIA en stark ledning med en marknadsandel på nära 90 %, medan AMD ligger efter omkring 8 %. TrendForce noterar att även om NVIDIAs Blackwell-leveranser för närvarande är små på grund av pågående provning av leveranskedjan, kräver den nya plattformens höga energiförbrukning – särskilt GB200 rackmonterad lösning – förbättrad kylningseffektivitet, vilket sannolikt ökar användningen av vätskekylning. Det befintliga serverekosystemets låga vätskekylningsförhållande innebär dock utmaningar, eftersom ODM:er måste navigera i en inlärningskurva för att effektivt lösa problem med läckage och kylningseffektivitet. TrendForce räknar med att år 2025 kommer över 80 % av GPU:erna på Blackwell-plattformen att vara avancerade, vilket får strömförsörjnings- och kylföretag att konkurrera på marknaden för vätskekylning för AI, vilket resulterar i ny industridynamik.

 

 

I Google expanderar aggressivt flytande kylningslösningar

 

Under de senaste åren har stora amerikanska molnföretag som Google, AWS och Microsoft snabbt byggt AI-servrar som primärt drivs av NVIDIA GPU:er och proprietära ASIC:er. TrendForce rapporterar att NVIDIAs GB200 NVL72-skåp har en termisk designeffekt (TDP) på cirka 140 kW, vilket kräver en vätskekylningslösning, huvudsakligen vätska-till-luft (L2A). Andra arkitekturer, såsom HGX och MGX Blackwell-servrar, använder primärt luftkylning på grund av lägre densitet.

 

För molnföretag som utvecklar sina AI ASIC:er har Googles TPU antagit både luft- och vätskekylningslösningar, vilket gör den till en ledare inom vätskekylning bland amerikanska företag. BOYD och Cooler Master är nyckelleverantörer av kallplattor. Kinas Alibaba är det mest aggressiva när det gäller att expandera vätskekylda datacenter, medan andra molnföretag fortsätter att gynna luftkylning för sina AI ASIC.

 

TrendForce indikerar att molnföretag kommer att specificera nyckelkomponentleverantörer för GB200-skåpets lösning för vätskekylning. De primära leverantörerna för kallplattor inkluderar Qihong och Cooler Master, medan grenrör kommer från Cooler Master och Shuanghong, och kylvätskedistributionsenheter (CDU) levereras av Vertiv och Delta. Inköp av viktiga läckagesäkra komponenter, såsom snabbkopplingar (QDs), domineras fortfarande av utländska tillverkare som CPC, Parker Hannifin, Danfoss och Staubli.

 

▲ AI-server nyckelkomponentleverantörer för flytande kylningslösningar

 

 

II Hur åtgärdar man AI-chips överhettning? Utforska 3 serverkylningsmetoder

 

Innan du går djupare in i kylkonkurrensen är det viktigt att förstå de primära kylmetoderna, som kan kategoriseras i tre typer: luftkylning, vätskekylning och nedsänkningskylning.

 

1. Luftkylning: Fortfarande mycket efterfrågad

Luftkylning är den mest använda kylmetoden i datacenter och företagsserverrum, liknande att tillhandahålla kall luft till servrar genom fläktar, kylflänsar och värmerör. För att uppnå optimal kylprestanda krävs avancerad luftkylningsteknik som ångkammare (3D VC) kombinerat med värmerör och många fläktar. Men medan ökat luftflöde och ökat hastighet förbättrar värmekonvektion, kan överdrivet buller och vibrationer påverka servermiljön negativt. Enligt Wu Junying, biträdande generaldirektör, har luftkylning fortfarande en betydande efterfrågan på marknaden eftersom H100-chips kan kylas tillräckligt med luft. Men med leveransen av GB-seriens chips kommer takten för vätskekylning att öka.

 

2. Vätskekylning: Den stora marknaden som drivs av alla leverantörer

Vätskekylning, även känd som direkt vätskekylning (DLC), kan vidare delas in i vätska-till-luft och vätska-till-vätska.

Liquid-to-Air: Denna metod använder vattenkylningsrör för att transportera bort värme från flis, där det uppvärmda vattnet skickas till fläktar på baksidan av skåpet för att sprida värme. Vätske-till-luft-kylning är ett svar på de fysiska gränserna för luftkylning i befintliga datacenter, eftersom det kräver minimal modifiering av serverrumsinfrastrukturen – bara att lägga till en fläktbakdörr kan förbättra kylningen. För närvarande använder ungefär 60-70% av datacenter fortfarande denna kylningsmetod. Men även om vätska-till-luft är en hållbar lösning, är den inte optimal; den tillagda fläktväggen kan höja ljudnivåerna till 90-100 decibel (motsvarande en trafikerad gata på cirka 80 decibel), vilket gör det svårt för personalen att arbeta i rummet under längre perioder.

 

Vätska-till-vätska: Denna metod innebär att förseglade rörledningar fyllda med kylvätska omsluts runt serverns värmealstrande komponenter. Värme överförs genom termiska kopparplåtar till kylvätskan, vilket möjliggör en cykel av varma och kalla vätskor. Till skillnad från vätska-till-luft kräver denna metod inte fläktväggar bakom serverskåpen, vilket avsevärt förbättrar utrymmesutnyttjandet och minskar ljudnivåerna. NVIDIAs avancerade GB200 NB072 använder vätska-till-vätska-kylning.

 

3. Nedsänkningskylning: The Future Cooling Holy Graal?

Nedsänkningskylning innebär att hela servrar sänks ned i icke-ledande vätska, som liknar ett varmt bad, vilket effektivt kyler inte bara chips utan även CPU:er, minne och andra elektroniska komponenter i servrar. Frågor som miljöhänsyn relaterade till nedsänkningsvätskor, de långsiktiga effekterna på elektroniska komponenter och löpande underhåll utgör dock betydande utmaningar. Datacenter som överväger nedsänkningslösningar måste också utvärdera den strukturella integriteten hos byggnadsgolv och den underliggande infrastrukturen för el- och vattensystem. Implementering av nedsänkningskylning kräver omfattande omkonstruktion av anläggningen, vilket leder till betydande kostnader.