Vätskekylda AI-servrar möter flaskhalsar
Sep 30, 2024
Lämna ett meddelande
Med ökningen av leveranserna av Blackwell-chips kommer kundernas vilja att använda vätskekylning också att öka.
Branschinsiders rapporterar att utbudet av universella snabbkopplingsenheter (UQD) för vätskekylningslösningar börjar bli trångt, vilket kan bli en stor flaskhals för tillväxten av vätskekylning av AI-server.
Server ODM-tillverkare indikerar att Nvidias Blackwell AI-chip, inklusive B100 och B200, kommer att börja levereras i år, medan GB200-lösningen inte kommer in i massproduktion förrän i slutet av 2024 eller 2025. De flesta kunder av B100 och B200 använder fortfarande luftkylningsdesigner , men ODM-tillverkare rapporterar en fortsatt ökning av penetration av vätskekylning, och förväntar sig att kundernas vilja att använda vätskekylning också kommer att öka med ökningen av leveranser av Blackwell-chips.

▲ Vätskekylda AI-servrar
I Utökar kapaciteten för att möta den ökande efterfrågan på vätskekylning
Relevanta företag utökar produktionen för att välkomna den nya eran av flytande kylning. Termomodultillverkaren Amlogic planerar att öka sin månatliga produktionskapacitet för vattenkylningsplattor från 30,000 till 300,000 enheter.
Auras har etablerat en ny fabrik i Thailand för att möta kundernas geopolitiska problem och krav. Denna fabrik förväntas påbörja massproduktion under tredje kvartalet. Förutom att utöka den lokala produktionskapaciteten för kylplattor, planerar Auras också att producera kyldistributionsenheter (CDU) och kylvätskedistributionsgrenrör (CDM) lokalt, med en planerad månadskapacitet på cirka 2,000-3,{{2 }} uppsättningar.
Termomodultillverkaren AVC uppgav i sitt senaste resultatsamtal att dess månatliga produktionskapacitet för kylplattamoduler i Kina och Vietnam är cirka 115,000 enheter, vilket översätts till en månatlig produktion på cirka 420,000 enheter när beräknas av kylplattor.
AVC planerar att utöka sin kapacitet med 50 % i slutet av året. AVC planerar också att öka sin månatliga produktionskapacitet för CDU:er till 1,000 enheter och för CDM:er till 30,000 uppsättningar. AVC betonade att denna planerade kapacitet kan anpassas flexibelt utifrån kundorderkrav.
Thermo Technology Company Goli Thermal Processing utökar sin kapacitet vid Zhongli-fabriken i Taiwan på grund av ökad efterfrågan från kunder på vätskekylning. I slutet av tredje kvartalet förväntas den månatliga kapaciteten för CDM:er öka från 1,000 enheter till 2,000 enheter och i slutet av året till 4,{{5} } enheter, med en årlig CDU-produktion förväntas också nå 2,000 enheter vid årsskiftet.
Dessa tillverkare har höga förväntningar på efterfrågan på vätskekylning, främst på grund av beräkningseffektiviteten och PUE-standarderna för datacenter i Kina och EU, men den viktigaste faktorn är att Nvidia häver självpåtagna restriktioner för termiska specifikationer för chiptillverkare.
II Snabb tillväxt av vätskekylning leder till UQD-brist
Eftersom branschen ivrigt förväntar sig ankomsten av vätskekylningseran har UQD blivit den största flaskhalsen för tillväxt. Tillverkare av termiska moduler har påpekat att utbudet av UQD:er nyligen har blivit snävt. Även om den nuvarande marknadsandelen för vätskekylning endast är ensiffrig, om den stiger till tvåsiffriga i framtiden, kan UQDs bli svåra att få tag på.
UQD-leverantörer kommer i första hand från Europa och USA, som amerikanska storföretagen Parker Hannifin och CPC, schweiziska Staubli International, danska Danfoss och svenska Cejn. Den taiwanesiska kontaktkomponentjätten Lotes går också aktivt in på marknaden och har påbörjat provleveranser.
Anbo Technologys ordförande, Liang Zhijian, påpekade att eftersom vätskekylning främst syftar till att undvika läckor och UQD är de komponenter som är mest benägna att läcka, är UQD-tillförseln den mest begränsade bland vätskekylningskomponenter. Detta är inte bara en teknisk fråga; relevanta tillverkare har också patentskydd, och Anbo Technology forskar över sätt att bryta igenom dessa patentbarriärer.
Branschinsiders har noterat att även om UQD-tillverkare har patentskydd måste de också gå igenom flera valideringar, inklusive OCP-certifiering och klientvalideringar, som är tidskrävande och arbetskrävande. Dessutom har befintliga europeiska och amerikanska tillverkare inte för avsikt att utöka kapaciteten, vilket kommer att bli en stor flaskhals för den snabba utvecklingen av vätskekylning.
Supermicro är en av de snabbast växande tillverkarna av flytande kylning. Grundare och VD Liang Jianhou påpekade att vätskekylning endast har stått för 1% av servermarknaden under de senaste 30 åren, men han uppskattar att 2025 kommer penetrationsgraden att hoppa till 30%.
III Vätskekylning som en potentiell lösning; AI-bom sätter press på nätet
Den snabba utvecklingen av generativ artificiell intelligens har drivit på en oöverträffad expansion i datacenter, vilket har väckt oro över deras inverkan på elnätet. Dessa energikrävande anläggningar kan leda till strömavbrott och ökade energikostnader. Enligt uppskattningar från Electric Power Research Institute kan datacenter år 2030 förbruka 9 % av USA:s el, vilket är en fördubbling av den nuvarande siffran. Elförbrukningen i ett stort datacenter motsvarar hundratusentals hushålls.
Det ökande kraftbehovet från artificiell intelligens är särskilt oroande. Tidiga AI-modeller förbrukade tio gånger så mycket energi som en Google-sökning, medan nyare chips kräver ännu mer kraft. Experter varnar för att den framtida utvecklingen av artificiell intelligens kan begränsas av vår förmåga att generera tillräcklig kraft.
Vissa länder står inför svåra utmaningar. Till 2026 kan till exempel Irland ha 30 % av sin el dedikerad till datacenter. I USA är datacentrets elförbrukning koncentrerad till 15 delstater, där Texas och Virginia är de högsta. Kalifornien är i en kritisk situation, med nya datacenter som förväntas generera elbehov som överstiger kärnkraftverkens.
IV-datacenter: enorm energiförbrukning och ökningen av vätskekylning
Beräkningskraven för artificiell intelligens driver upp servertemperaturer och koldioxidutsläpp, vilket resulterar i en betydande ökning av efterfrågan på kylsystem. Kylsystem står för 40 % av ett datacenters totala strömförbrukning, vilket gör dem till den näst största källan till energiförbrukning efter själva servrarna. Den globala serverkylningsmarknaden beräknas växa från 20 miljarder USD 2024 till 90 miljarder USD 2027. Marknaden för vätskekylningssystem i datacenter förväntas öka från 1 % till 22 %, med ett marknadsvärde som beräknas växa från 317 MUSD till 7,8 miljarder dollar under de kommande tre åren.
Lösningar för flytande kylning, som använder vatten eller kylmedel för att kyla servrar, blir allt mer populära. Nya tekniker inkluderar nedsänkningskylning (nedsänkning av hela serverrack i icke-ledande vätskor) och direkt vätskekylning (cirkulerande vatten runt servrar). Även om det för närvarande är dyrare än luftkylningssystem, kan flytande kylning minska ett datacenters strömförbrukning med 10 % eller mer.
Forskningsföretaget Global Market Insights förutspår att den globala marknaden för vätskekylning för datacenter kommer att växa från 2,1 miljarder USD 2022 till 12,2 miljarder USD 2032. En undersökning från Uptime Institute visade att 16 % av datacentercheferna tror att vätskekylning kommer att bli den primära kylningen metod om 1-3 år, medan 41 % tror att det kommer att ta 4-6 år. Därför är det mer sannolikt att hybridkylningsmetoder kommer att dyka upp på kort sikt.
Upsite Technologies, en ledare inom hantering av luftkylningssystem för datacenter, noterade att även om tekniken ständigt utvecklas, är det osannolikt att uppnå 100 % vätskekylda datacenter på kort sikt, eftersom vätskekylningsutrustning fortfarande kräver luftkylning för värmeavledning . Även om vätskekylning är mer effektiv är den utmanande att implementera i stor skala och kräver betydande investeringar i förväg. Luftkylning är billigare men också mindre effektiv. Således blir hybridkylningsanläggningar allt populärare för att maximera fördelarna med både vätske- och luftkylning.
V Datacenterenergikrisen kräver brådskande åtgärder
På grund av sin miljöpåverkan får datacenter en ökad granskning. Regeringar världen över implementerar förordningar för att kontrollera sin energiförbrukning och koldioxidavtryck. Kinas riktlinjer för "Green Data Center" och liknande initiativ i Tyskland, Singapore och Japan exemplifierar denna trend. Branschexperter som Schneider Electric betonar behovet av omfattande miljömått för att bedöma hållbarheten i datacenter, inklusive faktorer bortom energianvändning, såsom vattenresurser och avfallsgenerering.
Den amerikanska regeringen pressar stora teknikföretag att investera i ren energi och erkänner den betydande inverkan som de växande kraftkraven från artificiell intelligens har på miljön.
VI Hitta lämpliga strömkällor: Datacenter och energiutmaningar
Datacenter behöver en diversifierad energimix för att balansera tillförlitlighet och hållbarhet samtidigt som de möter växande krav. Förnybara energikällor som sol och vind är attraktiva på grund av deras låga koldioxidavtryck. Deras beroende av väderförhållanden kan dock leda till instabil utdata, vilket gör dem olämpliga som den enda kraftkällan för datacenter. Att bygga redundanta anläggningar för att kompensera för denna inkonsekvens kan vara nödvändigt men kostsamt.
Kärnkraft har dykt upp som en potentiell lösning. Traditionella kärnkraftverk ger tillförlitlig baslastkraft och genererar stabil elektricitet som är avgörande för datacenterdrift. Dessutom förväntas den globala kärnkraftsmarknaden uppnå en stadig tillväxt under det kommande decenniet.
Innovationer inom kärnkraftssektorn erbjuder mer lovande möjligheter. Små modulära reaktorer (SMR) utvecklas som mindre, säkrare och mer skalbara alternativ till traditionella kärnkraftverk. Även om de fortfarande befinner sig i forsknings- och utvecklingsstadiet, har SMR:er potential att distribueras direkt i datacenter, vilket ger dedikerad ren energi.

▲ Global vätskekylningsmarknad (US$b)
Den utbredda användningen av SMR möter dock betydande hinder. Regulatoriska och tillverkningsproblem kan försena deras kommersiella utbyggnad med flera år. Den amerikanska regeringen undersöker aktivt lösningar, inklusive partnerskap med teknikjättar för att minska kostnaderna och effektivisera processer.
Ett annat sätt att minska energibehovet för datacenter är att optimera arbetsbelastningen med artificiell intelligens. Genom att flytta vissa AI-uppgifter från molnet till lokala enheter med mindre, mindre resurskrävande AI-modeller kan den totala energiförbrukningen minskas.
Den framtida utvecklingen av datacenter kräver ett mångfacetterat tillvägagångssätt. Det är viktigt att anta en diversifierad energimix, inklusive pålitliga energikällor som kärnkraft, samtidigt som man aktivt söker förnybara och innovativa lösningar som SMR. Dessutom kan optimering av AI-arbetsbelastningar på lokala enheter främja hållbarheten i datacenter ytterligare.
