Vätskekylning: nästa optiska modul i AI-eran

Oct 04, 2024

Lämna ett meddelande

I. Vätskekylning har skiftat från "Valfritt" till "Viktigt"

 

1. Ökningen i efterfrågan på datorkraft och optiska moduler

I det snabbt utvecklande landskapet av artificiell intelligens (AI) har efterfrågan på datorkraft nått oöverträffade höjder. Framväxten av stora modeller, som de som används i OpenAI:s ChatGPT, har skapat en betydande lucka i den nödvändiga datorkraften. OpenAI rapporterar att tillväxttakten för modellberäkningskraft överträffar framstegen inom AI-hårdvara med en svindlande tiodubbling. När stora modeller expanderar till biljoner parametrar har behovet av förbättrad prestanda från AI-träningschip blivit kritiskt, vilket driver förväntningarna på snabbare dataöverföring.

 

Denna exponentiella tillväxt i datorskala har gjort sammankoppling inom datacenter till en central fråga. Allt eftersom AI-träning fortskrider blir begränsningarna för datoranvändning med ett kort/server uppenbara. Chip-till-chip sammankoppling har blivit en prioritet, vilket kräver effektiva och höghastighets optiska moduler för att underlätta snabbt datautbyte. Följaktligen är utplaceringen av optiska höghastighetsmoduler väsentligt för att förbättra sammankopplingseffektiviteten, särskilt när datacenter uppgraderar sina datorkraftsarkitekturer.

 

Optical modules facilitating high-speed data transmission in data centers

▲ Optiska moduler som underlättar höghastighetsdataöverföring i datacenter

2. Vändpunkten för vätskekylning

Vätskekylning är redo att bli nästa kritiska element i AI-infrastruktur, parallellt med utvecklingen av optiska moduler. När elektroniska produkter fortsätter att utvecklas, blir behovet av effektiva kylsystem obestridlig. Precis som banan för optiska moduler övergick från en lyx till en nödvändighet, följer flytande kylningsteknik efter.

 

Historiskt sett har kyllösningar utvecklats från passiva metoder som naturlig luftkylning och kylflänsar till mer avancerad teknik, inklusive luftkonditionering och slutligen vätskekylning. Denna övergång speglar en bredare trend inom elektroniksektorn där termisk hantering är avgörande för att säkerställa optimal prestanda och livslängd för komponenter.

 

3. Varför flytande kylning nu är viktig

Pommes frites

Inverkan av miljötemperatur på halvledarchips är kritisk. Förhöjda temperaturer kan avsevärt försämra prestanda och livslängd för elektroniska komponenter. Höga termiska miljöer leder till termisk expansion i material som kondensatorer och motstånd, vilket kan orsaka mekaniska fel och hindra normal drift. Enligt rapporter från ANJIE kan traditionell luftkylning endast hantera värmeavledning upp till 800W, en tröskel som överträffas av flera NVIDIA-produkter.

 

Datacenter

Luftkylda datacenter stöder vanligtvis en densitet på 8-10 kW per skåp. Men eftersom AI-klustrets beräkningseffekt beräknas nå 20-50 kW per skåp år 2025, blir begränsningarna för luftkylning helt uppenbara. Den ökande effekttätheten kräver effektivare kylningsmetoder, vilket positionerar vätskekylning som det överlägsna alternativet.

 

An AI data center designed for high-density computing, utilizing advanced liquid cooling systems

▲ AI-datacenter med hög densitet som använder teknik för vätskekylning

 

 

II. Liquid Cooling Policies Injicera ett "stimulant" på marknaden

 

PUE (Power Usage Effectiveness) fungerar som ett nyckelmått för att utvärdera energieffektiviteten i datacenter. En lägre PUE indikerar ett grönare, effektivare datacenter, eftersom det återspeglar förhållandet mellan den totala energi som förbrukas av en anläggning och den som förbrukas enbart av IT-belastningar. I typiska datacenter står IT-utrustning för cirka 50 % av energiförbrukningen, medan kylsystem bidrar med cirka 35 %.

 

Vätskekylningstekniker tenderar att uppvisa betydligt lägre PUE-värden jämfört med traditionell luftkylning. Till exempel, medan traditionell luftkylning håller en PUE på cirka 1,3, kan vätskekylningsmetoder minska detta till mellan 1,05 och 1,2, beroende på den specifika teknik som används.

 

Graph comparing PUE values of air cooling and various liquid cooling technologies in data centers

▲ PUE-jämförelse mellan teknik för luftkylning och vätskekylning

 

 

III. Vertivs strategiska tillväxt genom flytande kylning

 

Vertiv har gjort betydande framsteg när det gäller att förbättra sin vätskekylningskapacitet med sitt förvärv av CoolTera. Detta Storbritannien-baserade företag är specialiserat på infrastruktur för vätskekylning och har samarbetat med Vertiv i flera år i flera datacenter- och superdatorprojekt. Detta förvärv förväntas stärka Vertivs position på marknaden för termisk hantering, vilket gör det möjligt att erbjuda mer robusta lösningar skräddarsydda för de förändrade behoven hos datacenter.

 

 

IV. Kärnvärdekedjan för flytande kylning

1. Förstå flytande kylning

Vätskekylning avser metoder som används för att upprätthålla optimala driftstemperaturer för datorsystem. Genom att utnyttja den höga specifika värmekapaciteten hos vätskor, överför denna teknik effektivt värme som genereras av interna komponenter till den yttre miljön. Vätskekylsystem kan kategoriseras i direkta och indirekta kylningstekniker. Indirekt kylning, såsom kallplattesystem, säkerställer att kylvätskan inte kommer i direkt kontakt med uppvärmda komponenter, medan direkta kylningsmetoder inkluderar nedsänkningskylning, där kylmediet interagerar direkt med uppvärmda komponenter.

 

2. Ekosystem för vätskekylning: kylplattor

Vätskekylningsindustrin omfattar olika komponenter och system, inklusive:

  • RCM (Refrigerant Supply and Return)-enheter:Dessa enheter hanterar distribution och insamling av köldmedium i vätskekylskåp.
  • Kylningsdistributionsenheter (CDU:er):CDU:er underlättar separationen av köldmedier som kommer in i kylplattkomponenter från kylvatten på den kalla källsidan.
  • LCM (vätskecirkulationsmoduler):Dessa moduler hanterar transport och retur av köldmedier genom hela kylsystemet.

 

Köldmedierna som används kan variera, med alternativ som avjoniserat vatten och glykolbaserade lösningar, som båda bidrar till effektiv värmeöverföring.

 

 Diagram depicting the various components of a liquid cooling ecosystem in data centers

▲ Översikt över ekosystemet för vätskekylning i datacenter

 

 

V. Identifiera stödmottagande företag i försörjningskedjan för flytande kylning

1. Mottagarföretag: Serverinterna komponenter

Försörjningskedjan för vätskekylning kan delas in i tre primära kategorier: interna serverkomponenter, vätskekylningskonstruktion och leverantörer av infrastruktur för vätskekylning. Interna komponenter inkluderar kalla plattsystem och snabba frånkopplingar, vilket är avgörande för att förbättra prestandan hos kraftfulla AI-chips. Företag som Huawei och NVIDIA är nyckelspelare i denna sektor.

 

2. Vätskekylningskonstruktion

Vätskekylningskonstruktion omfattar leverantörer av kompletta lösningar och servertillverkare. Helkedjeleverantörer, som Vertiv, levererar heltäckande lösningar men kanske inte levererar servrar direkt, vilket kräver samarbete med chiptillverkare.

 

3. IDC Construction

IDC-tillverkare ansvarar för att bygga datacenter och utveckla lösningar för vätskekylning skräddarsydda för kundens behov. Dessa tillverkare kommer i allt högre grad att integrera vätskekylningsteknologier i sina designs för att optimera prestandan.

 

4. Infrastrukturleverantörer

Infrastrukturleverantörer erbjuder specifika vätskekylningskomponenter som CDU och LCM. När efterfrågan på dessa tekniker ökar förväntas både volymen och prissättningen för dessa produkter öka, vilket återspeglar den växande betydelsen av vätskekylning i datacenterdesign.

 

 

Slutsats

 

Skiftet från luftkylning till vätskekylning i AI-infrastrukturer är inte bara en trend utan en väsentlig utveckling som drivs av stigande datorbehov. Med spridningen av stora modeller och nödvändigheten av effektiv termisk hantering, kommer vätskekylningstekniker att spela en avgörande roll i framtiden för datacenter. Eftersom företag som Vertiv förbättrar sin kapacitet genom strategiska förvärv och partnerskap är marknaden för flytande kylning redo för betydande tillväxt. Denna övergång kommer i slutändan att bidra till mer effektiva, hållbara och högpresterande datormiljöer.

 

 

 

 

Skicka förfrågan