Nároky na zdroje, které jsme si popsali v předchozí části, přímo souvisí s tím, jak jsou datová centra navržena a provozována.
Datová centra jsou specializované komplexy, které hostují servery a infrastrukturu pohánějící náš digitální svět – včetně aplikací využívajících AI. Jejich provoz vyžaduje značné množství energie a pokročilé chladicí systémy, které zajišťují optimální výkon a chrání klíčový hardware před přehřátím.
Jak fungují datová centra
Datová centra jsou nezbytnou infrastrukturou pro provoz velkých jazykových modelů (LLM), jako jsou GPT nebo LLaMA. Tyto modely vyžadují značné výpočetní zdroje, což klade vysoké nároky na energetickou efektivitu datových center.
Energetickou efektivitu datových center hodnotí standardní metrika PUE (Power Usage Effectiveness), která ukazuje, kolik z celkové spotřebované energie skutečně využívá IT vybavení (servery, úložiště, síťová zařízení, GPU atd.).
PUE se vypočítá jako poměr celkové spotřeby energie datového centra k spotřebě energie IT zařízení:
PUE = Celková spotřeba energie datového centra / Spotřeba energie IT zařízení
Hodnota 1,0 znamená dokonalou efektivitu – veškerá energie jde přímo na výpočetní techniku a nic se neztrácí na chlazení, osvětlení apod. V praxi je však dosažení této hodnoty velmi obtížné. Například datová centra společnosti Google dosáhla v roce 2022 průměrného PUE 1,1, přičemž nejlepší hodnoty dosahovaly 1,07 . Globální průměr se však pohyboval kolem hodnoty 1,57 , což naznačuje značný prostor pro zlepšení.
Klíčové komponenty
- Konektivita
- Zajišťuje propojení mezi zařízeními uvnitř datového centra a s vnějším světem. Obsahuje prvky jako routery, switche, firewally a aplikační kontrolery. Rychlý a spolehlivý přenos dat je nezbytný pro efektivní trénování a inferenci LLM.
- Uložiště
- Slouží k ukládání a zálohování dat. Zahrnuje pevné disky, SSD disky, páskové jednotky a systémy pro zálohování a obnovu dat. Pro minimalizaci latence jsou často využívány rychlé NVMe SSD disky.
- Výpočetní zařízení
- Poskytují výpočetní výkon a paměť potřebnou pro běh aplikací a služeb. Tvoří je servery a další výkonné počítače, včetně GPU serverů, které jsou schopny zvládnout náročné výpočty spojené s trénováním a inferencí LLM.
Klíčové části datových centerTypy a kategorie datových center
- Podniková datová centra (Enterprise)
- Vlastněná a provozovaná jednotlivými organizacemi pro jejich interní potřeby. Mohou být umístěna v interním areálu nebo na externích lokalitách.
- Kolokační datová centra (Colocation)
- Nabízejí prostor a infrastrukturu různým organizacím, které si zde umisťují vlastní hardware. Poskytovatel zajišťuje napájení, chlazení, fyzickou bezpečnost a konektivitu.
- Cloudová datová centra
- Provozovaná poskytovateli cloudových služeb, jako jsou AWS, Microsoft Azure nebo Google Cloud. Umožňují zákazníkům využívat výpočetní a úložné kapacity na vyžádání bez nutnosti správy fyzického hardwaru.
- Edge datová centra
- Menší zařízení umístěná blíže koncovým uživatelům nebo zařízením generujícím data. Minimalizují latenci a zvyšují rychlost zpracování dat, což je klíčové pro aplikace jako IoT nebo autonomní vozidla.
- Hyperscale datová centra
- Velkokapacitní zařízení navržená pro provoz ve velkém měřítku, často vlastněná technologickými giganty. Obsahují tisíce serverů a poskytují masivní výpočetní a úložné kapacity pro služby jako cloud computing a analýzy velkých dat.
- On-premise datová centra
- Poskytují plnou kontrolu nad infrastrukturou, což je výhodné pro organizace s přísnými požadavky na bezpečnost a soukromí dat.
Klasifikace datových center podle Uptime Institute
Uptime Institute vytvořil čtyřstupňový systém klasifikace datových center podle jejich schopnosti zajistit dostupnost služeb:
- Tier I – Základní kapacita
- Dostupnost: 99,671 % (max. 28,8 hodin výpadku ročně)
- Charakteristika: Jedna cesta pro napájení a chlazení, bez redundantních komponent
- Vhodné pro malé firmy s nízkými nároky na dostupnost
- Tier II – Redundantní kapacitní komponenty
- Dostupnost: 99,741 % (max. 22 hodin výpadku ročně)
- Charakteristika: Jedna cesta pro napájení a chlazení s některými redundantními komponentami
- Vhodné pro menší až střední podniky hledající spolehlivost
- Tier III – Současně udržovatelné
- Dostupnost: 99,982 % (max. 1,6 hodiny výpadku ročně)
- Charakteristika: Více cest pro napájení a chlazení, umožňující údržbu bez přerušení provozu
- Vhodné pro organizace vyžadující vysokou dostupnost služeb
- Tier IV – Odolné vůči chybám
- Dostupnost: 99,995 % (max. 26,3 minut výpadku ročně)
- Charakteristika: Plně redundantní systémy (2N), schopné odolat výpadkům bez přerušení služeb
Vhodné pro kritické aplikace, kde je výpadek nepřijatelný (například finanční instituce, nemocnice)
Požadavky na infrastru pro LLM
- Síťová propustnost
- Rychlý a spolehlivý přenos dat je klíčový pro trénování a inferenci LLM, zejména při práci s velkými datovými sadami.
- Bezpečnost a compliance
- Zajištění bezpečnosti dat a dodržování regulačních požadavků, jako je GDPR, je zásadní při zpracování citlivých informací.
- Výkon a chlazení
- LLM modely vyžadují vysoký výpočetní výkon, což generuje značné teplo. Efektivní chlazení je nezbytné pro udržení optimálního provozu a životnosti zařízení.
Chladicí systémy
Datová centra využívají různé metody chlazení, z nichž každá má specifické dopady na spotřebu energie a vody:
- Vzduchové chlazení
- Využívá vzduch (často prostřednictvím rozsáhlých HVAC systémů) k odvádění tepla ze serverů. Tato metoda může být energeticky náročná kvůli napájení ventilátorů a chladicích jednotek.
- Vodní chlazení
- Cirkuluje chladicí kapalinu přímo přes komponenty nebo pomocí tzv. „cold plates“, které absorbují a odvádějí teplo. Tato metoda se stále více uplatňuje díky vyšší efektivitě – i když může znamenat vyšší spotřebu vody v závislosti na konkrétním systému.
- Evaporační chlazení
- Využívá odpařování vody k ochlazení vzduchu nebo chladicí kapaliny. Je energeticky úsporné, ale může zvýšit spotřebu vody, což je důležité zvážit zejména v oblastech s omezenými vodními zdroji.
- Hybridní systémy
- Kombinují vzduchové, vodní a evaporační metody s cílem optimalizovat výkon i energetickou efektivitu, a zároveň vyvážit spotřebu vody a elektřiny.
Ekologický dopad AI a datových center
Provozní specifika datových center se přímo promítají do výrazných dopadů na životní prostředí. Jak se technologie umělé inteligence stále více zapojují do našeho každodenního života, je důležité porozumět kumulativním environmentálním důsledkům provozu datových center – zejména kvůli jejich obrovské spotřebě elektřiny a vody.
- Spotřeba energie:
- Celková spotřeba
- Trénování AI modelů
- Trénování velkých jazykových modelů (LLMs) je energeticky extrémně náročné. Například trénování GPT-3 vyžadovalo přibližně 1 287 megawatthodin (MWh) elektřiny – což odpovídá roční spotřebě asi 120 průměrných amerických domácností.
- Inference
- Kromě trénování je i samotné generování odpovědí (inference) náročné na energii – a to tím více, čím více uživatelů a dotazů systém obsluhuje.
- Spotřeba vody:
- Požadavky na chlazení
- Voda se v datových centrech využívá především k chlazení – což je nezbytné vzhledem k míře tepla, které servery generují. V roce 2021 spotřebovala datová centra Googlu přibližně 16,3 miliard litrů vody, což je průměrně asi 1,7 milionu litrů denně na jedno centrum.
- Dopad AI zátěže
- Nasazení AI systémů prokazatelně vedlo ke zvýšené spotřebě vody. Například spotřeba vody společnosti Microsoft vzrostla mezi lety 2021 a 2022 o 34 %, částečně kvůli potřebám chlazení aplikací jako ChatGPT.
- Problémy s nedostatkem vody
- Velmi znepokojující je, že přibližně dvě třetiny nových datových center postavených od roku 2022 se nacházejí v oblastech, které již nyní čelí vysokému vodnímu nedostatku – což situaci s místním nedostatkem vody dále zhoršuje.
- Propojení spotřeby energie a vody: Volba metody chlazení v datových centrech přímo ovlivňuje poměr mezi spotřebou energie a vody, přičemž je důležité zohlednit jak přímou, tak nepřímou spotřebu těchto zdrojů.
- Vzduchové chlazení často vede k vyšší spotřebě elektřiny, ale má nižší přímou spotřebu vody.
- Naopak kapalinové chlazení je energeticky efektivnější, ale spotřebovává značné množství vody přímo v datových centrech.
- Tato výměna mezi spotřebou energie a vody ukazuje, že snížení jednoho typu spotřeby obvykle znamená zvýšení druhého.
Vizualizace a vodní náročnost datových center
Na následujícím obrázku si můžeme lépe představit, jak datová centra fungují. Jejich vysoká energetická náročnost, spojená s napojením na elektrárny, částečně přesouvá vodní zátěž mimo samotná centra. Přesto však nelze opomíjet ani přímou spotřebu vody, zejména v chladicích systémech.
Shrnutí
Je proto důležité hledat rovnováhu mezi interní a externí vodní náročností datových center, a to s ohledem na dostupnost přírodních zdrojů v konkrétním regionu. Jak jsme uvedli v předchozím článku, nadměrnou spotřebu vody lze v některých případech zmírnit přesunem zátěže do méně ohrožených oblastí nebo použitím technologických řešení – například využitím přebytečného tepla či uzavřenými chladicími systémy.
Právě na tyto přístupy a inovace, které reagují na rostoucí environmentální nároky, se dnes zaměřuje celý sektor AI a datových center. V závěrečném článku této trilogie se podíváme podrobněji na konkrétní strategie udržitelnosti a možnosti, jak ke snížení ekologické stopy může přispět i širší společnost.
Author
David Omrai
Software EngineerJsem softwarový inženýr s vášní pro webový vývoj, AI a optimalizaci. Mám zkušenosti s TypeScriptem, Next.js, Pythonem a několika dalšími jazyky. Rád se učím nové technologie, které řeší reálné problémy.
