Udržitelné přístupy a inovace: Jak snížit ekologickou stopu AI?

Vzhledem k výraznému dopadu na životní prostředí se průmysl AI a datových center aktivně věnuje hledání inovativních strategií, jak svou ekologickou stopu snížit – se zaměřením na energetickou účinnost, úsporu vody a optimalizaci zdrojů. Tyto řešení reagují na výzvy popsané v předchozí části.

Zefektivnění datových center

Přehodnocení tradičních přístupů k chlazení

Jedním z příkladů je přehodnocení tradičních přístupů k chlazení. Společnost Google provedla studii, která naznačuje, že nadměrné chlazení komponent, zejména pevných disků (HDD), může být kontraproduktivní. Příliš nízké teploty mohou vést k mechanickým a elektrickým problémům, což paradoxně zvyšuje míru selhání. 

Tato zjištění podporují trend zvyšování provozních teplot v datových centrech. Například Google provozuje některá svá datová centra při teplotě až 27 °C, což přispívá k vyšší energetické účinnosti bez negativního dopadu na spolehlivost zařízení.

Free cooling – chlazení s využitím přírodních podmínek

Využití přirozených klimatických podmínek nabízí významný potenciál pro snížení spotřeby energie:

• Free cooling vzduchem: Využívá chladný venkovní vzduch pro ochlazování datových center, čímž se snižuje potřeba klasické klimatizace – zejména v chladnějších oblastech.
• Free cooling vodou: Využívá přirozeně studené vodní zdroje, jako jsou jezera nebo mořská voda, k chlazení serverů. Například datové centrum Google v Hamina ve Finsku využívá k chlazení mořskou vodu. Studie ukazují, že použití těchto technik může snížit náklady na chlazení až o 67 % ve srovnání s tradičními metodami.

Využití odpadního tepla

Kromě efektivního chlazení se pozornost obrací i na chytré využití odpadního tepla z datových center:

• Centrální vytápění: Zachycení a využití odpadního tepla pro vytápění obytných a komerčních budov v okolí. Například datové centrum společnosti Meta v dánském Odense každý rok poskytne 100 000 megawatthodin tepla místní komunitě.
• Zemědělské využití: Přebytečné teplo lze využít k vytápění skleníků a podpoře celoroční produkce plodin.
• Průmyslové procesy: Odpadní teplo může sloužit k průmyslovým účelům, například k sušení dřevěných pelet.

Odpovědné hospodaření s vodou a přechod na obnovitelné zdroje

Důležitou roli hrají i širší firemní závazky a investice:

Cíl: vodní pozitivita: Technologické firmy jako Microsoft a Google se zavázaly, že do roku 2030 budou „vodně pozitivní“ – tedy že vrátí více vody, než sami spotřebují.

• Microsoft například investuje do projektů doplňování vody v ohrožených regionech, zatímco Google se zaměřuje na zlepšování vodního hospodářství napříč výma službama.

Integrace obnovitelných zdrojů: Datová centra stále častěji využívají obnovitelné zdroje energie – solární a větrnou – ke snížení uhlíkové stopy spojené s výrobou elektřiny.

• Například Microsoft uzavřel smlouvy na dodávku více než 900 MW obnovitelné energie pro svá datová centra v Irsku, zatímco Google podepsal dohodu o odběru 100 MW energie z větrné farmy Moray West ve Skotsku pro své operace ve Spojeném království. 
• Firmy by se měli snažit ovlivňovat energetický mix v samotných regionech, kde datová centra působí. Cílem je zvýšit celkovou udržitelnost infrastruktury a snížit závislost na fosilních palivech (využíváním jáderných, vodních, solárních a větrných elektráren).

Optimalizace AI modelů

Vedle hardwaru a infrastruktury hraje důležitou roli i samotná optimalizace AI modelů, která může výrazně snížit spotřebu zdrojů:

Kvantizace

Snižování přesnosti výpočtů modelů (např. z 32bitových na 8bitové), což snižuje nároky na výpočetní výkon a spotřebu energie i uhlíkovou stopu – bez výrazného vlivu na kvalitu výsledků.

Ztráta přesnosti vah po dekvantizaci

Model distillation

Trénování menších, efektivních modelů (studentů), které se učí napodobovat chování větších modelů (učitelů). Výsledkem jsou modely s vysokou přesností a výrazně nižšími nároky na zdroje.

Destilace velkého modelu do menšího

MoE architektura (Mixture-of-Experts)

Používá jen vybrané části modelu podle konkrétního úkolu, což snižuje počet výpočtů a spotřebu energie.

MoE architektura

Prompt caching

Umožňuje ukládat a znovu využívat často opakující se části promptů, čímž se výrazně snižuje latence a náklady na výpočty.

Například OpenAI implementovalo prompt caching ve svých API, což vedlo až k 50% snížení nákladů a rychlejšímu zpracování promptů.

Prompt caching

Pruning

Odstraňování méně důležitých neuronů nebo spojení v modelu, což vede k menší velikosti modelu a nižším nárokům na výpočetní výkon. 

Studie ukazují, že pruning může snížit velikost, tím i  energie, až o 90 % při minimální ztrátě výkonu modelu (když je pruning udělán opatrně).

Prořezávání modelu (neuronů i synapsí)

Speculative Decoding

Tato metoda zrychluje generování textu tím, že menší a rychlejší "draft" model navrhuje několik tokenů dopředu, které následně ověřuje a případně upravuje větší "verifikační" model. 

Díky paralelnímu zpracování tokenů dochází k výraznému zrychlení inference bez nutnosti přeškolení modelu.

Přijímání a odmítání navrhnutých tokenů vyšším modelem

vLLM

Open-source knihovna, která optimalizuje inference velkých jazykových modelů pomocí algoritmu PagedAttention, jenž efektivně spravuje paměť rozdělením klíčů a hodnot do menších bloků. 

Tímto způsobem dosahuje až 24násobného zvýšení propustnosti oproti tradičním knihovnám bez nutnosti měnit architekturu modelu.

Optimalizace inference LLMs

Individuální kroky a společenský vliv

I když jsou systémové změny a technologické inovace klíčové pro snížení dopadu AI na životní prostředí, významnou roli hrajeme i my jednotlivci a společnost. Každý z nás může svým přístupem přispět k udržitelnějšímu digitálnímu ekosystému:

• Zodpovědné používání AI: Před použitím AI nástroje se zamysleme, zda nestačí jednodušší řešení. Seskupujme dotazy, optimalizujme prompty a omezujme náročné úlohy, jako je zbytečné generování obrázků a videí.
• Využívejte efektivní a lokální nástroje: U méně náročných úloh můžeme využít AI nástroje běžící přímo na našem zařízení, čímž eliminujeme potřebu vzdálených datových center. Vybírejme aplikace známé svou energetickou efektivitou.
• Podporujte udržitelné přístupy: Vyzývejme firmy k transparentnosti ohledně spotřeby energie a vody, podporujme regulace vyžadující využívání obnovitelných zdrojů a zapojme se do veřejné diskuze o dopadu AI na životní prostředí.
• Ovlivňujte svými rozhodnutími: Podporujme politiky a politická uskupení, která se zasazují o udržitelnost a odpovědný rozvoj technologií. Využívejme platformy a nástroje, které se otevřeně hlásí k udržitelnému provozu.

Závěr

Tyto komplexní přístupy, jak na úrovni celého průmyslu, tak i v našich individuálních činech, ukazují, že průmysl bere dopady AI na životní prostředí vážně a míří směrem k odpovědnějším a udržitelnějším technologiím a přístupům. Udržitelnost v oblasti umělé inteligence není jen technický úkol, je to sdílená odpovědnost – a každý promyšlený krok se počítá.

Jaké další inovativní přístupy byste viděli jako klíčové pro snížení ekologické stopy AI v budoucnu?