Neděle , 10. 11. 2024

Evžen

Samotná umělá inteligence Googlu může spotřebovat tolik energie jako Irsko

16. 10. 2023

16. 10. 2023

Systémy poháněné umělou inteligencí nejenže spotřebovávají obrovské množství dat pro trénink, ale také vyžadují obrovské množství elektřiny, aby mohly fungovat. Nedávná studie vypočítala spotřebu energie a uhlíkovou stopu několika nedávných velkých jazykových modelů. Bylo zjištěno, že jeden z nich, ChatGPT, běžící na 10 000 GPU NVIDIA, spotřebovává 1 287 megawatthodin elektřiny. To je ekvivalent energie spotřebované 121 domácnostmi za rok ve Spojených státech.

Stále větší spotřeba

Jak se zrychlujeme směrem k budování jednoho z největších technologických pokroků, kterých kdy člověk dosáhl, musíme si položit otázku, jaká je kompenzace tohoto vývoje? V komentáři publikovaném v časopise Joule autor Alex de Vries tvrdí, že v budoucnu mohou energetické nároky na napájení nástrojů umělé inteligence převýšit energetické nároky některých malých národů.

„V roce 2021 byla celková spotřeba elektřiny Googlem 18,3 TWh, přičemž umělá inteligence tvořila 10–15 % z tohoto celkového počtu. Nejhorší scénář naznačuje, že samotná umělá inteligence od Googlu by mohla spotřebovat tolik elektřiny jako země, jako je Irsko (29,3 TWh ročně), což je významný nárůst ve srovnání s jeho historickou spotřebou energie související s umělou inteligencí,“ řekl Vries.

Časem bude AI spotřebovávat více energie

Od té doby, co společnost AI OpenAI představila ChatGPT světu na konci roku 2022, došlo k rozmachu generativní umělé inteligence. To vedlo ke zvýšení poptávky po čipech AI. Společnost NVIDIA, která je v popředí dodávek špičkových čipů, vykázala rekordní tržby ve výši 16 miliard dolarů ve čtvrtletí končícím červencem 2023. To znamená, že poptávka po čipech s umělou inteligencí pouze roste.

Nedávno také došlo k posunu ve více společnostech, které vyvíjejí své vlastní čipy, aby splnily náročné požadavky AI. Google a Amazon již mají své vlastní čipy AI, zatímco se proslýchá, že Microsoft příští měsíc představí svůj vlastní čipový hardware. Microsoft má také velké investice do OpenAI, která je podle zpráv také v počátečních fázích vývoje vlastních čipů nebo akvizice polovodičové společnosti, která to pro ně dělá.

K TÉMATU  Blu ray disk levnější než DVD – jak kde a jak pro koho

To vše znamená, že dojde k výraznému nárůstu energetické stopy průmyslu umělé inteligence. Vries vysvětluje: „Například společnosti, jako je Google společnosti Alphabet, by mohly podstatně zvýšit svou spotřebu energie, pokud by generativní umělá inteligence byla integrována do každého vyhledávání Google.“

Další strašák spotřeby energie

Podle předního blogu SemiAnalysis o polovodičích a AI se odhaduje, že integrace chatbota podobného ChatGPT s každým vyhledáváním Google by vyžadovala 512 820 serverů NVIDIA A100 HGX, což znamená více než 4 miliony GPU. Při spotřebě 6,5 kW na server by to znamenalo denní spotřebu elektřiny 80 GWh a roční spotřebu 29,2 TWh.

Autor poznamenal, že nástroje umělé inteligence mají počáteční trénovací fázi, po níž následuje inferenční fáze. Tréninková fáze je energeticky nejnáročnější a byla dosud centrem výzkumu udržitelnosti umělé inteligence. Fáze inference je, když tyto nástroje generují výstup na základě dat, na kterých jsou trénovány. Autor vyzval vědeckou komunitu, aby této fázi věnovala větší pozornost.

„…OpenAI vyžadovalo pro podporu ChatGPT 3 617 serverů NVIDIA HGX A100 s celkem 28 936 GPU, což znamená spotřebu energie 564 MWh za den,“ řekl Vries. A to jen proto, aby se chatbot spustil dříve, než jej jakýkoli spotřebitel vůbec začne používat. “Ve srovnání s odhadovanými 1 287 MWh použitými v tréninkové fázi GPT-3 se spotřeba energie v inferenční fázi zdá podstatně vyšší,” dodal.

Autor na závěr poznamenal, že je příliš optimistické očekávat, že zlepšení v efektivitě hardwaru a softwaru plně vyrovná jakékoli dlouhodobé změny ve spotřebě elektřiny související s umělou inteligencí. I přesto je stále vyvíjeno úsilí, aby bylo využívání AI všestranně efektivní.

Zdroje článku:
sdílet
tisknout

Témata pro vás

Výběr článků

Recenzi akční kamery Rollei 420 jsme vám nabídli před rokem, od té doby se stále chytáme na novější a „nadupanější“ model 430, který odlišuje hlavně displej na čelní straně a schopnost natáčet 4K při 30 FPS. V době představení jistě špička, jak si povede kamera v době, kdy se nachází prakticky na konci životního cyklu?
Dalším z videí z rozbalování budou multiplatformní sluchátka, která můžete používat s konzolemi PS4, Xbox One, Nintendo Switch, stolním počítačem a také nejnovějšími notebooky i telefony, od polské herní značky Genesis (založené roku 2013). Nabízí tkaninou chráněný audio kabel, zásuvný mikrofon a masivní náušníky, slibující dobrý zvuk...

Před nějakým časem jsme měli v rukou MXQPiPO TV a Remix Mini, čili zařízení, která činí televizor „chytřejší“. Nyní jsem dostal k dispozici další mini PC - model Xtreamer mxV v České republice distribuovaný firmou Umax. Dle samotného vyjádření výrobce je jejich cílem vytvářet cenově dostupná zařízení pro pohodlné přehrávání multimédií. Ve svém portfoliu nabízí spoustu modelů, jen sám model mxV, který je předmětem této recenze, má hned další dvě verze – Plus a Pro.

Na sportování jsem příliš líný, uznávám bez mučení. O to víc mě zaskočil šéfredaktor, když mi nabídl k otestování chytrý náramek X-Fitpolo od firmy Niceboy. Byl jsem zvědavý, zda mě monitoring mého těla přinutí se sebou něco dělat.

Odebírat novinky

Přihlásit se

Jestě nemáte účet? Zaregistrujte se zde.

Nahlásit článek