ChatGPT pri spracovaní miliardy dopytov denne spotrebuje ročne 1,06 miliardy kWh elektriny, čo je ekvivalent spotreby až 100 000 domácností.
Používatelia, ktorí si pri komunikácii s umelou inteligenciou ChatGPT zachovávajú zdvorilosť, môžu mať dobrý pocit z vlastného správania. Pre OpenAI to však znamená nemalé výdavky a poďakovanie od umelej inteligencie môže stáť milióny.
Generálny riaditeľ spoločnosti Sam Altman prezradil, že „čarovné slovíčka“ ako prosím či ďakujem spôsobujú zvýšenú výpočtovú záťaž, ktorá firmu ročne stojí desiatky miliónov dolárov, informuje NST.
Prevádzka veľkých jazykových modelov ako ChatGPT je celkovo energeticky náročná a slušnosť ju ešte zvyšuje. Jednoducho povedané, viac slov, viac námahy, väčšie peniaze.
Ako to funguje?
Každé zdvorilé oslovenie zvyšuje počet tzv. tokenov – častí textu, ktoré musí model spracovať. To vedie nielen k väčšiemu počtu výpočtov, ale aj k dlhším a podrobnejším odpovediam, pretože model sa snaží odzrkadliť tón používateľa. Tento efekt zrkadlenia je jedným z dôvodov, prečo neškodné frázy spôsobujú citeľné zaťaženie systému.
Podľa výpočtov Goldman Sachs si každá otázka pre ChatGPT vyžiada približne 2,9 watthodín elektriny (desaťnásobok toho, čo spotrebuje štandardné vyhľadávanie cez Google), uvádza Perplexity. Denná spotreba pri viacerých ako jednej miliarde dopytov dosahuje zhruba 2,9 milióna kilowatthodín.
Jeden zdvorilý e-mail týždenne počas roka spotrebuje toľko energie, koľko spotrebuje až 22 malajzijských domácností na hodinu. Pri miliónoch používateľov tieto čísla rýchlo narastajú. Altman aj napriek týmto nákladom tvrdí, že ide o dobre vynaložené peniaze. Zdvorilá komunikácia prispieva k tomu, že interakcia medzi človekom a umelou inteligenciou pôsobí prirodzenejšie a ľudskejšie.
Výpočty podľa ChatGPT
Opýtala som sa AI, nech mi vysvetlí celú situáciu polopatisticky. Toto mi napísal:
Ak denne položíš 10 zdvorilých otázok, možno prispeješ k zvýšeniu nákladov o centy ročne. Ale pri miliónoch používateľov týždenne sa to nasčíta na milióny dolárov.
