Preduzeća moraju poboljšati bolje izbore za smanjenje emisija GENAI

Uticaj na životnu sredinu

Od proizvodnje grafičkih procesorskih jedinica – za koje je potrebno iskopavanje retkih zemnih metala – do obuke modela za pokretanje ogromnih centara podataka, svi ovi koraci značajno doprinose uticaju tehnologije na životnu sredinu.

Za većinu organizacija, korištenje GenAI proizvoda i usluga spada u njihov Scope 3 emisije – koje se odnose na indirektne emisije stakleničkih plinova koje se javljaju izvan poslovanja kompanije, ali koje su još uvijek rezultat njihovih aktivnosti.

Međutim, Capgemini je rekao da donošenje pravih izbora u različitim fazama životnog ciklusa modela – uključujući odabir hardvera, arhitekture modela, izvora napajanja za datacentre i krajnjeg slučaja upotrebe – može značajno smanjiti uticaj na životnu sredinu.

Dodaje se da bi kompanije trebale da razmotre da li im uopšte trebaju energetski intenzivne GenAI tehnologije u slučajevima kada bi mogle da koriste modele sa efikasnijim resursima za sličan rezultat.

„Svako želi da uradi nešto sa generativnom veštačkom inteligencijom, ali mnogo puta vam to nije ni potrebno,“ rekao je Vishal Singhvi, direktor generativne veštačke inteligencije u Microsoftu. “To možete učiniti vrlo dobro sa svojom tradicionalnom umjetnom inteligencijom, koja troši znatno manje računarske snage i opterećenja.”

Mali jezički modeli

Organizacije bi stoga trebale uzeti u obzir da li se zadaci mogu završiti koristeći modele malih jezika (SLM), koji su obučeni sa manjim i specifičnijim skupovima podataka u poređenju sa LLM.

Capgemini je rekao da ovo ne samo da može značajno smanjiti emisije, već i troškove. Prema Arthuru Menschu, izvršnom direktoru Mistral AI:”RTL”>“Manji modeli znače da su aplikacije jeftinije za pokretanje i, što je još važnije, ako imate model koji je 100 puta manji, možete ga nazvati 100 puta više za istu cijenu, donoseći malo više inteligencije vašoj aplikaciji sa svakim pozivom. ”

Za Maulija Tikkiwala, člana odbora Orchard Hill College-a sa sjedištem u Velikoj Britaniji i Academy Trust-a, od vitalnog je značaja da organizacije budu svjesne kako njihova upotreba GenAI doprinosi negativnim utjecajima na okoliš. “Prvo, morate identificirati utjecaj kako biste ga mogli pratiti i smanjiti”, rekla je.

Međutim, dok je praćenje i praćenje emisija najvažniji, samo 14% ispitanika anketiranih od strane Capgeminija reklo je da njihove kompanije mjere i prate njihov otisak GenAI.

Tri četvrtine rukovodilaca navelo je „ograničenu transparentnost“ od strane dobavljača kao izazov u merenju uticaja na životnu sredinu. “Oni očekuju da tehnološki sektor predvodi napore” u olakšavanju tog cilja, navodi se u izvještaju.

Uprkos ovim trendovima, Capgemini je istakao kako neke tehnološke firme pristupaju tehnologiji na održiv način.

Uočeno je, na primjer, da su najnoviji Nvidijini GPU-ovi 30 puta efikasniji od njihovih prethodnih iteracija; da je MIT spin-off startup LiquidAI razvio tehnike algoritama „prilagodljive i manje gladne energije“; i da je Microsoft uveo funkcije za praćenje energije u svoje LLM.

Nadalje je istaknut ugovor koji je potpisala Meta o kupovini geotermalne energije kako bi se snabdijevali svoje centre podataka u SAD-u, kao i Google Carbon Sense Suite, koji je “kolekcija funkcija koje olakšavaju precizno izvještavanje o vašim emisijama ugljika i njihovo smanjenje” .

Tokom samita AI u Londonu u junu 2024., stručnjaci za održivost su rekli da, iako se tehnologija može primijeniti na više načina kako bi se pomoglo kompanijama da postanu ekološki održivije, mora postojati prepoznavanje jasnih negativnih utjecaja koje trenutno ima na planetu.

Rekli su da, iako bi to moglo pomoći kompanijama da bolje upravljaju svojim emisijama iz Scope 3 povezivanjem izvora podataka i čineći ih čitljivijim, ove emisije može biti teško pratiti s obzirom na to na koji različit način organizacije prikupljaju, upravljaju i dijele svoje podatke.