Lokalna umjetna inteligencija (AI) sve se češće predstavlja kao vrhunac korisničke privatnosti i neovisnosti. Ideja je jednostavna: vaši podaci ostaju na vašem uređaju, nema potrebe za slanjem informacija u „oblak“, a vi zadržavate potpunu kontrolu. Međutim, iza ove privlačne slike krije se složenija ekonomska realnost. Velike tehnološke tvrtke, suočene s rastućim troškovima računalne snage potrebne za pokretanje naprednih AI modela, pronašle su način kako taj teret prebaciti na – korisnike.
Uspon manjih jezičnih modela
Manji jezični modeli (SLM), poput Microsoftovog Phi, Googleovog Gema i Appleovog OpenELM-a, najavljeni su kao korak prema demokratizaciji umjetne inteligencije. Njihova glavna prednost je mogućnost pokretanja izravno na korisničkom uređaju. To znači da podaci ne napuštaju vaš pametni telefon ili računalo, čime se navodno štiti privatnost. Osim toga, lokalno pokretanje eliminira kašnjenja povezana s komunikacijom s udaljenim poslužiteljima (tzv. latenciju) i nudi mogućnost rada bez internetske veze. Ova paradigma podsjeća na ranije dane osobnog računalstva, gdje su korisnici posjedovali i upravljali vlastitim hardverom i softverom. Zagovornici privatnosti vide to kao povratak kontroli, dok programeri cijene potencijal za izvanmrežne funkcionalnosti i izbjegavanje troškova korištenja programskih sučelja (API).
Neispričana strana lokalne AI
Priča o privatnosti, iako primamljiva, često služi kao prikrivanje dubljeg problema: temeljna ekonomska neisplativost pokretanja AI modela u velikim razmjerima. Dok je razvoj i treniranje naprednih modela poput GPT-5 ili Claude 4 već sam po sebi iznimno skup, procjenjuje se na stotine milijuna dolara, opsluživanje tih modela za milijarde korisnika predstavlja daleko veći financijski izazov, koji bi mogao doseći i bilijune dolara. Model „oblak na prvom mjestu“ (cloud-first) za AI postao je energetski iznimno zahtjevan, opterećujući globalne elektroenergetske mreže i značajno utječući na financijske izvještaje velikih tehnoloških kompanija.
Prava cijena lokalne AI
Kada pokrećete manji jezični model lokalno, ne samo da dobivate navodnu privatnost, već zapravo preuzimate na sebe troškove računalne snage, električne energije i hlađenja koje bi inače morale podmiriti tvrtke poput Microsofta ili Applea. Vaš pametni telefon, vrijedan tisuće kuna, postaje svojevrsni „čvor“ u njihovoj distribuiranoj podatkovnoj infrastrukturi. Na taj način, tehnološki divovi uspješno prebacuju troškove svoje infrastrukture na korisnike, izbjegavajući tako vlastite financijske obveze. Ovo nije pobjeda za korisničku privatnost, već pragmatičan potez velikih igrača kako bi umanjili financijski pritisak vlastitih sustava.
Utjecaj na okoliš i potrošnju energije
Ekološki utjecaj lokalne AI ne može se dovoljno naglasiti. Energija potrebna za pokretanje AI modela na milijardama osobnih uređaja značajno doprinosi ukupnoj globalnoj potrošnji električne energije. Iako se ta potrošnja više ne odražava izravno u izvješćima velikih tehnoloških tvrtki, ona je raspršena po kućnim budžetima i poslovanjima malih poduzeća. Studije ukazuju na to da bi istovremeno pokretanje samo jednog manjeg AI modela na svim Android telefonima moglo povećati globalnu potrošnju energije ekvivalentno cjelokupnoj elektroenergetskoj mreži Danske. S obzirom na to da se radi o „malim“ modelima, potencijalni rast potrošnje s naprednijim verzijama je zabrinjavajući.
Kako prepoznati skrivene troškove?
Postoji nekoliko znakova koji mogu ukazati na to da lokalni AI model troši više resursa nego što pretpostavljate:
- Brzo pražnjenje baterije: Ako vaš uređaj gubi napunjenost znatno brže nego inače, posebno tijekom korištenja AI aplikacija, to je jasan pokazatelj povećane potrošnje energije.
- Povećana toplina uređaja: Čak i u stanju