-
Ivan Cerovac, filozof i docent na Filozofskom fakultetu u Rijeci Foto: Sanja Junaković/FALIŠ uz prilagodbu AI
Umjetna inteligencija neće nužno građanina pretvoriti u zombija koji će na izborima zaokružiti ono što mu je algoritam prethodno servirao. Problem je suptilniji i zato opasniji. Ako se izgubi mogućnost razlikovanja istinitog od fabriciranog, građanima na koncu može ostati samo apatija – upozorio je Ivan Cerovac, filozof i docent na Filozofskom fakultetu u Rijeci, na razgovoru „AI i demokracija: Sanjaju li strojevi slobodne izbore?“ na šibenskom festivalu FALIŠ.
Razgovor je vodio novinar Marko Podrug, a tema je bila sve veći utjecaj umjetne inteligencije, algoritama, botova, trolova i personaliziranih političkih poruka na demokratske procese. Cerovac je pritom odbacio jednostavan odgovor na pitanje jesu li digitalne tehnologije prijatelj ili neprijatelj demokracije. One mogu biti jedno i drugo, ali problem je, smatra, u infrastrukturi koja je oko njih izgrađena – a kojom danas dominiraju privatne kompanije i logika profita.
Početni digitalni optimizam počivao je na pretpostavci da će veći pristup informacijama automatski značiti i informiranije građane te kvalitetniju demokraciju. Internet je trebao olakšati pristup znanju i političku participaciju. No posljednjih desetak godina pokazuje suprotan trend: količina dostupnih informacija raste, dok kvaliteta političkog promišljanja i informacija na temelju kojih građani oblikuju stavove može opadati.
Poseban problem predstavlja mikrotargeting, odnosno mogućnost da se politička poruka ne usmjeri prema širokoj društvenoj skupini, nego prema konkretnoj osobi. Algoritmi mogu analizirati niz podataka o korisniku, od demografskih karakteristika do njegova ponašanja na internetu, a umjetna inteligencija zatim može prilagoditi sadržaj tako da mu zvuči što uvjerljivije i poznatije.
Ako je netko iz Splita, poruka mu se može prilagoditi njegovom načinu govora; drugome se ista politička ideja može predstaviti rječnikom karakterističnim za njegovu sredinu. Isto vrijedi i za vizualni sadržaj: algoritmi mogu procjenjivati na koje boje, dizajn ili tip sadržaja pojedinac dulje zadržava pažnju.
No Cerovac pritom upozorava da cilj političke manipulacije nije nužno promijeniti nečiji svjetonazor. Mnogo je jednostavnije utjecati na izborno ponašanje. Nekoga ne treba uvjeriti da prijeđe iz jednog političkog tabora u drugi – dovoljno je uvjeriti ga da ostane kod kuće.
„Ne utječe se toliko na sadržaj vjerovanja, koliko na voting behavior“, objasnio je Cerovac, navodeći kao primjer kampanje u kojima se protivnički birači pokušavaju demotivirati da izađu na izbore.
U tom smislu politička propaganda ne mora čak ni proizvoditi lažne informacije. Dovoljno je selektivno servirati istinite podatke i pustiti građanina da sam izvede pogrešan zaključak.
Cerovac je kao primjer naveo tvrdnju da je 2016. u Njemačku stiglo oko pola milijuna migranata, a da je sljedeće godine broj silovanja porastao za gotovo 50 posto. Obje informacije mogu biti istinite, ali njihovo povezivanje ne dokazuje nikakvu uzročnu vezu. Porast registriranih silovanja bio je, objasnio je, povezan i s promjenama definicije i načina prikupljanja podataka. Manipulacija se, dakle, može sastojati i od toga da se dvije istinite činjenice slože tako da proizvedu neistinit zaključak.
Još veći problem nastaje kada tehnologija omogući proizvodnju toliko uvjerljivih lažnih fotografija, snimki i glasova da prosječni građanin više nije sposoban procijeniti što je stvarno.
„Opasnija je situacija u kojoj mi više ne znamo što je istina“, kazao je Cerovac, jer demokratski sustavi imaju određene mehanizme za razotkrivanje pojedinačnih laži – neovisne institucije, medije, istraživačko novinarstvo i provjeru činjenica. Ali za situaciju u kojoj građani više ne vjeruju ničemu takav odgovor još nemamo.
Posljedica može biti ono što Cerovac naziva spoznajnim nihilizmom: ako ne znamo je li neki video stvaran ili generiran umjetnom inteligencijom, je li osoba s druge strane društvene mreže stvarna ili je riječ o botu, i tko zapravo stoji iza određene informacije, najjednostavnija reakcija postaje odustajanje.
A upravo je to pogubno za demokraciju. Građanin na izborima ne odlučuje samo o sebi, nego donosi odluke koje utječu i na druge ljude. Zato političko odlučivanje pretpostavlja određenu odgovornost – da se stavovi temelje na informacijama koje je moguće provjeriti i promisliti. Ako to više nije moguće, nestaje i temelj za odgovorno političko djelovanje.
Cerovac je odbacio i pretpostavku da su mladi nužno najranjivija skupina. Različite generacije ranjive su na različite načine.
Kod starijih ljudi problem može biti to što relativno brzo zaborave izvor informacije, dok sama informacija ostane zapamćena. Kod mlađih je problem, paradoksalno, pretjerano samopouzdanje: mogu biti relativno dobri u prepoznavanju lažnih videa, ali istodobno precjenjuju vlastitu sposobnost da ih prepoznaju. Upravo zbog toga mogu biti podložniji manipulaciji.
Algoritamska manipulacija pritom može biti prilagođena svakome od njih: mladima se sadržaj može servirati u obliku kratkog videa, starijima kroz tekst, a različitim skupinama kroz različite emocionalne okidače.
Jedan od ključnih problema nije samo umjetna inteligencija, nego činjenica da se velik dio političke komunikacije danas odvija na platformama kojima ne upravljaju ni građani ni država, nego privatne kompanije.
Time se, smatra Cerovac, prostor u kojem se odvija demokratska komunikacija „oddemokratizira“. Taj prostor postaje privatni prostor nekolicine velikih kompanija, čiji je osnovni interes profit. A profit se ostvaruje kontrolom pažnje.
Algoritam korisniku zato ne mora servirati ono što je najvažnije za njegovo razumijevanje svijeta, nego ono što će ga najdulje zadržati na ekranu. Ako se netko zadrži na snimci koja prikazuje migranta kako čini kazneno djelo, algoritam može zaključiti da ga takav sadržaj zanima i ponuditi mu još sličnih snimki. Tako se stvara informacijski mjehur u kojem korisnik sve češće susreće sadržaje koji potvrđuju njegov početni dojam.
Rješenje nije jednostavno. Cerovac je upozorio i na opasnost pretjerane državne intervencije u sadržaj komunikacije i slobodu govora. Kao realniji put naveo je europski pristup ograničavanju prikupljanja i korištenja osobnih podataka.
Zaštita podataka i regulacija digitalnih tehnologija mogu otežati mikrotargeting jer kompanijama smanjuju količinu informacija na temelju kojih mogu precizno profilirati korisnike. Time se, smatra Cerovac, barem djelomično vraća autonomija građanima.
No ni regulacija sama po sebi neće biti dovoljna. Pesimistični scenarij, prema Cerovcu, jest društvo u kojem istina postupno izlazi iz politike, a građani zbog nemogućnosti razlikovanja stvarnog od lažnog postaju politički apatični. Optimističniji scenarij podrazumijeva prilagodbu političkih, pravnih i društvenih institucija novoj tehnologiji.
Jer tehnologija se neće vratiti unatrag. Kao što su politički sustavi morali reagirati na pojavu tiska, radija, televizije i interneta, morat će se prilagoditi i umjetnoj inteligenciji.
Cerovac pritom nije zagovornik tehnološkog pesimizma. Umjetna inteligencija može biti i alat za jačanje demokracije. Može građanima pomoći da u kratkom vremenu usporede političke programe, izdvoje ključne razlike i lakše razumiju složene političke teme.
Ali postoji granica.
Ako građanin umjetnoj inteligenciji prepusti da, na temelju njegovih godina, prihoda, ranijih političkih stavova i drugih podataka, odluči za koga bi trebao glasati, problem više nije u tome je li preporuka dobra ili loša. Problem je u tome što građanin prestaje biti autonomni politički akter.
„Ne samo da postajemo neautonomni, nego prestajemo biti politički agenti“, upozorio je Cerovac.
Umjesto toga, umjetnu inteligenciju trebalo bi koristiti kao sredstvo koje građanina tjera na razmišljanje. Cerovac je naveo i primjer rada sa studentima: AI može glumiti argumentiranog pripadnika različitih političkih ideologija, pa student kroz raspravu može testirati vlastite stavove i suočiti ih s najboljim argumentima suprotne strane.
Drugim riječima, problem nije u tome što će strojevi početi sanjati slobodne izbore. Pitanje je hoće li ljudi, dok strojevi sve bolje proizvode informacije, argumente i političke poruke, zadržati vlastitu sposobnost da misle, sumnjaju i odlučuju.
Jer demokracija bez autonomnih građana više nije naročito demokratska.
S obzirom na izlaganje profesora Cerovca, pitali smo jedan od sve više dostupnih modela umjetne inteligencije što misli o njegovim stavovima i je li njegova kritika opravdana. Evo odgovora, skupa sa svim pravopisnim greškama:
Da — mislim da je Cerovacova kritika AI-ja uglavnom opravdana, ali uz jednu važnu ogradu: problem nije toliko u samoj umjetnoj inteligenciji koliko u načinu na koji se AI može ugraditi u već postojeći sustav političkog oglašavanja, profiliranja i manipulacije.
Njegov mi je pristup zapravo zanimljiviji od klasičnog „AI će uništiti demokraciju“ pesimizma.
1. Najjači mu je argument o političkoj autonomiji
Cerovac, koliko proizlazi iz razgovora na FALIŠ-u, ne tvrdi da će AI nužno natjerati ljude da glasaju protiv svojih uvjerenja. Njegova je ozbiljnija teza da se biraču može promijeniti ponašanje bez promjene svjetonazora.
To je vrlo važna razlika.
Primjerice, nije nužno potrebno nekoga uvjeriti da je neka stranka dobra. Dovoljno je:
- zatrpati ga određenom temom,
- proizvesti osjećaj da su „svi isti“,
- uvjeriti ga da se nema smisla baviti politikom,
- potaknuti ga da ostane kod kuće,
- ili mu istodobno različitim skupinama ponuditi različite verzije iste politike.
Tu AI može biti izrazito moćan jer omogućuje jeftinu, brzu i gotovo beskonačnu personalizaciju političke komunikacije.
I to više nije samo teorijski problem. EU je upravo zbog rizika profiliranja, ciljanja i manipulacije političkim oglašavanjem uveo posebna pravila; od listopada 2025. primjenjuju se pravila koja traže veću transparentnost i ograničavaju korištenje osobnih podataka za političko ciljanje.
2. Još je važnija njegova priča o „spoznajnom nihilizmu“
Ovo mi je možda najbolji dio njegove kritike.
Opasnost deepfakeova nije samo u tome da će netko povjerovati lažnom videu.
Dugoročno je možda opasnija situacija u kojoj čovjek počne misliti:
„Ne znam je li ovo stvarno, pa više ništa ne mogu znati.“
To je puno ozbiljniji udar na demokraciju.
Jer demokracija pretpostavlja barem minimalnu mogućnost da građani raspravljaju o tome što se dogodilo, što je činjenica, a što nije.
Ako političar može reći:
„To nije moj glas.“
iako jest njegov glas,
ili:
„To nisam rekao.“
iako postoji snimka,
a građani više nemaju načina razlikovati autentičnu snimku od generirane — onda problem više nije samo dezinformacija. Problem postaje raspad zajedničke stvarnosti.
I tu je Cerovac, po meni, potpuno pogodio metu.
3. Ali ne bih prihvatio zaključak da je AI sam po sebi prijetnja demokraciji
Tu bih ga malo „zategnuo“.
AI može napraviti upravo suprotno.
Može, primjerice:
- usporediti programe stranaka,
- izvući razlike između izbornih programa,
- upozoriti na proturječja političara,
- pomoći građaninu da razumije komplicirane zakone,
- prevesti politički tekst na razumljiv jezik,
- analizirati velike količine javno dostupnih podataka.
I sam Cerovac je govorio upravo o tome: AI može biti koristan ako pomaže građaninu da bolje razmišlja, a ne ako razmišlja umjesto njega.
Tu bih njegovu poziciju smatrao vrlo razumnom.
4. Najveći problem nastaje kada AI postane politički „autopilot“
Tu je njegova kritika posebno jaka.
Recimo da birač pita AI:
„Imam 52 godine, živim u Hrvatskoj, zarađujem toliko, glasao sam tako i tako — za koga bih trebao glasati?“
AI mu odgovori: „Za stranku X.“
Ako birač to prihvati zato što je algoritam navodno obradio više podataka nego što bi on sam mogao, dogodilo se nešto zanimljivo.
Čovjek je formalno i dalje slobodno glasao.
Ali je dio vlastitog političkog prosuđivanja delegirao stroju.
To je upravo ono što bih smatrao Cerovčevom najdubljom kritikom: nije problem samo u tome što će AI reći građaninu, nego u tome hoće li građanin još htjeti sam prosuđivati.
5. Međutim, postoji jedna stvar koju bih mu zamjerio
Ne bih svu tu opasnost pripisao AI-ju.
Mikrotargetiranje, političko profiliranje, manipulativno oglašavanje, botovi, algoritamsko guranje sadržaja i proizvodnja političkih mjehurića postojali su prije generativnog AI-ja.
AI ih prije svega može dramatično pojačati i pojeftiniti.
Drugim riječima:
AI nije izmislio političku manipulaciju. On joj može dati industrijsku proizvodnju.
I upravo zato je važna činjenica da europska regulacija već izričito prepoznaje opasnost da se podaci koriste za segmentiranje birača, iskorištavanje njihovih ranjivosti i fragmentiranje javne rasprave.
Čak i AI Act posebno tretira AI sustave namijenjene utjecanju na ishod izbora, uključujući AI-targetiranje političkih oglasa, političke chatbotove i sustave koji biraču preporučuju stranku ili kandidata.
Moj zaključak
Cerovac je, po meni, opravdano zabrinut, ali najbolji dio njegove kritike nije tehnološki nego političko-filozofski.
Ne bih pitanje postavio:
„Hoće li AI uništiti demokraciju?“
nego:
„Hoćemo li pomoću AI-ja povećati sposobnost građana da samostalno odlučuju ili ćemo im omogućiti da još više vlastitog odlučivanja prepuste algoritmima?“
Prva mogućnost može biti demokratski vrlo korisna.
Druga je stvarno opasna.
I postoji još jedan paradoks: AI bi mogao istodobno biti jedan od najvećih problema demokracije i jedan od njezinih korisnih alata za obranu. Može proizvoditi dezinformacije, ali ih može i detektirati; može manipulirati biračem, ali može i građaninu pomoći da usporedi programe; može personalizirati propagandu, ali može i demokratizirati pristup političkim informacijama.
Zato bih Cerovčevu glavnu poruku sažeo ovako: ne treba spašavati demokraciju od umjetne inteligencije, nego odustajanje građana od vlastitog mišljenja.
A to je, zapravo, puno ozbiljnija kritika AI-ja od tvrdnje da će „roboti zavladati svijetom“.