Zašto prilikom zapošljavanja Algoritmi u Amazonu potenciraju muškarce

Na devetom šibenskom FALIŠ-u posebno je zanimljiva tema održana pod imenom „Budućnost je počela, možemo li preživjeti napredak?“ na kojoj su, uz moderiranje Krune Lokotara, govorili Želimir Periš, Ivica Mitrović i Davor Mišković. Cilj okruglog stola bio je približiti shvaćanje umjetne inteligencije običnim građanima, kao i njen utjecaj na svakodnevni život.

Mišković je objasnio da se radi o pojmu koji je znatno širi, nego što se danas uobičajeno shvaća kroz algoritme koji prepoznaju određena lica ili znaju igrati šah. Umjetna inteligencija još uvijek nije napredovala do te mjere da bi je mogli uspoređivati s onom prirodnom koja podrazumijeva snalaženje u bilo kojoj situaciji. Drugi put o kojem govori Mišković tiče se evolucije mozga, dok treći podrazumijeva povezivanje tehnologije i bioloških tijela. Ljudi rade na tome, ali još nema rezultata koji bi zadovoljili standarde da se nazove umjetnom inteligencijom, kazao je Mišković, inače kulturni radnik i voditelj neprofitne organizacije Drugo more iz Rijeke.

Na njegovo izlaganje nadovezao se Želimir Periš, književnik i IT stručnjak, podsjećajući da su algoritmi umjetne inteligencije u Japanu objavili nekoliko zbirki pjesama koje su „biološki“ pjesnici negativno ocijenili, ali su se unatoč tome vrlo dobro prodavale.

Periš je pojasnio da iza umjetne inteligencije stoje matematika i strojevi bazirani na formulama koje već dugo postoje, ali se ta industrija razvila tek prije desetak godina kada se dogodio skok s proizvodnjom igara koja je danas profitabilnija od sporta.

„Razvoj te industrije doveo je do povećane proizvodnje grafičkih procesora koji su u stanju obrađivati slike u isto vrijeme. Radi se o puno procesora koji mogu istovremeno obavljati jednostavnu radnju zbog čega su idealni za obradu podataka koji se pretvaraju u matrice brojeva. Danas je ta tehnologija dostupna svima. Na primjer, prikupe se milijuni EKG snimaka otkucaja srca i pretvore se u matricu brojeva iz kojih se pronađu uzorci koje algoritam svrsta u određene grupe iz kojih je moguće pronaći već poznate, ali i nepoznate bolesti srca“, rekao je Periš.

Profesora na splitskoj Umjetničkoj akademiji i dizajnera Mitrovića najviše zanima kako nova tehnologija funkcionira u našem životu, s posebnim naglaskom na zbrinjavanje gomile elektroničkog otpada o kojem se još uvijek ne razmišlja dovoljno. Zajedno s kolegom Olegom Šuranom napravio je rad na temu kako se globalne tehnološke promjene impliciraju na lokalnu razinu poput potencijalne automatizacije jedrilica i utjecaja na posao skipera koji je danas jako popularan.

„Svi su shvatili da bi vrlo brzo moglo doći do automatizacije, baš kao i kod automobila kao i da već postoje automatski piloti. Međutim, činjenica je i da ljudi vole razgovarati, nadaju se da će ih skiper upoznati s okolinom, pokazati im dobar restoran, a ne samo prevesti brod“, kaže Mitrović.

O potencijalnom gubitku radnih mjesta govorio je i Mišković na primjeru riječke luke u kojoj radi 160 ljudi. S obzirom da je cijeli proces automatiziran ta brojka bi mogla biti i niža, ali restriktivna zakonska regulativa to ne dopušta.

„Kao društvo se moramo odrediti kako ćemo primijeniti tehnologiju i što ona znači za nas, kao i zakonski okvir koji će je regulirati, poput primjerice pravne odgovornosti za sudar“, kazao je Mišković, objašnjavajući da su odgovori na pitanja tko poznaje tehnologiju, tko odlučuje o njoj i tko odlučuje o tome tko će odlučivati o njezinoj primjeni isključivo politički, s obzirom da se stvara sve veći jaz između onih koji poznaju tehnologiju i onih koji je koriste, a ne razumiju se u nju niti im je dostupna u smislu znanja. U Hrvatskoj je problem što se mi kao društvo s tom temom uopće ne bavimo, nego imamo prazan legislativan i formalan okvir, slično kako je nekada bilo na Divljem zapadu, s čim se složio i Mitrović, kazavši da je sociologija kao predmet izbačena s akademija i tehnoloških fakulteta, zbog čega se i gubi potreban kritični odmak prema upotrebi tehnologiji.

O ovoj temi govorio je i Periš kazavši da se problemi rješavaju naknadno, tek kad do njih dođe, s obzirom da je osnova svega profit, ali da se unatoč tome danas ipak živi bolje.

„U svijetu vlada logika da svaku sferu života svedemo na paradigmu ekonomske funkcionalnosti. Svaki odnos pokušavamo monetizirati, baš kao i broj lajkova, koji nije samo socijalna, nego i ekonomska kategorija. Svijet ide u tom smjeru. Tehnologija je u funkciji ekonomske paradigme i nije sama po sebi neutralna. Humanistika tom napretku stvara prepreku, jer propituje probleme, kao kad radite autocestu i naiđete na arheološke nalaze“, rekao je Mišković, istaknuvši da se centri moći nalaze u rukama relativno malo ljudi što ima za posljedicu da usko formatirani logaritmi lica bijelaca prepoznaju s točnošću od 98 posto, a crnaca sa 60 posto. Sam algoritam je postao problem i vidi se odmah tko ga je radio, jer se u samu tehnologiju upisuju razlike.

Periš je kazao da je algoritam za obradu životopisa osoba koja se zapošljavaju u Amazonu potencirao muškarce, jer je naučen na njih, s obzirom da ih je bilo više. „Nisu algoritmi loši nego su krivo naučeni i krivo su upisani podaci. Problem je što je teško objasniti algoritmima što zapravo želimo“, rekao je Periš, dok je Mitrović ispričao kako su algoritmima u Švicarskoj dani zadaci da analiziraju govore 27 premijera iz država Europske unije. Inače dobar govor hrvatskog premijera Plenkovića o Jasenovcu protumačili su kao tmuran i mračan.

„Teško je uprogramirati reakciju algoritma na takve stvari. Postoji i niz kulturoloških problema. Primjerice, motanje ručnika. Azijci ih motaju na drukčije načine pa ih algloritmi prepoznaju kao životinje. Kad vas blokira Facebook s njima je gotovo nemoguće ispregovarati o čemu se zapravo radi. Svijet postaje binaran, crno-bijel“, istaknuo je Mitrović.

Razgovarajući o razvoju samosvjesne umjetne inteligencije, kazao je da se moramo bojati čovjeka, a ne tehnologije. Možda će u budućnosti biti drukčije, dodao je, konstatiravši da u današnjem svijetu dominira distopijska budućnost, dok smo ranije na nju gledali optimistično.

„Živimo sa strahom od budućnosti, dijelom i zbog neoliberalne paradigme iz 70-ih i 80-ih koja nam je oduzela tu nadu. Pravo pitanje je kako je vratiti. Treba nam više utopije“, rekao je Mitrović, na što se nadovezao Mišković kazavši da se radi na  izradi metoda obrane umjetne inteligencije, s obzirom da postoji strah da bi ona mogla po eksponencijalnom scenariju premašiti ljudsku čim je dostigne. Od te razine, zajednički je zaključak, trebat će nam oko 70 godina.

Tekst je financiran sredstvima Fonda za poticanje pluralizma i raznovrsnosti elektroničkih medija Agencije za elektroničke medije za 2021. godinu