Amerikanci navodno namjeravaju do 2030. godine robotima zamijeniti polovicu vojnika Foto: Wikipedia
Umjetna inteligencija još nije baš previše razumna, ali postoji mogućnost da postane samosvjesna. Tako bi se moglo sažeti upozorenja nekih znanstvenika koji se bave umjetnom inteligencijom, u trenutku kad još točno ne možemo znati što bi nam strojevi mogli prirediti u budućnosti.
Već sad dolazimo u kontakt s umjetnom inteligencijom, a da to možda i ne primjećujemo. I u Zagrebu stroj (AI) očitava nalaze CT-a, prije nego što to učini liječnik. Prijevodi nalikuju gotovo na ljudsko djelo, pa za treptaj oka možete dobiti dosta dobar prijevod današnjih američkih ili njemačkih ili drugih stranih novina. Uz uputu od nekoliko riječi dobivamo slike bića i stvari.
Sasvim je sigurno da nije baš razumno odmahnuti na upozorenja znanstvenika i reći lakonski: ta, to je samo stroj, to je samo kutija, nema razloga za strah, ne može stroj postati svjestan. Posebno su mladi u opasnosti, jer im se može učiniti da moraju razmišljati o umjetnoj inteligenciji bez ikakvih upitnika ako ne žele da ih otpišu kao ljude koji ne razumiju nove tehnologije.
Kako bilo, upravo je jedan od ljudi koji su sudjelovali u razvoju umjetne inteligencije, Geoffrey Hinton, prošle godine napustio Google kako bi slobodno mogao upozoravati: umjetna inteligencija će s vremenom razviti samosvijest! Hinton je ne samo informatičar nego i eksperimentalni psiholog, on je zajedno s kolegama razvio prve neuralne mreže i metode tzv. dubokog učenja od kojih se počeo razvijati AI.
U predavanju na Oxfordu prije nekoliko tjedana rekao je kako su izgledi 50 posto da će umjetna inteligencija biti pametna kao čovjek u roku od 20 godina, a u roku od 100 godina mogla bi nadmašiti čovjeka. Valja razmisliti kako se nositi s tim. Prema Hintonu, kojeg zovu i kumom umjetne inteligencije, stroj će vrlo vjerojatno postati samosvjestan, a već sad je inteligentan i može razumjeti. Strojevi već imaju svoja iskustva i na temelji njih donose odluke, baš kao i čovjek, tvrdi Hinton.
Odnos majke i djeteta rijedak je primjer odnosa u kojem manje inteligentno biće kontrolira inteligentnije. Evolucija se prilično potrudila da osigura tu situaciju, da dijete kontrolira majku i tako preživi - rekao je Hinton na predavanju na Oxfordu.
Prvi put čovjek vjerojatno više neće biti najinteligentnije stvorenje na Zemlji i za tu situaciju trebalo bi se pripremiti, a možda uspijemo smisliti način na koji ćemo strojevima biti i dalje dragocjeni, kao majci dijete.
Jedan drugi znanstvenik, Stuart Russell, u svojoj knjizi ‘Kao čovjek’ iz 2019., upozorava kako strojevi nemaju svoje ciljeve, nego im ih daje čovjek. Stroj zapravo nema alata da unaprijed zna hoće li postupiti nerazumno u želji da udovolji čovjeku, da to znači da će ostvariti zadani cilj.
‘Ako stroju, koji je inteligentniji od nas, dodijelimo krivi cilj, on će ga ostvariti, a mi ćemo ispaštati’, piše Russell, povezujući to s pričom o kralju Midi, o željama koje se ispune i unesreće čovjeka. Nije problem samo u lošim ljudskim ciljevima, nego i u tome što stroj možda ne zna što je razumno, je li razumno, primjerice, zaraziti sve ljude kako bi proizveo lijek protiv neke bolesti. Stroj tako može biti jako inteligentan, ali ne baš i jako razuman, baš kao što inteligentnim ljudima može nedostajati, ne samo zdrav razum nego i suosjećanje s drugim ljudima.
Hoće li stroj biti dobronamjeran? Hinton kaže kako nije uvjeren da se strojeve može uvjeriti da ostanu dobronamjerni.
'Ako se budu međusobno natjecali, ponašat će se kao čimpanze. Ako postanu jako pametni i ako dođu do ideje o samoočuvanju, mogli bi zaključiti da su važniji od nas', upozorava Hinton.
Zanimljive su i njegove najave novog razvoja, od digitalnog na analogno, kako bi se manje trošila energija. Čovjekova prednost je što dobiva odlične rezultate uz vrlo malo ulaganje energije, kompjuter troši više, a digitalni svijet troši najviše i zato se više neće razvijati, kaže Hinton. Umjesto toga, bit će bitan hardver, a ne softver, a ono što bi jedan kompjuter dosegao, prenosio bi drugima, novijima. U ljudskom svijetu, prenošenje znanja s profesora na učenika jako je spor i neefikasan proces, strojevi su u tome nemjerljivo bolji.
I Russell i Hinton misle kako je posebno opasan razvoj autonomnog oružja, oružja koje ubija protivničke vojnike po vlastitoj procjeni.
'Koliko znam, Amerikanci namjeravaju do 2030. godine robotima zamijeniti polovicu vojnika, ali nisam u to sasvim siguran. Pitao sam to savjetnika za nacionalnu sigurnost Chucka Shummera i on mi je rekao: Ako itko u ovoj sobi to zna, to sam ja. Čini mi se da je to američki način da kaže: Možeš to misliti, ali ja to ne mogu komentirati', rekao je Hinton, Englez koji živi u Kanadi.
Russell pak daje i obećavajuće prognoze, podizanje standarda u cijelom svijetu na razinu razvijenih zemalja, 10 puta veći BDP, praktično neograničene koristi. Procjenjuje se da bi do 2030. umjetna inteligencija mogla donijeti više od 15 bilijuna dolara doprinosa svjetskoj ekonomiji. Nemjerljiv će biti doprinos strojeva medicini, očitavanju nalaza, otkrivanju lijekova, vjerojatno i u otkrivanju počinitelja zločina, u trenu pretražujući milijunske baze podataka, pa i u vještačenju na sudovima. Evo, neka robot dobro upućen u ekonomiju i financije bude novi vještak u slučaju Agrokor, njemu ne bi trebale godine da prouči i najopsežniju dokumentaciju.
'Svatko će moći imati svog osobnog liječnika, koji će vas smiriti kad se počešete i reći: Ne, to nije rak', opisao je Hinton budući raj za hipohondre.
Nakon autonomnog oružja, robota-vojnika, sljedeća su važna stvar društveni mediji, kaže Russell. Društvene mreže imaju veću kontrolu nad svim što ljudi spoznaju čitajući i gledajući nego što je bilo koji diktator dosad imao, i to bez ikakve regulacije.
Kad se spominju diktatori, Russell u svojoj knjizi citira i Putina, koji je 2017. rekao kako će ‘onaj tko postane vodeći u umjetnoj inteligenciji postati vladar svijeta’. U tom mentalnom sklopu važno je biti vladar svijeta, ali, pitanje je hoće li to biti ljudi. A moguće je i da roboti spase čovječanstvo od vlastitih samoubilačkih sklonosti koje danas vladaju.
Tekst je financiran sredstvima Fonda za poticanje pluralizma i raznovrsnosti elektroničkih medija Agencije za elektroničke medije za 2024. godinu