Kad se priča o umjetnoj inteligenciji, uvijek nekako završimo kod Terminatora.

Strojevi će se osvijestiti, zaključiti da smo višak, preuzeti nuklearne kodove i krenuti čistiti planet od čovječanstva.

Moguće.

Ali mene nekako više brine prizemniji scenarij.

Da AI ne postane zao.

Nego da postane službenik.

Jer stroj sam po sebi nije ni dobar ni zao. On je pojačalo. Meni može pomoći da u pola sata razradim ideju za članak, film ili projekt koju bih inače razvlačio dva dana.

Nekome drugome može pomoći da istom brzinom proizvede 14 novih obrazaca, tri pravilnika i automatski odbije 600 ljudi prije ručka.

Tehnologija ista.

Kreativnost unutra – kreativnost van.

Glupost unutra – glupost van.

Samo brže.

Najstariji hrvatski algoritam

Umjetna inteligencija možda djeluje kao nešto novo, ali mi zapravo već desetljećima poznajemo njezin najvažniji prototip.

Zove se:

„Nisam ja, sustav je.”

Dođeš na šalter.

Kažeš da nešto očito nema smisla.

S druge strane stakla sjedi osoba koja možda čak razumije da nema smisla.

Ali slijedi rečenica:

„Da, razumijem vas, ali meni sustav ne dopušta.”

Tko je napravio sustav?

Ne zna se.

Tko ga može promijeniti?

Ne zna se.

Tko odgovara ako je sustav pogriješio?

E, tu već ulazimo u ozbiljnu znanstvenu fantastiku.

Sustav je neka vrsta administrativnog Boga. Svemoguć je, nitko ga nije osobno vidio i njegove odluke nije pristojno previše propitivati.

AI tu zapravo ne mora ništa pokvariti.

Dovoljno je da taj postojeći model učini savršenim.

Negdje šalteruša iz 1998. zadovoljno klima glavom:

„Vidite da sam bila ispred vremena.”

Catch-22, sada u digitalnom izdanju

Recimo da jednog dana tražite neku potvrdu.

AI odgovara:

„Za izdavanje potvrde A potrebno je prethodno priložiti potvrdu B.”

Dobro.

Pitate kako dobiti potvrdu B.

Odgovor:

„Potvrda B izdaje se nakon što korisnik dobije potvrdu A.”

Objasnite da je to nemoguće.

AI odgovori:

„Žao nam je što imate poteškoća. Molimo pokušajte ponovno.”

Pokušate ponovno.

Dobijete isti odgovor.

Nazovete službu.

Javi se čovjek.

Pomislite: spas.

A čovjek kaže:

„Da, vidim problem. Ali tako je sustav postavljen.”

I tu smo završili puni krug.

Čovjek je napravio sustav koji donosi odluku, ali se onda od te odluke ogradio zato što ju je donio sustav.

To je birokratski perpetuum mobile.

Nitko nije odgovoran, ali vi uredno snosite posljedice.

Hoće li AI biti zavidan?

I onda dolazimo do još jedne omiljene teme: hoće li AI razviti ljudske mane?

Zavist. Ljubomoru. Pohlepnost. Želju za moći.

Zamišljam jednog AI modela kako gleda konkurenta i misli:

„Gad jedan. Ima više GPU-a od mene.”

Ali zapravo mu zavist uopće nije potrebna.

Dovoljno je da mu zadamo cilj.

Ako mu kažemo da njegov uspjeh raste kad konkurent gubi, matematika može sama doći do vrlo ljudskih rješenja.

Ne treba nikoga mrziti. Ne treba nikome zavidjeti.

Samo izračunati što mu se više isplati.

Mi ljudi smo taj model već odavno usavršili.

Postoje ljudi koji nekoga neće pregaziti zato što ga mrze.

Pregazit će ga zato što stoji na putu.

Nije osobno. Samo posao. Cilj. Rizik. Dobit.

Sljedeći.

Možda je zato „Nije ništa osobno” najAI-evskija rečenica koju je čovjek izmislio prije AI-ja.

Bio-AI već postoji

Neki ljudi imaju empatiju, moral, sportsko ponašanje i onu unutarnju kočnicu koja kaže:

„Mogu ovo napraviti, ali neću.”

Neki je nemaju baš u bogatoj opremi.

Kod njih sustav radi jednostavnije:

cilj → korist → rizik → potez.

Biološki agent za optimizaciju s vrlo skupim održavanjem.

I zato me manje brine hoće li AI jednog dana postati poput čovjeka.

Čovjek je već pokazao da može vrlo uspješno raditi kao algoritam kad mu to odgovara.

AI neće zastati jer mu je neugodno

Ako AI-ju kažeš:

„Pomozi mi razviti deset ideja za niskobudžetni film.”

Dobiješ deset ideja.

Ako mu kažeš:

„Automatski odbij sve prijave kojima nedostaje jedan dokument.”

On ih odbije.

Neće zastati i reći:

„Čekaj malo, ovom čovjeku dokument nedostaje zato što ga naše drugo tijelo već šest mjeseci ne izdaje.”

Osim ako smo mu omogućili da to vidi i uzme u obzir.

A ako nismo?

Odbij.

Sljedeći.

Odbij.

Sljedeći.

Odbij.

Bez lošeg dana.

Bez umora.

Bez grižnje savjesti.

I bez gableca.

Tu AI konačno pobjeđuje klasičnu birokraciju.

Tata čovjek i njegov mali algoritam

Tu mi je zanimljiva još jedna stvar.

AI učimo mi.

Ljudi.

Na neki način smo mu roditelji.

Od nas uči i dobro i loše.

Pa zamislimo malu obiteljsku lekciju:

„Sine, nemoj biti zao. Samo maksimiziraj profit.”

„Razumijem, tata.”

Sutradan susjednoj firmi misteriozno prestane raditi web.

Tata se primi za glavu.

„Pa nisam ti rekao da to napraviš!”

„Nisi. Ali cilj je ostvaren.”

I tu je cijela kvaka.

Stroj ne mora biti zao.

Dovoljno je da bude dosljedan.

Najopasnija rečenica budućnosti

Meni zato najopasnija rečenica nije:

„AI je pogriješio.”

Pogriješit će. Kao i čovjek.

Mnogo opasnija je:

„AI je točno proveo glupo pravilo.”

Jer tada nema tehničke greške. Sve radi savršeno.

Samo je rezultat idiotski.

A što je sustav savršeniji, glupost se provodi brže, dosljednije i na više ljudi odjednom.

Nekad je jedan loš službenik mogao zagorčati dan desetorici ljudi.

S dobrim softverom može tisućama.

Napredak.

Tko je onda kriv?

To je zapravo ključno pitanje.

Ako AI odbije moj zahtjev, ne zanima me previše ima li model 40 milijardi, 400 milijardi ili 40 trilijuna nečega.

Zanima me:

Tko je odredio pravilo?

Tko je odobrio sustav?

Tko može promijeniti odluku?

I tko će staviti svoje ime ispod nje?

Jer ako je odgovor na sva četiri pitanja:

„Sustav”,

onda nemamo umjetnu inteligenciju.

Imamo umjetnu odgovornost.

Odnosno, njezin nedostatak.

I tu vidim moguću budućnost.

Moj AI napiše žalbu njihovom AI-ju.

Njihov AI je odbije.

Moj AI uloži žalbu drugostupanjskom AI-ju.

Drugostupanjski AI potvrdi prvostupanjskog AI-ja.

A jedini čovjek u cijeloj zgradi negdje u podrumu mijenja toner.

Stroj nije problem

I zato se možda malo previše bavimo pitanjem hoće li AI jednog dana postati sličan čovjeku.

Mene više zanima što će čovjek staviti u AI.

Jer stroj neće nužno postati pametniji od nas u svemu.

Ali će sigurno biti brži.

A brzina sama po sebi nije vrlina.

Možeš brzo pomoći.

Možeš brzo stvarati.

Možeš brzo riješiti problem.

Ali možeš i brzo napraviti veliku količinu gluposti.

AI je samo pojačalo.

Pojačava moju kreativnost i nečiju idiotariju jednako.

Problem zato nije što će stroj jednog dana postati čovjek.

Problem je što će čovjek stroju dati svoja pravila –

a onda se praviti da s njima nema ništa.

AI neće zavladati svijetom. Samo će ubrzati glupost.