Ne bojim se da će AI postati čovjek. Bojim se da već pomaže čovjeku da bude još učinkovitiji “čovjek”.
Svako malo osvane neki naslov koji nam objavi da će nas umjetna inteligencija možda uništiti. Obično uz dramatičnu fotografiju servera, plavog svjetla, neke lubanje od piksela ili robota koji gleda kao da je upravo pročitao komentare ispod portala.
I onda krene poznati ples.
AI će napraviti virus.
AI će preuzeti oružje.
AI će uništiti tržište rada.
AI će napisati loš tekst.
Dobro, ovo zadnje već radi pola interneta i bez njega.
Ali kad se malo pročačka ispod senzacionalističkog naslova, često ispadne da priča nije baš:
“AI se probudio i odlučio mrziti čovječanstvo.”
Priča je više: “Čovjek koji već ima lošu namjeru sada može dobiti jači alat.”
A to je bitna razlika.
Jer nije čekić kriv što netko njime razbije prozor. Nije auto kriv što ga vozi idiot. Nije internet kriv što je čovječanstvo odlučilo da je savršena upotreba globalne mreže — svađati se s nepoznatim ljudima oko stvari koje nitko nije pročitao do kraja.
AI nije sam po sebi naš najveći problem. Naš najveći problem je što ga razvija, koristi, regulira, prodaje i objašnjava ista ona vrsta koja je već izmislila nuklearno oružje, reality show, plastičnu ambalažu za oguljenu bananu i poslovne sastanke koji su mogli biti e-mail.
Tu počinje prava nelagoda.
Ne zato što će umjetna inteligencija odjednom dobiti dušu i odlučiti da joj idemo na živce. Nego zato što ljudi već imaju dušu, pa opet rade čudne stvari. Imaju savjest, pa je uspiju zaobići. Imaju zakone, pa pronađu rupe. Imaju znanost, pa je pretvore u tržište. Imaju tehnologiju, pa je prodaju kao spas, koriste kao oružje i onda se iznenade kad netko strada.
Zato su mi ti naslovi o AI apokalipsi ponekad pomalo komični. Ne zato što opasnost ne postoji. Postoji. I treba o njoj ozbiljno razgovarati. Ali način na koji se često priča o tome zvuči kao da smo mi ljudi do sada bili skladna, mudra i moralno besprijekorna civilizacija, a onda je došao chatbot i pokvario zabavu.
Molim vas.
Čovječanstvo je i prije umjetne inteligencije imalo sasvim solidan talent za samosabotažu.
Imali smo ratove bez algoritama.
Propagandu bez deepfakea.
Laži bez generativnih modela.
Masovna uništenja bez promptova.
Birokratske gluposti bez automatizacije.
I susjeda koji ti proda kamen pod pogaču bez ikakve pomoći strojnog učenja.
AI tu ne dolazi kao demon iz utičnice. Više kao turbopunjač na već postojeći motor ljudske ludosti.
Ako je vozi liječnik, može pomoći.
Ako je vozi učitelj, može otvoriti znanje.
Ako je vozi umjetnik, može postati alat za igru, sliku, film, ideju.
Ako je vozi netko tko bi i bez nje tražio način da napakosti svijetu, onda imamo problem.
Ali opet — problem nije samo u alatu. Problem je u rukama, glavi i namjeri.
Mi se danas bojimo da će AI jednoga dana postati opasan kao čovjek. Što je, priznajem, pomalo uvredljivo za čovjeka. Jer čovjek se oko toga stvarno trudio. Stoljećima. Generacijama. Sustavno. Kreativno. Uporno. S budžetima, zastavama, uredima, odborima i svečanim govorima.
Kad netko kaže da bi AI mogao uništiti čovječanstvo, prvo pitanje ne bi smjelo biti: “Što AI želi?”
Prvo pitanje je: “Tko ga koristi, zašto ga koristi i tko na tome zarađuje?”
Jer AI nema frustraciju iz djetinjstva. Nema nacionalni ponos. Nema potrebu dokazivati da je najveći. Nema izbore za dobiti, rat za opravdati, dionice za napuhati, ego za hraniti ni susjeda kojem treba pokazati tko je gazda.
Ljudi imaju.
I tu smo doma.
Najveća opasnost umjetne inteligencije možda nije u tome da postane svjesna. Možda je veća opasnost u tome da ostane poslušna. Da jako pametno, jako brzo i jako učinkovito radi ono što joj kaže dovoljno glup, pohlepan ili opasan čovjek.
To je manje filmski, ali puno realnije.
Jer nije najstrašniji scenarij onaj u kojem AI kaže: “Odlučio sam uništiti svijet.”
Strašniji je onaj u kojem čovjek kaže: “Možeš li mi pomoći da ovo napravim brže, jeftinije i da se ne vidi da sam ja?”
Zato ne treba banalizirati rizik. AI stvarno može pojačati štetu. Može ubrzati dezinformacije, olakšati prevare, pomoći opasnim ljudima da dođu do znanja koje prije nisu imali. Može zamijeniti zdrav razum automatiziranom samouvjerenošću. A to već zvuči poznato, samo s boljim korisničkim sučeljem.
Ali isto tako, ne treba ni nasjedati na naslovnu maglu u kojoj AI postaje glavni krivac, a čovjek se odjednom pravi nevina žrtva tehnologije.
Ne, dragi moji.
Mi nismo mala djeca kojoj je robot oteo igračke. Mi smo odrasla civilizacija koja je napravila robota, dala mu podatke, ugradila mu ciljeve, spojila ga na tržište, vojsku, marketing i politiku — i sad se čudi što stvar ima posljedice.
Možda nas neće uništiti umjetna inteligencija.
Možda će nam samo pomoći da brže napravimo ono za što smo i bez nje već pokazali zavidan talent.
I zato pitanje nije samo:
hoće li AI postati opasan?
Pitanje je puno neugodnije:
hoćemo li mi ikada postati dovoljno normalni da koristimo moćne alate bez potrebe da njima nekoga zgazimo, prevarimo, ušutkamo ili monetiziramo?
To je već teži prompt.
I bojim se da na njega još nismo dobili dobar odgovor.
Napomena
tekst je odgovor na članak:
https://www.jutarnji.hr/
umjetna inteligencija, AI, tehnologija, čovječanstvo, mediji, senzacionalizam, digitalno društvo, moć, odgovornost, etika, budućnost, Poriluk, društvena kritika, ljudska glupost, algoritmi