Ako AI hranimo glupostima, čime hranimo ljude?

Nedavno naletim na naslov koji se pita postaje li umjetna inteligencija sve gluplja.

Prva dijagnoza nameće se sama:

Normalno da postaje. Previše se druži s ljudima. S kim si, takav si.

Kad pročitaš članak, stvar ipak nije baš tako jednostavna. Problem na koji se istraživanja upozoravaju jest da AI modeli mogu početi gubiti kvalitetu ako ih kroz generacije sve više treniramo na sadržaju koji su prethodno proizveli drugi AI modeli.

U prijevodu:

Ako AI dovoljno dugo hranimo njegovim vlastitim glupostima, mogao bi ih početi učiti kao stvarnost.

I tu mi je palo na pamet neugodno pitanje.

A čime hranimo ljude?

Jer čovječanstvo svoje modele trenira već tisućama godina.

Djeca uče od roditelja. Učenici iz udžbenika. Udžbenike pišu ljudi koji su učili iz prethodnih udžbenika. Novinari citiraju stručnjake, stručnjaci druge stručnjake, a svi zajedno živimo u svijetu u kojem se neke priče čuju glasnije jednostavno zato što iza njih stoji veći autoritet, bolji položaj ili jači megafon.

Kaže se da povijest pišu pobjednici.

Možda je preciznije reći da pobjednici uglavnom imaju bolju tiskaru.

A kad se nešto dovoljno dugo ponavlja u knjigama, medijima, školama i razgovorima, vrlo lako prijeđe iz kategorije:

„Trenutno mislimo da je tako.”

u puno opasniju: „Ma to se zna.”

Tu ni znanost nije svemoguća zaštita. Njena velika vrijednost upravo je u tome što može reći: bili smo u krivu, evo boljih dokaza. Ali između pogrešne tvrdnje i njezina sprovoda ponekad prođe poprilično vremena.

Jer stvarnost ima ružnu naviku da bude kompliciranija od naslova.

Najčešće nije: A uzrokuje B.

Nego: A, B, C, okolnosti, predispozicije, vrijeme, slučajnost i još nekoliko stvari koje nismo ni izmjerili zajedno daju rezultat D.

Priča je jednadžba s više nepoznanica, a čovjek bi najradije odgovor s jednom.

Jedan uzrok. Jedan krivac. Jedna rečenica. Gotovo.

Možda zato toliko dobro prolaze tvrdnje poput:

„AI postaje gluplji.”

„Ljudi danas imaju pažnju od osam sekundi.”

I, naravno:

„Zlatna ribica pamti samo tri sekunde.”

Svi to znamo. Osim zlatne ribice.

Jer tvrdnja o tri sekunde nema ozbiljnu znanstvenu podlogu. Zlatne ribice mogu učiti i pamtiti puno dulje.

Ali priča je toliko dugo ponavljana da je praktički postala službeni životopis cijele vrste.

I tu je stvar već gotovo umjetnička.

Brinemo se da bi umjetna inteligencija mogla završiti u petlji u kojoj uči iz vlastitih pogrešaka, a čovječanstvo je taj sustav instaliralo puno prije struje.

Netko nešto kaže. Drugi ponovi. Treći citira drugoga. Četvrti više ne zna odakle je došlo.

Peti kaže: „Ma to se zna.”

I dobili smo analogni model collapse.

Danas je tome samo dodan turbo.

Naslov. Slika. Dvije sekunde. Reakcija. Dalje.

Naslov više nije mamac za članak – Za velik dio publike naslov jest članak.

Tako istraživanje o mogućem propadanju kvalitete AI modela treniranih na sintetičkim podacima nakon nekoliko prepričavanja postane „istina o AI gluposti”.

Istodobno povremeno čitam tekstove ljudi koji objašnjavaju koliko je umjetna inteligencija beskorisna jer ih ništa ne razumije, daje glupe odgovore i stalno radi nešto krivo.

I uvijek mi padne na pamet isto pitanje:

Pa kako ja s Chatkom sasvim uredno drugujem? U čemu je vaš problem?

Ne zato što je AI nepogrešiv. Nije.

Zna fulati, izmisliti podatak, krivo razumjeti pitanje ili samouvjereno krenuti prema provaliji.

Ali postoji i mala mogućnost da svaki loš razgovor nije dokaz da je samo jedan sugovornik idiot.

Ako napišete:

„Napravi mi dobar članak.”

i dobijete generički članak, pokušajte isti eksperiment s čovjekom.

Uđite u redakciju, pronađite novinara i recite: „Napiši nešto dobro.”

Zatim otiđite.

Rezultati bi mogli biti znanstveno vrlo zanimljivi.

Možda zato glavno pitanje nije hoće li umjetna inteligencija postati gluplja hraneći se vlastitim sadržajem.

Možda je zanimljivije pitati:

koliko je onoga čime smo mi hranjeni stvarno provjereno, a koliko se samo dovoljno dugo ponavlja?

Jer svaka generacija nešto naslijedi.

Znanje, iskustvo, otkrića.

Ali u paketu se uvijek provuče i pokoja glupost.

Problem nastaje kad više ne razlikujemo jedno od drugoga zato što nam se ne da otvoriti članak.

A ribica bi već nakon trećeg ozbiljnog pasusa rekla:

„Dobro, je li ovdje ima neka poanta ili samo ponovno izmišljate novinarstvo?”