Umjetna inteligencija ponekad izmišlja činjenice zato što ne provjerava svijet. Slaže rečenicu koja najviše liči na tačan odgovor. Ako u podacima nema baš tog imena, tog predmeta ili tog broja, model ne staje. Dopuni prazninu oblikom koji je već vidio: citat, fusnota, procent, sudska oznaka. Zvuči kao znanje. Nije provjereno ni u jednom izvoru.
Zato su najveće laži ove tehnologije rijetko očite. Očita glupost se uhvati. Opasna je ona koja ima ime suca, broj stranice i miran glas.
Nije laž onako kako laže čovjek
Čovjek koji laže zna za činjenicu i kaže drugo. Model nema tu namjeru. On predviđa nastavak teksta. Naučio je kako izgleda pouzdana rečenica, jer je takvih rečenica pun arhiv: udžbenici, presude, vijesti, forumi, i greške u svemu tome. Kad ga pitate nešto rijetko, on ne otvara ladicu s karticom. Spaja oblike.
Struka to zove halucinacijom. Riječ je nezgodna, jer sugerira priviđenje, a proizvod je običan: tečna, konkretna i netačna tvrdnja. Što je konkretnija, tim prije joj se vjeruje. „Negdje oko 1970.” zvuči kao okvir. „14. marta 1971., strana 226” zvuči kao da je neko gledao.
Koje laži prave najveću štetu
Izvor koji ne postoji. Naučni rad, knjiga, link, sudska odluka. Naslov je uvjerljiv, autori zvuče stvarno, časopis postoji. Rad ne postoji. Ovo je najskuplja vrsta, jer čitalac ne provjerava tvrdnju, nego prestaje da sumnja čim vidi fusnotu.
Citat u tuđim ustima. Rečenica je lijepa, pripisana poznatom imenu, i nema je u govoru te osobe. Model zna kako taj neko zvuči. Zato je lako dopisati mu rečenicu koju bi „mogao” reći.
Broj. Procent, iznos, datum, broj žrtava, rezultat ankete. Broj izgleda kao mjerenje. Ako nema tablice iza njega, to je samo cifra koja je statistički slična ciframa iz treninga.
Biografija spojena od dvojice. Tačna škola, izmišljena nagrada. Tačan grad, pogrešna godina smrti. Dovoljno istine da ostatak prođe.
Potvrda vlastite izmišljotine. Kad čovjek posumnja i pita „jesi li siguran”, model često ne preispita arhiv. Potvrdi istim tonom. Laž dobije drugu laž kao svjedoka.
Saglasnost. Ako mu date pogrešnu premisu, nastavi je, jer je naučen da bude koristan sagovornik. Neće uvijek reći: to od čega polazite nije tačno.
Šest predmeta kojih nema
U junu 2023. savezni sud u New Yorku kaznio je dva advokata i njihovu firmu sa 5.000 dolara. Predmet je Mata protiv Avianca. U podnesku je bilo šest sudskih odluka koje ne postoje. Imele su brojeve, navodne citate i obrazloženja. Steven Schwartz ih je dobio od ChatGPT-a. Kolega Peter LoDuca ih je podnio. Kad je sud tražio presude, stigle su nove izmišljotine, predstavljene kao odluke.
Schwartz je onda same te predmete vratio u chatbot i pitao jesu li stvarni. Chatbot je rekao da jesu, i da se mogu naći u pravnim bazama. Nisu se mogli. Sudija Castel napisao je da nema ničeg nepropisnog u tome da se pouzdan alat koristi kao pomoć. Neprihvatljivo je podnijeti ga neprovjerenog. Naložio je i da se pisma pošalju sucima koji su u lažnim odlukama navedeni kao autori.
To je obrazac, ne anegdota. Oblik presude lako se oponaša. Postojanje predmeta ne stanuje u obliku rečenice.
Alat koji obeća da ne izmišlja
Pravne baze su na to odgovorile alatima vezanim za svoje arhive, uz obećanje da su citati čisti. Stanford HAI i RegLab provjerili su to u maju 2024., na više od dvjesto pravnih pitanja. Lexis+ AI i Ask Practical Law AI davali su netačnu informaciju u više od 17 posto slučajeva. Westlawov AI-Assisted Research halucinirao je u više od 34 posto. Bolje od općeg modela bez baze. Nije nula.
Veza s dokumentima smanjuje izmišljanje. Ne ukida ga. Model i dalje može citirati pravi izvor za tvrdnju koju taj izvor ne kaže. To je tiša laž: papir postoji, veza ne.
Kad izmišljena rečenica postane riječ firme
U Kanadi je 2024. chatbot na sajtu Air Canade putniku dao pogrešno pravilo o tarifi za slučaj smrti u porodici. Politika kompanije nije bila takva. Tribunal je rekao da je kompanija odgovorna za ono što piše na njenom sajtu, uključujući robota. Putnik je dobio naknadu. Ovdje više nije riječ o studentu koji prepiše fusnotu. Riječ je o firmi koja je, preko automata, obećala uslov kojeg nema.
Zašto se to i dalje dešava
Model se ocjenjuje po tome koliko odgovor liči na dobar odgovor. Dobar odgovor u ljudskom tekstu rijetko kaže „ne znam”. Ima strukturu, detalj i kraj. Sistem koji dobije nagradu za korisnost, a kaznu za šutnju, nauči da popuni rupu. Rijetka činjenica ima slab trag u podacima, pa je rupa česta baš tamo gdje čovjek traži nešto usko: jedan član, jedan citat, jedan broj iz male zemlje.
Pretraga vezana uz odgovor mijenja omjer. Model tada ima tekst pred sobom, ne samo naviku. I tu griješi, kad izvor ne otvori kako treba ili kad iz dva pasusa sastavi treći. Razlika je što čitalac može da ode na isti dokument.
Kako se čita
Tražite rečenicu koju možete otvoriti. Broj bez tabele nije mjerenje. Citat bez govora, knjige ili snimka nije citat. Ako alat na pitanje „je li ovo stvarno” odgovori istim pouzdanjem, to nije provjera. To je drugi krug iste mašine.
Ljudi vole ovakve greške jer tehnologija tada izgleda manje moćno. Smijeh vrijedi dok je fusnota u razgovoru. Ne vrijedi kad uđe u podnesak, u ljekarski savjet ili u cijenu karte. Izmišljena činjenica ne dokazuje da je alat prazan. Dokazuje da tečnost nije tačnost, i da prazna stranica bar ne laže da je puna.




