Umjetna inteligencija (UI) sve brže mijenja način na koji se razvijaju znanstvena otkrića, a medicinska istraživanja ne iznimka. Iako UI omogućuje brže analiziranje podataka i otkrivanje novih terapija, nedavno eksperiment u Švedskoj otkrio je koliko su ti sustavi ranjivi na namjerno lažne informacije. U nastavku ćemo objasniti kako je nastala lažna bolest, zašto su najnapredniji modeli UI prihvatili njeno postojanje i koje pouke možemo izvući iz ovog slučaja.
Izmišljena bolest i način na koji je „dokazana“
Švedski istraživači odlučili su testirati granice sposobnosti UI sustava da razlikuju stvarne i izmišljene medicinske podatke. Za taj eksperiment smislili su fiktivnu bolest oka pod nazivom bixonimija, opisanu kao neobjašnjiva svrbežna reakcija koja navodno pogađa sve dobne skupine. Kako bi test učinili što uvjerljivijim, sastavili su niz lažnih znanstvenih radova koji su sadržavali:
- izmišljeno ime autora – dr. Karla Vinter
- referencije na nepostojeće institucije, poput “Akademije Svemirskog Flote” i “USS Enterprise” iz popularne serije
- jasno naznačenu napomenu da je rad izmišljen, smještenu na kraju teksta
Iako su ti detalji bili očigledni, veliki jezični modeli (VELM) koji se koriste u pretraživačima i asistentima počeli su iznositi informacije o bixonimiji kao da je riječ o stvarnoj bolesti, navodeći simptome, moguće uzroke i čak preporučene tretmane.
Kako je dezinformacija proširena kroz akademsku mrežu
Prvi odgovor UI sustava potaknuo je stvaranje dodatnih lažnih radova koji su citirali originalni izmišljeni članak. Tako su se lažne reference pojavile u stvarnim bazama podataka, a neki autori, ne provjerivši izvor, koristili su ih u svojim pregledima literature. U roku od nekoliko tjedana, bixonimija se pojavila u pretraživačima medicinskih informacija, a korisnici su je pretraživali pod pretpostavkom da je riječ o legitiman medicinski entitet.
Ovaj fenomen pokazuje koliko brzo se lažne informacije mogu infiltrirati u znanstvene mreže kada ne postoji adekvatna provjera podataka. UI sustavi, iako izuzetno napredni u prepoznavanju uzoraka, ne posjeduju inherentnu sposobnost razlikovanja istine od laži bez dodatnog nadzora.
Što možemo naučiti iz ovog eksperimenta?
Eksperiment s bixonimijom otkriva nekoliko ključnih problema:
- Ovisnost o izvorima podataka: UI modeli uče iz ogromnih korpusa teksta, a ako se u te korpuse ubace lažne informacije, model će ih tretirati kao pouzdane.
- Nedostatak kritičkog razmišljanja: Za razliku od ljudi, UI ne postavlja pitanja o vjerodostojnosti izvora, već generira odgovor na temelju statističke vjerojatnosti.
- Potrebna je ljudska provjera: Svaka informacija koju UI pruži, osobito u medicini, mora biti provjerena od strane stručnjaka prije nego se primijeni u praksi.
Kako bi se spriječilo širenje sličnih dezinformacija, stručnjaci predlažu uvođenje višestrukih slojeva provjere, uključujući automatske alate za otkrivan