U svijetu znanosti, gdje preciznost i provjerene činjenice imaju najviši prioritet, pojavila se nova prijetnja koja ugrožava integritet objavljenih istraživanja. Veliki jezični modeli (LLM), iako moćni alati za generiranje teksta, mogu stvoriti tzv. ‘AI kašu’ – sadržaj koji je uvjerljiv na prvi pogled, ali zapravo sadrži netočnosti, izmišljene reference ili čak neovlašteno korištenje povjerljivih podataka. Kako bi se zaštitila znanstvena zajednica od ovakvih pojava, platforma ArXiv, ključni repozitorij znanstvenih radova u područjima fizike, matematike i računalnih znanosti, uvela je novu, strogu politiku.
Nova pravila: Jedan propust, jedna godina zabrane
ArXiv je službeno implementirao politiku ‘jednog udarca’ (one-strike policy) koja se izravno bavi problemom nekontroliranog korištenja umjetne inteligencije u pripremi znanstvenih radova. Prema novim pravilima, autori koji predaju radove za objavu na ArXiv-u, a koji pokažu jasne znakove korištenja AI alata bez odgovarajuće provjere, suočit će se s obveznom jednogodišnjom zabranom pristupa platformi. Ova odluka predstavlja snažan stav protiv narušavanja znanstvenih standarda i naglašava da, iako AI alati mogu pomoći u procesu pisanja, konačna odgovornost za točnost informacija leži isključivo na autoru.
Thomas Dietterich, predsjednik računalnog odjela ArXiv-a, pojasnio je da ova politika nije usmjerena protiv korištenja AI kao pomoćnog alata, već protiv nedostatka ljudskog nadzora i provjere. Ako moderator platforme utvrdi ‘nepobitan dokaz’ da je rad generiran ili značajno izmijenjen pomoću LLM-a bez adekvatne verifikacije, autori će biti suspendirani na dvanaest mjeseci. Posljedice ove zabrane nadilaze samo jednogodišnje razdoblje. Nakon isteka suspenzije, autori se neće automatski vratiti u prijašnji status. Njihovi budući radovi bit će podvrgnuti pojačanoj kontroli te će morati biti prihvaćeni za objavu u nekom uglednom, recenziranom znanstvenom časopisu prije nego što ih ArXiv odluči objaviti kao preprint. Ovo praktički znači da će autori koji su prekršili pravila izgubiti povlastice brze objave na ArXiv-u, što je ključno za uspostavljanje prioriteta u znanstvenim otkrićima.
Zašto je ova politika nužna? Problem ‘AI kaše’
Uspon velikih jezičnih modela donio je sa sobom i nove izazove. Iako su ovi alati izuzetno korisni za generiranje teksta, sažimanje informacija i čak predlaganje ideja, njihova primjena u znanstvenom radu zahtijeva iznimnu opreznost. Jedan od glavnih problema je sklonost LLM-ova ‘haluciniranju’ – stvaranju informacija koje zvuče uvjerljivo, ali su zapravo netočne ili potpuno izmišljene. To se najčešće očituje u:
- Izmišljenim referencama: LLM-ovi mogu generirati citate i popise literature koji ne postoje ili se odnose na potpuno druga djela. To ne samo da zavarava čitatelje, već i otežava provjeru izvornih izvora.
- Netočnim podacima: Iako se temelje na ogromnim bazama podataka, LLM-ovi mogu pogrešno interpretirati ili prezentirati znanstvene podatke, što može dovesti do pogrešnih zaključaka.