U pravnom sustavu, pouzdanost dokaza oduvijek je bila temelj na kojem se gradi istina. Fotografije i videozapisi stoljećima su služili kao „tihi svjedoci“, pružajući objektivni zapis stvarnosti koji je sudovima i porotama pomagao u donošenju presuda. Međutim, s nevjerojatnim napretkom generativne umjetne inteligencije (AI), ova temeljna pretpostavka dovodi se u pitanje. Ulazimo u razdoblje poznato kao „deficijencija stvarnosti“, gdje se sama ideja dokaza suočava s dubokom krizom.
Vrijednost dokaza tradicionalno se temeljila na njegovoj autentičnosti i poteškoći u njegovoj izradi. U eri prije pojave napredne umjetne inteligencije, stvaranje uvjerljivog lažnog videozapisa zahtijevalo je značajna sredstva, stručno znanje i mnogo vremena. Danas, trošak izrade hiperrealističnog „dubokog lažnog“ videa (deepfake) približava se nuli, dok trošak provjere njegove istinitosti postaje gotovo neograničen. Ova neravnoteža stvara vakuum u pravnom procesu, zamjenjujući jasnoću dokaza otrovnom maglom sintetičke nesigurnosti. Pravni sustav suočava se s izazovom koji nije samo tehničke, već i ontološke prirode – dovodi u pitanje našu sposobnost da razlučimo što je stvarno, a što je stvoreno.
Mit o forenzičkom rješenju
Mnogi optimisti u području pravnih tehnologija vjeruju da se iz ove krize možemo izvući tehnološkim rješenjima. Oni predviđaju budućnost u kojoj će za svaku umjetnu inteligenciju sposobnu za stvaranje dubokih lažnih videa postojati i odgovarajuća AI za njihovo otkrivanje. Takozvani „forenzički utrka u naoružanju“ trebao bi osigurati da standardi poput onih koje promiče Koalicija za postanak i autentičnost sadržaja (C2PA) stvore siguran lanac skrbništva nad digitalnim medijima. To bi nam, navodno, omogućilo da s matematičkom preciznošću razlikujemo autentičan od sintetičkog sadržaja.
Međutim, ovakav pogled zanemaruje prirodu suvremenog digitalnog ratovanja. AI za otkrivanje je u svojoj biti reaktivna; ona može prepoznati samo one obrasce i artefakte za koje je trenirana. U svijetu u kojem se tehnologije generiranja sadržaja neprestano usavršavaju, alati za otkrivanje uvijek će biti korak, ili čak nekoliko koraka, iza svojih protivnika. To znači da će, čak i uz napredne sustave provjere, uvijek postojati rizik od propuštanja sofisticiranih lažnih sadržaja.
Posljedice za pravosudni sustav
Nepovjerenje u vizualne i audio dokaze ima dalekosežne posljedice za pravosudni sustav. Ako se više ne možemo pouzdati u ono što vidimo i čujemo, kako možemo utvrditi činjenice u sudnici? Ovo otvara vrata potencijalnim zlouporabama, gdje se autentični dokazi mogu lako diskreditirati tvrdnjom da su sintetički, dok se izmišljeni dokazi mogu predstaviti kao stvarni.
Suci i porote morat će se suočiti s novom vrstom stručnosti – stručnošću u prepoznavanju sintetičkog sadržaja. To zahtijeva ne samo tehničko znanje, već i duboko razumijevanje načina na koji AI manipulira stvarnošću. Osim toga, pravni sustav morat će razviti nove protokole za provjeru autentičnosti dokaza, što će vjerojatno dovesti do:
- Povećane potrebe za forenzičkim stručnjacima za digitalne medije.
- Duljih i skupljih sudskih postupaka zbog potrebe za detaljnom provjerom dokaza.
- Potencijalnog smanjenja uloge vizualnih i audio dokaza u korist drugih oblika svjedočenja.
- Potrebe za novim zakonima i propisima koji reguliraju upotrebu i predstavljanje AI generiranih medija u sudskim postupcima.
Budućnost dokazivanja u eri umjetne inteligencije
Suočeni s ovim izazovima, pravni sustav mora se prilagoditi. To ne znači odustajanje od tehnologije, već njezino mudro korištenje i razvoj mehanizama zaštite. Ključno je razviti sustave koji ne samo da mogu otkriti lažne sadržaje, već i osigurati autentičnost originalnih zapisa.