U digitalnom dobu, gdje se granice između stvarnosti i virtualnosti sve više zamagljuju, pojavljuju se novi, sofisticirani oblici kriminalnih aktivnosti. U jugoistočnoj Aziji, kriminalne organizacije razvile su uznemirujuću strategiju iskorištavanja naprednih tehnologija umjetne inteligencije (AI) za stvaranje uvjerljivih lažnih identiteta. Ove digitalne iluzije, poznate kao ‘duboke prijevare’ (deepfake scams), koriste sintetička lica prikazana u stvarnom vremenu tijekom video poziva, s ciljem obmanjivanja žrtava i pribavljanja financijske koristi.
Od bučnih ureda do studija za duboke prijevare
Dugogodišnja slika kriminalnih operacija u ovom sektoru uključivala je redove mladih radnika pognutih nad telefonima u osiguranim industrijskim parkovima. Poslovni model bio je jednostavan: nabaviti procurjele popise telefonskih brojeva, naučiti napamet scenarije i hladnim pozivima pokušati uvjeriti žrtve da pošalju novac. Iako su pandemijske blokade ubrzale ovaj model, istovremeno su potaknule veći dio društvene interakcije na video aplikacije. Kriminalci su to brzo primijetili. Ako je glasovni poziv mogao nagovoriti umirovljenika da se odrekne svoje ušteđevine, onda bi prijateljsko lice na Zoomu ili WhatsAppu moglo udvostručiti zaradu.
Početni pokušaji bili su grubi. Operateri su koristili statične fotografije ili kratke, ponavljane isječke ukradene s Instagrama, no pronicljive žrtve brzo su prepoznale prijevaru. S napretkom otvorenih knjižnica za zamjenu lica poput DeepFaceLab i komercijalnih usluga za izradu avatara, kriminalne organizacije shvatile su da umjesto plaćanja stotinama zaposlenika da sjede u uredima, mogu generirati nekolicinu fotorealističnih lica i koristiti ih neprekidno. Jedini nedostajući sastojak bili su podaci za obuku – stotine kratkih video isječaka iste osobe koja trepće, klima glavom i govori. Ta potreba stvorila je novu ‘ekonomiju’ u mjestima poput Kambodže, Laosa i sjevernog Mjanmara: ‘najam lica’.
Kako funkcionira lanac regrutacije za stvaranje digitalnih klonova
Proces stvaranja uvjerljivog digitalnog klona uključuje nekoliko ključnih faza, koje su kriminalne mreže usavršile kako bi maksimizirale učinkovitost i smanjile rizik:
- Prikupljanje podataka (Casting): Prvi korak je pronalaženje osoba čija će lica biti korištena. Regruteri ciljaju na modele koji govore engleski, učitelje engleskog jezika i agente u pozivnim centrima u gradovima poput Bangkoka, Phnom Penha i Ho Chi Minh Cityja. Oglasi često obećavaju značajne svote novca, poput 200 američkih dolara, za samo ‘dva sata snimanja videa bez ikakvih neugodnosti’. Cilj je prikupiti stotine kratkih video isječaka osobe koja govori, smiješi se, trepće i izvodi različite izraze lica. Ti podaci služe kao temelj za obuku AI modela.
- Obuka modela strojnog učenja: Prikupljeni video materijal koristi se za treniranje naprednih modela umjetne inteligencije. Ovi modeli uče prepoznati i replicirati suptilne pokrete lica, treptanje, govor i izraze osobe. Rezultat je sintetički klon koji može izgledati i zvučati gotovo identično stvarnoj osobi, ali bez potrebe za njezinim stalnim prisustvom. AI model može generirati video u stvarnom vremenu, sinkronizirajući pokrete usana s izgovorenim riječima i dodajući prirodne izraze lica.
- Implementacija u video pozive: Nakon što je AI model uvježban, sintetičko lice integrira se u softver za video komunikaciju. Operater, koji se nalazi na drugoj lokaciji, upravlja ovim digitalnim avatarom u stvarnom vremenu. Dok operater izgovara unaprijed pripremljeni scenarij ili odgovara na pitanja žrtve, AI generira odgovarajuće izraze lica na sintetičkom klonu. To stvara iluziju da žrtva razgovara s pravom osobom, koja je često odabrana da bude privlačna ili profesionalna, kako bi se povećalo povjerenje.
Ovaj hibridni pristup kombinira ljudsku