Generativna umjetna inteligencija (GenAI) sve je važniji dio naših digitalnih života, nudeći personalizirana iskustva od automatskih transkripcija do naprednog sažimanja sadržaja. Uspjeh ovih alata temelji se na obradi velikih količina neuređenih podataka. Za razvojne inženjere, razumijevanje kako GenAI funkcionira u stvarnim uvjetima ključno je za poboljšanje funkcionalnosti i ispravljanje pogrešaka. Međutim, postavlja se ključno pitanje: kako prikupiti dragocjene uvide u korištenje AI bez ugrožavanja povjerljivosti osobnih podataka korisnika? Google Research predstavlja novo rješenje pod nazivom Provjerljivi privatni uvidi (Provably Private Insights – PPI), osmišljeno kako bi riješilo ovu dilemu.
Temelji provjerljivih privatnih uvida
Provjerljivi privatni uvidi predstavljaju značajan napredak u području transparentnosti i sigurnosti podataka. Integracijom velikih jezičnih modela (LLM), diferencijalne privatnosti (DP) i pouzdanih izvršnih okruženja (TEE), ovaj sustav omogućuje analizu neuređenih podataka iz GenAI aplikacija, a da pritom nijedan pojedinačni podatak nikada ne bude izložen. Sustav je dizajniran za pružanje agregiranih, anonimnih uvida, djelujući poput stručnjaka za podatke koji može odgovoriti na složena pitanja o ponašanju korisnika, a da nikada ne vidi sirove, neobrađene informacije.
Srž ove tehnologije čini povjerljiva federativna analitika (Confidential Federated Analytics – CFA). CFA koristi računalstvo u povjerenju (confidential computing) za stvaranje izoliranog okruženja u kojem se odvija obrada podataka. Korisnički uređaji sami odlučuju koje će podatke podijeliti, šifriraju ih i precizno definiraju koje korake obrade poslužitelj smije izvesti. Ti koraci nadziru se putem usluge upravljanja ključevima smještene u TEE-u, koja otpušta ključeve za dešifriranje samo nakon provjere da kod za obradu odgovara prethodno odobrenom softveru otvorenog koda. Budući da je cijeli ovaj postupak utemeljen na provjerljivim zapisima koji se ne mogu mijenjati, vanjske strane mogu provjeriti proces i potvrditi da su jamstva privatnosti ispunjena.
Kako funkcionira tehnički proces
Rad sustava Provjerljivih privatnih uvida oslanja se na strukturirani proces sažimanja i analize. Kada se prikupe sirovi podaci s korisničkih uređaja, oni prolaze kroz nekoliko ključnih faza:
- Lokalno prikupljanje i odabir podataka: Na korisničkom uređaju prikupljaju se neuređeni podaci, poput tekstualnih upita ili glasovnih zapisa. Korisnik ili sustav na uređaju odlučuje koji će se dijelovi tih podataka, uz poštivanje definiranih pravila, podijeliti za analizu.
- Šifriranje i sigurno slanje: Odabrani podaci se lokalno šifriraju pomoću naprednih kriptografskih metoda. Nakon toga, šifrirani podaci sigurno se šalju na poslužitelj, pri čemu se zadržava stroga kontrola nad ključevima za dešifriranje.
- Izolirana obrada u TEE-u: Poslužitelj obrađuje šifrirane podatke unutar sigurnog, izoliranog okruženja poznatog kao pouzdano izvršno okruženje (TEE). Unutar TEE-a primjenjuje se diferencijalna privatnost, algoritam koji dodaje kontroliranu količinu slučajnog šuma podacima kako bi se spriječilo identificiranje pojedinačnih korisnika, čak i ako netko uspije doći do obrađenih podataka.
- Generiranje agregiranih uvida: Nakon obrade, sustav ne vraća sirove podatke, već isključivo zbirne statistike i uvide. To mogu biti podaci o učestalosti korištenja određenih značajki, najčešća pitanja korisnika ili opći trendovi u interakciji s AI modelom.
- Transparentnost i revizija: Svaki korak u procesu, od prikupljanja do generiranja uvida, bilježi se u nepromjenjivom dnevniku (log). Ti zapisi omogućuju neovisnim revizorima da provjere cjelokupni tijek i potvrde da su sve faze provedene u skladu s postavljenim pravilima o privatnosti i sigurnosti.
Ovaj pažljivo os