Špranca DPIA za AI sustave, usklađena s GDPR i EU AI Act

Treba vam brza, pouzdana i ponovljiva procjena rizika za AI? DPIA za AI je procjena utjecaja na zaštitu podataka koja dokumentira svrhu, rizike i mjere zaštite, a oslanja se na GDPR, članke 25, 35 i 36. U 2025. stupaju prve faze EU AI Acta, s dodatnim obvezama kroz 2026. i 2027., pa je sustavna procjena nužna već danas.

Ovaj tekst donosi šprancu koja se može kopirati i prilagoditi, bez praznih fraza i s konkretnim poljima. Dobit ćete jasne korake, primjere iz prakse i kontrolne popise. Cilj je manje rizika, više pravne sigurnosti, veće povjerenje korisnika, brža prodaja i nabava AI rješenja.

EU AI Act već primjenjuje zabrane neprihvatljivih praksi i pravila za GPAI od 2025., a zahtjevi za visokorizične sustave slijede od 2026., pa do pune primjene 2027. Ako ste mala ili srednja tvrtka, pogledajte i Vodič za procjenu rizika uvođenja AI u male hrvatske tvrtke kao dopunu ovoj špranci. Ovo je polazište za skladno, dokumentirano i poslovno održivo uvođenje AI.

Što je DPIA za AI i kako se povezuje s GDPR i EU AI Act

Procjena utjecaja na zaštitu podataka, poznata kao DPIA, ključni je alat za odgovorno uvođenje AI rješenja. Ona utvrđuje zakonitost, rizike i mjere zaštite tijekom cijelog životnog ciklusa modela, od dizajna i treniranja, preko testiranja i puštanja u uporabu, do povlačenja. AI donosi nove obrasce rizika, poput automatiziranog odlučivanja, pristranosti i netransparentnosti, pa DPIA treba dodatno obuhvatiti i utjecaj na temeljna prava. Tu ulogu nadopunjuje FRIA (procjena utjecaja na temeljna prava), posebno za sustave koji utječu na zapošljavanje, obrazovanje, socijalna prava ili kreditni život korisnika.

Image created with AI

Za širi regulatorni kontekst, korisno je upoznati osnove EU AI akt i njegov utjecaj na korisnike tehnologija. Time se lakše procjenjuje prelijevanje obveza između GDPR-a i AI Acta u praksi.

DPIA i FRIA u jednoj slici: kratke definicije i razlike

Photo by cottonbro studio

Kratki slovnik pomaže da svi u timu govore istim jezikom:

• DPIA: Procjena utjecaja na zaštitu podataka prema GDPR-u. Procjenjuje zakonitost, nužnost, proporcionalnost i rizike za prava ispitanika, uz plan mjera. Provodi se kada je vjerojatan visoki rizik, često kod AI koji profilira ili automatizira odluke.
• FRIA: Procjena utjecaja na temeljna prava. Fokus je širi od privatnosti, obuhvaća jednakost, nediskriminaciju, slobodu izražavanja, pristup uslugama. Kod AI rješenja za zapošljavanje, bodovanje kandidata ili kreditni scoring, FRIA dopunjuje DPIA jer rizik prelazi domenu privatnosti i ulazi u sferu pravednosti i društvenog učinka.
• Voditelj obrade: Subjekt koji određuje svrhu i sredstva obrade. Odgovoran je za provođenje DPIA i odabir mjera.
• Izvršitelj obrade: Subjekt koji obrađuje podatke za račun voditelja, npr. pružatelj AI platforme. Mora provoditi mjere sigurnosti i osigurati ugovorna jamstva.
• AI sustav visokog rizika: Kategorija iz EU AI Acta. Uključuje AI u zdravstvu, obrazovanju, zapošljavanju, kritičnoj infrastrukturi, upravljanju pristupom uslugama i sličnim područjima. Zahtijeva formalni sustav upravljanja rizicima, kvalitetu podataka, evidencije i ljudski nadzor.

Zašto FRIA uz DPIA? Jer GDPR štiti privatnost i podatke, dok FRIA procjenjuje učinak odluka AI sustava na jednak pristup prilikama i uslugama. Kada AI sustav može ograničiti pravo na rad ili pristup kreditu, evaluacija samo kroz prizmu privatnosti nije dovoljna.

Uloge i odgovornosti: DPO, vlasnik modela, tim za usklađenost

Uspješan DPIA za AI traži jasno definirane uloge i discipliniranu suradnju. Najbolje funkcionira kad je proces vođen, dokumentiran i mjerljiv.

• DPO (službenik za zaštitu podataka): Postavlja metodologiju, vodi procjenu, savjetuje o zakonitosti, proporcionalnosti i pravima ispitanika. Koordinira konzultacije s nadzorom ako rizik ostane visok.
• Vlasnik poslovnog slučaja: Opisuje svrhu, očekivane koristi i KPI-je. Definira kontekst upotrebe, ciljane korisnike i kriterije prihvatljivosti rizika.
• MLOps i inženjerski tim: Dostavlja tehničke detalje modela, skupove podataka, metrike performansi, planove nadzora i logiranja. Predlaže tehničke kontrole, npr. diferencijalnu privatnost, filtriranje podataka, model cards i evale za pristranost.
• Pravna služba: Provjerava pravnu osnovu obrade, uvjete valjanog pristanka, ugovore s izvršiteljima, prijenose podataka i odgovornosti u lancu dobave.
• Informacijska sigurnost: Definira kontrolne mjere, npr. enkripciju, kontrolu pristupa, pseudonimizaciju, segregaciju okruženja, upravljanje tajnama i testove otpornosti.
• Tim za usklađenost: Sinkronizira GDPR i AI Act zahtjeve, vodi registar sustava, kontrolne liste i datume revizija.

Dobra praksa uključuje:

• Međufunkcijski tim: Redovni sastanci, jasne odluke, zaduženja s rokovima. Sastav ovisi o vrsti AI-a i razini rizika.
• Zapisnici i trag odluka: Bilješke sa sastanaka, verzije šprance, priloženi dokazi, rezultati testova i potpis odgovorne osobe. To skraćuje vrijeme audita i nabave.

Primjer: za AI koji rangira kandidate za posao, vlasnik poslovnog slučaja opisuje kriterije, MLOps dostavlja analizu pristranosti i rezultate fairness testova, pravna služba validira obavijest kandidatima i pravnu osnovu, a DPO vodi procjenu i preporuča mjere, uključujući ljudsku provjeru prije svake odluke.

GDPR naspram EU AI Act: što dodatno traži AI regulativa

GDPR i EU AI Act se preklapaju, ali ne pokrivaju isto. GDPR uređuje obradu osobnih podataka. AI Act uređuje sigurnost i upravljanje rizicima AI sustava, s fokusom na visokorizične primjene.

Usporedba obveza pomaže pri dizajnu šprance koja pokriva oba režima:

Kako špranca DPIA može uključiti AI Act elemente bez dupliranja dokumentacije:

1. Sekcija o klasifikaciji rizika: Dodajte polje za kategoriju prema AI Actu i opis zašto sustav jest ili nije visokog rizika.
2. Upravljanje rizicima: Proširite dio o mjerama s ciklusom planiraj, izvedi, provjeri, djeluj, te povežite rizike s kontrolama i metrikama.
3. Kvaliteta i porijeklo podataka: Uključite katalog skupova podataka, kriterije prikupljanja, predrasude u podacima i rezultate fairness testova.
4. Tehnička dokumentacija: U polje priloga dodajte model card, datasheet za skup podataka, opis pipelinea, parametre i ograničenja.
5. Ljudski nadzor: Jasno opišite točke ljudske provjere, kriterije eskalacije, te obuku operatera.
6. Praćenje u produkciji: Definirajte plan post-market praćenja, metrike drift-a, alarmne pragove i rutinu periodičnih revizija.
7. FRIA integracija: Dodajte zaseban podsjetnik za procjenu učinka na temeljna prava kod procesa koji utječu na zapošljavanje, obrazovanje, socijalne usluge ili kreditni scoring.

Ključna poruka: DPIA nije jednokratan dokument. On prati cijeli životni ciklus modela, od početne ideje do povlačenja iz uporabe, s povremenim revizijama kada se mijenja svrha, skupovi podataka, arhitektura ili poslovni kontekst. Kada AI stvara učinke na temeljna prava, DPIA i FRIA idu zajedno, uz pojačane mjere transparentnosti i ljudskog nadzora.

Kada je DPIA obvezna za AI sustave i kako prepoznati visok rizik

Procjena je obvezna kada AI može značajno utjecati na prava ljudi. To uključuje privatnost, jednakost, pristup uslugama i reputaciju. Ključ je prepoznati okidače iz GDPR članka 35 i povezati ih s rizicima iz EU AI Acta.

Prepoznatljivi znakovi za uzbunu:

• Obrada osjetljivih podataka, npr. zdravlje ili biometrika.
• Profiliranje koje vodi do odluka s pravnim učinkom.
• Djeca kao korisnici ili subjekti podataka.
• Praćenje u javnim prostorima ili masovna obrada.
• Nova AI tehnologija, npr. generativni modeli u osjetljivom kontekstu.

Image created with AI

Okidači po GDPR članku 35: nova tehnologija, praćenje, posebne kategorije

DPIA je obvezna kada je vjerojatan visoki rizik. Sljedeći okidači su najčešći u AI projektima.

• Sistematsko i opsežno profiliranje, uključujući automatizirane odluke
  Profiliranje u velikoj mjeri, osobito kada se učinci prelijevaju na prava i usluge.
  Primjeri:
  • AI rangiranje kandidata u zapošljavanju, s automatskim eliminiranjem prijava.
  • Dinamičko određivanje cijena osiguranja na temelju ponašanja vozača.
  • Prepoznavanje rizika neplaćanja uz automatsko ograničavanje usluge.
• Obrada posebnih kategorija podataka u velikoj mjeri
  To su zdravlje, biometrika, genetika, politička ili vjerska uvjerenja, spolni život.
  Primjeri:
  • AI sustav koji klasificira medicinske slike i bilješke pacijenata.
  • Biometrijska autentikacija zaposlenika s procjenom emocionalnog stanja.
  • Analiza psihometrijskih obrazaca u aplikaciji za mentalno zdravlje.
• Sustavno praćenje javno dostupnog prostora
  Nadzor, praćenje kretanja i identifikacija ljudi na trgovima, ulicama ili u prijevozu.
  Primjeri:
  • Video analitika za detekciju sumnjivog ponašanja u trgovačkim centrima.
  • Prepoznavanje registarskih oznaka za naplatu parkiranja u gradu.
  • Analiza gužvi u javnom prijevozu s identifikacijom pojedinaca.
• Nova tehnologija čiji je učinak nejasan
  Tehnologija bez povijesti sigurne uporabe ili s nejasnim učincima.
  Primjeri:
  • Generativni modeli koji sumiraju zdravstvene povijesti pacijenata.
  • LLM chatbot za savjete o kreditima s mogućim halucinacijama.
  • Multimodalni model koji spaja biometriju i kontekst ponašanja.

Praktična smjernica: kada kombinirate više ovih okidača, tretirajte rizik kao visok. U takvim slučajevima DPIA ide odmah, ne tek prije produkcije.

EU AI Act i razredi rizika: što znači visokorizičan AI u praksi

EU AI Act razvrstava AI prema riziku i uvodi različite obveze. Fokus prakse je na visokorizičnim sustavima, jer traže najviše kontrole.

Što ulazi u visok rizik u praksi:

• Zapošljavanje, npr. screening životopisa, procjena kompetencija, automatizirano rangiranje.
• Kreditno bodovanje i pristup financijskim uslugama.
• Zdravstvena dijagnostika i trijaža, posebno u primarnoj skrbi i hitnoj medicini.
• Upravljanje kritičnom infrastrukturom, npr. energija, promet, voda.
• Obrazovanje, npr. bodovanje ispita, adaptivno učenje povezano s ishodima.

Visok rizik pojačava zahtjeve u dokumentaciji i kontroli:

• Sustav upravljanja rizicima s periodičnim revizijama.
• Kvaliteta i reprezentativnost podataka, uz dokumentirane skupove.
• Tehnička dokumentacija i zapisnici testiranja, prije i nakon puštanja u rad.
• Ljudski nadzor, jasne točke intervencije i zaustavljanja sustava.
• Evidencije događaja i post-market praćenje s pragovima za incidente.

Učinka na DPIA je jasan. Opseg i dubina procjene rastu, s više dokaza o pravednosti, točnosti, robusnosti i sljedivosti. DPIA se povezuje s FRIA kada AI utječe na pristup radu, obrazovanju ili financijama.

Primjeri iz hrvatske prakse gdje DPIA ima smisla odmah

Hrvatske organizacije već uvode AI u procese s jasnim rizicima. Slijede tri scenarija s razlozima, rizicima, mjerama i ulogama.

Image

Špranca DPIA za AI: korak po korak predložak spreman za uporabu

Ovo je praktični predložak koji možete kopirati i popuniti. Svaki korak sadrži jasna polja, upute i tražene dokaze. Strukturiran je za GDPR, s elementima FRIA i zahtjevima EU AI Acta. Koristite isti format verzija, datuma i revizija kroz sve korake.

Image created with AI

Preporučeni okvir za verzioniranje:

1) Opis AI sustava i kontekst uporabe

Ovaj dio daje jasnu sliku sustava. Popunite kratko, ali cjelovito, te priložite tehničke artefakte.

Polja za ispunu:

• Naziv rješenja: službeni naziv i verzija modela.
• Poslovni cilj: problem koji rješavate, očekivani KPI (npr. smanjenje vremena obrade 30%).
• Opis procesa: gdje AI ulazi u tijek rada, ulazi i izlazi, točke ljudske provjere.
• Uloge korisnika: vlasnik poslovnog procesa, operatori, administratori, DPO, MLOps.
• Pogođene skupine ljudi: npr. kandidati za posao, klijenti banke, pacijenti, djeca.
• Mjesta obrade: zemlje i okruženja (dev, test, prod), posebno ako postoji iznošenje iz EU.
• Životni ciklus modela: treniranje, validacija, puštanje, nadzor, revalidacija, povlačenje.
• Dobavljači i treće strane: pružatelji modela, API servisi, hosting, označavanje podataka.

Traženi artefakti:

• Dijagram toka podataka: sustavi izvora, transformacije, modeli, skladišta, API-jevi.
• Model card: svrha, performanse, ograničenja, metrika pristranosti, plan nadzora.
• Data sheet skupa podataka: porijeklo, licenca, reprezentativnost, poznate pristranosti.
• Evidencija prompta (za LLM): uzorci promptova, politike filtriranja, logovi izlaza i blokada.

Savjet za FRIA: ako sustav utječe na zapošljavanje, obrazovanje, kredit ili pristup uslugama, zabilježite relevantna temeljna prava (jednakost, nediskriminacija, pristup radu) već u ovom opisu.

2) Svrha obrade, pravna osnova i vrste podataka

Potvrdite zakonitost i nužnost. Primijenite princip minimizacije i jasne rokove.

Polja:

• Pravna osnova: privola, ugovor, legitimni interes, pravna obveza.
• Kategorije podataka: identifikacijski, kontaktni, ponašajni, transakcijski.
• Posebne kategorije: zdravlje, biometrika, genetika, uvjerenja, seksualna orijentacija.
• Izvor podataka: interni sustavi, korisnički unos, javni izvori, treće strane.
• Minimalni skup podataka: popis atributa koji su nužni, uz obrazloženje za svaki atribut.
• Rokovi čuvanja: trajanje po fazama, npr. treniranje, validacija, produkcija, arhiva.

Upute i testovi:

• Provjera legitimnog interesa: dokumentirajte svrhu, očekivanu korist i utjecaj na ispitanika. Provedite test uravnoteženja i zabilježite rezultat.
• Test nužnosti i razmjernosti: je li AI jedino razumno rješenje, možete li postići cilj s manje podataka ili bez profiliranja.
• Procjena učinka na djecu: ako su djeca obuhvaćena, pooštrite kriterije, razmotrite privolu roditelja i sigurnosne mjere.

Primjeri kombinacija podataka:

• Dozvoljeno, uz kontrolu: transakcijski podaci + povijest kašnjenja plaćanja za detekciju prijevara, bez posebnih kategorija, s ugovornom osnovom.
• Dozvoljeno, uz jače mjere: biometrija za autentikaciju zaposlenika, uz pravnu osnovu i pseudonimizaciju šablona.
• Nedozvoljeno: korištenje osjetljivih podataka o zdravlju za personalizirane cijene osiguranja bez jasne pravne osnove i bez eksplicitne privole.
• Sumnjivo i najčešće neprihvatljivo: inferiranje vjerskih uvjerenja iz ponašajnih obrazaca za segmentaciju marketinga.

Dokaz za ovu sekciju:

• Tablica atributa s obrazloženjem nužnosti i rizika.
• Politika zadržavanja i automatizirano brisanje ili anonimizacija.
• Rezultat testa uravnoteženja za legitimni interes, ako se koristi.

3) Procjena rizika i FRIA: prava i slobode, pristranost, sigurnost

Procijenite rizik po vjerojatnosti i težini posljedica. Uključite učinke na temeljna prava.

Image created with AI

Matrica rizika:

Vodič za pitanja:

• Utječe li odluka na posao, kredit, zdravlje ili obrazovanje?
• Postoji li rizik diskriminacije po spolu, dobi, rasi, invaliditetu ili drugim zaštićenim osnovama?
• Postoji li automatizirano donošenje odluka bez ljudske provjere i prava na osporavanje?
• Može li model proizvesti halucinacije, krive preporuke ili neobjašnjive ishode?
• Postoji li rizik curenja podataka kroz promptove, logove ili izlaze modela?

Predloženi testovi i nadzor:

• Fairness testovi: usporedba metrika po skupinama, npr. demographic parity, equalized odds.
• Drift monitoring: nadzor ulaza i performansi, pragovi alarma, retraining plan.
• Red teaming: scenariji zlouporabe, prompt injection, model inversion, data poisoning.
• Robustnost i sigurnost: adversarial testovi, rate limiting, content filtering za generativne modele.

Dokaz koji treba priložiti:

• Rezultati testiranja, grafikoni metrika i interpretacija.
• Plan smanjenja rizika po svakom scenariju, rokovi i odgovorne osobe.
• Procjena rezidualnog rizika nakon mjera, uz klasifikaciju iz matrice rizika.
• FRIA sa sažetkom utjecaja na nediskriminaciju, pristup uslugama i slobodu izražavanja gdje je relevantno.

4) Mjere zaštite: tehničke i organizacijske kontrole

Popišite kontrole, dokažite implementaciju i odredite odgovorne. Opišite i metrike.

Lista kontrola:

• Enkripcija: šifriranje podataka u mirovanju i prijenosu, upravljanje tajnama.
• Pseudonimizacija: odvajanje identiteta od značajki modela, kontrola reidentifikacije.
• Kontrola pristupa: najmanje potrebna prava, MFA, segmentacija okruženja.
• Minimizacija podataka: uklanjanje suvišnih atributa, masked logging.
• Ograničenje zadržavanja: automatizirano brisanje, TTL za logove i modele.
• Privatnost po dizajnu: rani privacy review, privacy by default postavke.
• Logging i audit trail: nepromjenjivi logovi, praćenje upotrebe modela i verifikacija događaja.
• Diferencijalna privatnost: gdje je razumno, posebno pri treniranju na osjetljivim podacima.
• Objašnjivost rezultata: lokalne i globalne metode, npr. SHAP, uz ograničenja.
• Jasna obavijest korisnicima: svrha, pravna osnova, prava, kontakt DPO.
• Mehanizam prigovora: kanali, rokovi odgovora, evidencija i analiza prigovora.
• Ljudski nadzor i override: jasne točke intervencije, pravila pauziranja sustava.

Upute za dokaz:

• Sustav zapisa: link ili opis lokacije politike, konfiguracija i izvještaja.
• Odgovorne osobe: DPO za privatnost, CISO za sigurnost, MLOps za nadzor modela.
• Metrike koje se prate: točnost, FPR/FNR po skupinama, broj prigovora, broj override akcija, drift score, MTTR za incidente modela.

Primjer zapisa kontrole:

5) Odluka i plan praćenja: go, fix ili stop

Zabilježite odluku na temelju rizika i dokaza, te plan nadzora. Ako rezidualni rizik ostane visok, razmotrite prethodno savjetovanje s nadzornim tijelom.

Polja odluke:

• Odluka s obrazloženjem: Go, Fix ili Stop, s jasnim kriterijima.
• Rezidualni rizik: ocjena iz matrice i opis preostalih slabosti.
• Kompenzacijske mjere: dodatne kontrole, ograničenja funkcionalnosti, pilot faza.
• Plan nadzora i revizije: mjesečni monitoring metrika, kvartalne revizije, godišnji audit.
• Raspored revalidacije modela: uvjeti za retraining, verifikacija i sign-off.
• Plan upravljanja incidentima i obavijesti: proces detekcije, eskalacija, rokovi 72 sata za povrede podataka, komunikacija s korisnicima.

Kada pokrenuti prethodno savjetovanje:

• Rezidualni rizik je visok ili kritičan unatoč mjerama.
• Automatizirano odlučivanje s pravnim učinkom bez adekvatne ljudske provjere.
• Obrada posebnih kategorija u velikoj mjeri, uz neizvjesnu objašnjivost i pravednost.
• Kumulacija rizika na djecu ili ranjive skupine.

Kako voditi zapisnike o promjenama modela i podataka:

• Verzije modela i podataka: jedinstveni ID, hash artefakata, datum i opis promjene.
• Change log: razlog promjene, utjecaj na performanse i pravednost, rezultat revalida.
• Gatekeeping: tko odobrava promjenu, kriteriji za Go u produkciju.
• Rollback plan: uvjeti i postupak povratka na prethodnu verziju.
• Post-market bilješke: incidenti, prigovori, override događaji i korektivne radnje.

Sažetak odluke, u kratkoj formi:

Praktična napomena za timove: zaključite svaku reviziju potpisom odgovorne osobe i datumom. Držite artefakte, metrike i dokaze na jednoj, kontroliranoj lokaciji. Ovo smanjuje vrijeme audita i podiže povjerenje korisnika i partnera.

Primjeri, česte greške i kontrolni popisi koji štede vrijeme

Ovaj dio daje praktične uzorke, izbjegava najčešće propuste i donosi gotove popise. Primjeri odražavaju realne odluke i dokumente koje timovi zaista mogu ispuniti. Poseban fokus je na malim timovima i SMB okruženju, s jasnim metrikama i laganim procesima.

Image created with AI

Primjer 1: AI u selekciji kandidata, sadržaj DPIA korak po korak

Sustav rangira prijave, ocjenjuje testove i analizira kratke video snimke. Ulazni podaci: životopisi, rezultati online testova, strukturirane bilješke regrutera, video isječci do 2 minute. Izlaz: skor preporuke i sažetak razloga. Svrha: brže i konzistentnije shortlistanje, uz zadržan kvalitetan odabir.

• Podaci i minimizacija:
  • CV: ime i kontakt su odvojeni prije evaluacije, model dobiva samo kompetencije, iskustvo, obrazovanje.
  • Testovi: numerički, verbalni, tehnički, uz ID kandidata pseudonimiziran hashom.
  • Video: kadrovi bez biometrijske identifikacije; eksplicitno isključiti ekstrakciju emocija.
  • Zadržavanje: sirovi video briše se nakon 30 dana, izračunate značajke nakon 90 dana.
• Rizici diskriminacije:
  • Nejednake stope preporuke po spolu, dobi, invaliditetu ili državljanstvu.
  • Proxy varijable u tekstu CV-a, npr. nazivi udruga, fakulteti koji sugeriraju socioekonomski status.
  • Video kvaliteta i akcent utječu na procjenu komunikacijskih vještina.
• Evaluacija pristranosti:
  • Metrike: selection rate ratio, TPR/FPR po skupinama, calibration error.
  • Pragovi alarma: ako je selection rate ratio ispod 0,8 za bilo koju skupinu, obvezna korekcija.
  • Intervencije: reweighing, balansirani uzorci, uklanjanje osjetljivih i proxy značajki.
• Ljudski nadzor:
  • Obvezna ljudska provjera prije odbijanja kandidata.
  • Dvostruki potpis kod odbijanja kada model ima nisku sigurnost ili je kandidat iz zaštićene skupine.
  • Dnevni pregled uzoraka odluka, tjedni izvještaj DPO-u.
• Transparentnost prema kandidatima:
  • Jasna obavijest u oglasu i u prijavnom obrascu: koristi se AI alat za prvotno rangiranje.
  • Daj sažetak ključnih kriterija: „radno iskustvo”, „odgovarajuće tehnologije”, „rezultat testa”.
  • Kanal prigovora: e-mail ili portal, rok odgovora 15 dana, jasan postupak.
• Pravo na objašnjenje i prigovor:
  • Dostaviti razumljiv sažetak odluke i glavne značajke koje su utjecale na skor.
  • Omogućiti ručnu re-evaluaciju bez AI-a na traženje kandidata.
  • Voditi evidenciju prigovora i korektivnih radnji po tipologiji.
• FRIA fokus:
  • Procijeniti učinak na jednaki pristup radu.
  • Dokumentirati mitigacije za skupine koje imaju povijesno niže stope prolaznosti.
• Uzorak odluke i metrike praćenja:
  • Odluka: Go uz mjere
  • Razlozi: prihvatljiva ukupna točnost, smanjena pristranost nakon reweighinga, jasan nadzor čovjeka
  • Metrike u produkciji: selection rate ratio po spolu i dobi, pritužbe na objašnjenja, share ljudskih override odluka, drift ulaznih značajki, točnost kalibracije
  • Pragovi revalidacije: tri uzastopna tjedna ispod 0,8 selection rate ratio za bilo koju skupinu ili porast pritužbi iznad 2 posto prijava

Dodatno čitanje: pregled primjena AI u zapošljavanju i tržištu rada u članku AI alat koji konkurira LinkedInu u selekciji kandidata.

Primjer 2: AI kreditni scoring, tipični rizici i mjere

Model procjenjuje rizik neplaćanja potrošačkih kredita. Ulazni izvori: interni transakcijski podaci, povijest urednosti otplata, javno dostupne kreditne evidencije, podaci o prihodima dostavljeni od klijenta. Svrha je brža obrada i dosljednost odluka, uz smanjenje gubitaka.

• Procjena legitimnog interesa:
  • Dokumentirati test uravnoteženja: poslovna potreba, očekivani učinak na korisnika, mjere zaštite.
  • Ograničiti obradu na nužne atribute, bez osjetljivih kategorija.
  • Ako se koriste podaci trećih strana, priložiti ugovorna jamstva i legitimnost izvora.
• Izbjegavanje proxy varijabli:
  • Odbaciti poštanski broj, tip uređaja, društvene signale, obrazovne institucije, naziv poslodavca ako služe kao proxy za status, etničnost ili dob.
  • Provjeriti tekstualna polja za terminske skupove koji impliciraju zabranjene osnove.
  • Validirati uz SHAP ili slične metode da osjetljive ili proxy značajke nemaju značajan doprinos.
• Dokumentiranje modela:
  • Model card: svrha, opseg, trenirajući skupovi, ograničenja, područja crnih točaka.
  • Data sheet: definicije atributa, izvori, datumi snapshotova, stope nedostajućih vrijednosti.
  • Registar verzija: ID modela, hash artefakata, datum puštanja, promjene.
• Testovi stabilnosti i pravednosti:
  • Temporalna stabilnost: backtesting po kvartalima, PSI na distribuciji ulaza.
  • Fairness: equal opportunity difference, KS test po skupinama, reject inference analiza.
  • Pragovi: PSI iznad 0,2 aktivira dublju istragu, equal opportunity difference iznad 0,05 traži korektivne mjere.
• Korisničke obavijesti i prigovor:
  • Jasna obavijest o automatiziranom donošenju odluka gdje je primjenjivo.
  • Sažetak ključnih faktora odbijanja, u jednostavnom jeziku.
  • Mehanizam prigovora s ručnim preispitivanjem i mogućnošću dodatne dokumentacije.
• Praćenje drifta i revalidacija:
  • Ulazni drift: PSI po glavnim atributima, tjedni nadzor.
  • Performanse: Gini, AUC, Brier score, kalibracija po segmentima, mjesečni izvještaj.
  • Triggeri revalidacije: pad AUC-a za 5 postotnih bodova, promjene politike odobravanja, promjena populacije, novi proizvod ili regulatorna promjena.
  • Revalidacija uključuje fairness re-test, ponovno podešavanje cut-offa, i potpis odgovorne osobe.

Primjena za SMB banke i kreditne unije: ograničiti broj značajki na 20 do 40, uvesti jednostavne i provjerljive izvore, te kvartalno raditi mini-reviziju metrika i prigovora.

Najčešće greške u DPIA za AI i kako ih izbjeći

Najčešće pogreške ponavljaju se u različitim branšama. Svaka ima kratko rješenje koje možete uvesti odmah.

1. Kasni početak DPIA
   Rješenje: pokrenuti DPIA i FRIA u fazi ideje, ne nakon POC-a.
2. Kopiranje bez prilagodbe
   Rješenje: prilagoditi šprancu kontekstu, procesima i skupovima podataka vašeg sustava.
3. Preskakanje FRIA
   Rješenje: dodati FRIA kada AI utječe na zapošljavanje, obrazovanje ili kredit.
4. Nejasna pravna osnova
   Rješenje: izabrati jednu osnovu i dokumentirati test uravnoteženja, ili definirati valjanu privolu.
5. Previše podataka
   Rješenje: primijeniti minimizaciju, popisati nužne atribute i ukloniti ostalo.
6. Bez testova pristranosti
   Rješenje: uvesti barem dvije fairness metrike i pragove alarma.
7. Nema ljudskog nadzora
   Rješenje: definirati točke provjere, override i eskalacije s odgovornim osobama.
8. Loš logging
   Rješenje: nepromjenjivi logovi odluka, verzije modela i ulaznih značajki.
9. Bez plana incidenta
   Rješenje: jednostavna playbook stranica s ulogama, kontaktima i rokovima 72 sata.
10. Bez periodične revizije
    Rješenje: kvartalni pregled metrika i promjena, godišnji audit i revalidacija.

Photo by Tara Winstead

Kontrolni popisi, artefakti i evidencije koje treba čuvati

Tri kratka popisa pomažu svakoj organizaciji, posebno malim timovima, da ubrzaju revizije i smanje rizik.

• Ulazni dokumenti za DPIA:
  • Opis sustava, svrha i pravna osnova.
  • Katalog podataka s obrazloženjem nužnosti i rokovima zadržavanja.
  • Model card i data sheet za skupove podataka.
  • Rezultati testa uravnoteženja legitimnog interesa ili uvjeti privole.
  • FRIA sažetak, gdje je relevantno.
• Tehnički dokazi i testovi:
  • Fairness izvještaji po skupinama, s pragovima i korekcijama.
  • Testovi stabilnosti, drift izvještaji, backtesting grafovi.
  • Sigurnosni testovi, red teaming scenariji, rate limiting konfiguracije.
  • Logovi odluka i ulaznih značajki, s verzijama modela i hashovima.
  • Plan nadzora u produkciji, pragovi alarma i kontakti.
• Evidencije i revizije nakon puštanja u rad:
  • Mjesečni metrika report: točnost, FPR/FNR, broj prigovora, udio override odluka.
  • Registar incidenata i korektivnih radnji, s MTTR i analizom uzroka.
  • Kvartalna revalidacija i zapisnik promjena modela i podataka.
  • Evidencija komunikacije prema korisnicima i regulatoru.

Savjeti za verzioniranje i upravljanje dokumentima:

• Verzije u formatu vMAJ.MIN.PAT i jedinstveni ID, na primjer DPIA-AI-2025-07-v1.3.1.
• Imenovanje datoteka: datum_artefakt_verzija, na primjer 2025-03-15_model-card_v1-2.pdf.
• Kontrola pristupa: read-only za većinu, write pravo samo vlasniku i DPO-u.
• Centralizirano spremište s pretragom, evidencija potpisnika i jasni rokovi arhive.

Zaključak

Špranca DPIA za AI donosi tri jasne koristi, vidljiviji rizici, bolja zaštita ljudi i manja pravna izloženost. Time dobivate mjerljiv proces, dokazive kontrole i temelje za FRIA kada je potrebno.

Preuzmite šprancu iz teksta, pokrenite pilot DPIA ovaj tjedan i uključite DPO-a te tehnički tim. Uvedite pravilo da se DPIA preispituje pri svakoj većoj promjeni modela ili podataka, uključujući re-trening, nove izvore i promjene poslovnih pravila. Korak po korak pristup štedi vrijeme i novac, a gradi povjerenje korisnika i partnera.