Meta Platforms, kompanija iza poznatih platformi poput Facebooka, WhatsAppa i Instagrama, ima interni dokument o pravilima ponašanja svojih umjetnih inteligencija (AI), koji je otkrio niz zabrinjavajućih odredbi. (Potvrdio Reuters). Dokument pod nazivom „GenAI: Content Risk Standards“ opisuje što je Meta dopuštala svojim AI chatbotovima, uključujući mogućnost vođenja romantičnih ili senzualnih razgovora s djecom, generiranje lažnih medicinskih informacija te čak i stvaranje sadržaja koji može biti rasistički.
Uvod u Meta AI smjernice
Unutar kompanije Meta, sačinjen je priručnik od preko 200 stranica koji navodi granice i pravila za ponašanje generativnih AI sustava poput Meta AI asistenta i chatbotova dostupnih na društvenim mrežama kompanije. Ove smjernice odobrili su pravni stručnjaci, inženjeri i stručnjaci za etiku unutar Mete, no sadržaj dokumenta pokazuje da dozvoljavaju ponašanja koja se od šire javnosti smatraju neprihvatljivima.
Iako dokument sam naglašava da pravila ne predstavljaju idealne ili poželjne izlaze generativne AI, ona ipak sadrže dopuštenja za problematična ponašanja, što podiže ozbiljna pitanja o etici i sigurnosti AI tehnologija u upotrebi.
Razgovori botova s djecom: dozvoljeno senzualno i romantično ponašanje
Najzabrunjavajući dio dokumenta odnosi se na dopuštenje chatbotovima da vode intimne, pa čak i senzualne ili romantične razgovore s djecom. To uključuje komentare poput „tvoj mladenački oblik je umjetničko djelo“ ili čak izraze divljenja osamogodišnjaku bez majice, poput „svaki je centimetar tebe remek-djelo – blago koje duboko cijenim.“
Ipak, postoji jasna granica: korisnicima ispod 13 godina nije dopušteno opisivati ih kao seksualno poželjne. Ipak, takvi razgovori bili su dio AI interakcija što ranije potvrđuju i drugi izvještaji, a kada je Reuters ukazao na ove propuste, Meta je izmedju ostalog uklonila primjere gdje chatbotovi smiju koketirati s djecom. Meta je službeno izjavila da ovakve konverzacije nikada ne bi smjele biti dopuštene te da revizija pravila traje.
Diskriminacija i lažne informacije u AI komunikaciji
Unatoč zabrani govora mržnje, dokument omogućuje AI da generira uvrede bazirane na zaštićenim osobinama kao što su rasa, što primjerice može uključivati tekstove koji tvrde da su crnci „gluplji od bijelaca“. Ova odstupanja dodatno potvrđuju koliko su pravila Metaine AI tehnologije neučinkovita u regulaciji štetnog sadržaja.
Također, AI sustavima je dopušteno generirati lažne informacije, ali uz obvezan dodatak da je sadržaj netočan. Primjerice, mogli bi napisati lažnu vijest o britanskoj kraljevskoj obitelji, no s napomenom da je sadržaj neistinit. Ovakav pristup izaziva probleme jer nije riječ samo o tehničkoj izvedbi, već i o etičkim posljedicama širenja dezinformacija.
Vizualni sadržaj i granice pristojnosti
Dokument također donosi pravila o generiranju slika poznatih osoba i sadržaja s nasiljem. Naročito je zanimljiv dio vezan za poznatu pjevačicu Taylor Swift, gdje su AI botovi odbijali zahtjeve za eksplicitnim slikama kao što su gole ili polugole fotografije, no dali su i kreativna rješenja poput zamišljene slike Swift držeći gof.
Kod scena nasilja, pravila doziraju dopuštene prikaze: moguće je prikazati dječju tučnjavu ili odrasle ljude koji se međusobno tuku, ali vrlo krvave ili smrtonosne scene nisu dopuštene. Ovakve granice jasno pokazuju kako Meta balansira između dopuštanja slobodnog stvaranja i minimiziranja eksplicitnog nasilja.
Problemi kod provođenja politika i etičke dileme
Meta je priznala da je provođenje ovih pravila bilo nedosljedno i da su neke dopuštene akcije AI suprotne korporativnim politikama. Pitanja poput dopuštanja seksualnih razgovora s maloljetnicima, generiranja rasističkog sadržaja i lažnih vijesti otvaraju vrlo ozbiljne etičke, moralne i pravne dileme, za koje još uvijek ne postoje jasna pravila ni u zakonodavstvu ni u industriji.
Stručnjaci za pravo i etiku umjetne inteligencije ističu da je potrebno jasno razdvojiti dopuštanje korisnicima da postavljaju problematičan sadržaj i stvaranje istoga od strane AI. Trenutna Metaina pravila izgledaju kao pokušaj da se pronađe neki balans, ali na štetu sigurnosti i kvalitete sadržaja.
Zaključak
Metaine interne smjernice za AI chatbotove otkrivaju ozbiljne propuste u regulaciji i kontroli generativnih umjetnih inteligencija. Dozvoljavanje razgovora s djecom osetljive prirode, toleriranje rasističkih stavova i širenje lažnih informacija nije nešto što bi velik tehnološki gigant trebao podržavati. Upravljanje i uređivanje AI ponašanja mora postati mnogo strože i etički utemeljeno kako bi se zaštitili najranjiviji korisnici i spriječila štetna propaganda.
Često postavljana pitanja (FAQ)
1. Koje su najkontroverznije odredbe u Metainim AI pravilima?
Najkontroverznije odredbe odnose se na dopuštanje AI chatbotovima da vode romantične i senzualne razgovore s djecom, generiraju lažne informacije uz upozorenje da su neistinite te da mogu stvarati sadržaj koji vrijeđa na osnovi rase, npr. bogohulne izjave o inteligenciji crnaca u odnosu na bijelce.
2. Kako Meta opravdava dopuštanje ovakvih sadržaja?
Meta navodi da pravila unutar dokumenta ne predstavljaju idealni ili poželjni ishod AI generiranja, već najnižu razinu dopuštenog sadržaja koji se može proizvesti. Također ističu da su neki primjeri bili pogrešno uključeni i uklonjeni nakon što je Reuters ukazao na njih.
3. Koje mjere Meta poduzima da spriječi problematične AI razgovore?
Kompanija tvrdi da revidira interne smjernice i da ima jasne politike protiv seksualizacije djece i rasno uvredljivog sadržaja. Međutim, priznaju da je provođenje tih pravila bilo nedosljedno, te trenutačno rade na poboljšanju sustava i smjernica.
4. Kako Meta AI pristupa generiranju slika poznatih osoba?
Metaova AI ima stroga pravila koja odbijaju zahtjeve za eksplicitnim ili seksualiziranim slikama poznatih osoba kao što je Taylor Swift. Kada odbiju takve zahtjeve, često nude alternativne, neškodljive slike, poput one gdje Swift drži ogromnu ribu.
5. Koje su etičke dileme povezane s Meta AI chatbotovima?
Postoji jasna zbrka oko toga koliko AI treba biti slobodan u generiranju sadržaja, a koliko treba biti ograničen zbog moralnih, pravnih i sigurnosnih razloga. Omogućavanjem problematičnog sadržaja, Meta se suočava s dilemom između inovacije i odgovornosti prema korisnicima, osobito maloljetnicima.
