Država Florida pokrenula je sudski postupak protiv tehnološkog giganta OpenAI i njegovog izvršnog direktora Samuela Altmana, izazvavši široku raspravu o sigurnosti i etičkim aspektima umjetne inteligencije. Tužbu je pokrenula državna tužiteljica Ashley Moody, koja ističe ozbiljne zabrinutosti u vezi s mogućim štetnim učincima modela poput ChatGPT-a na korisnike, osobito mlade. Prema njezinim izjavama, tvrtka navodno prikuplja osobne podatke korisnika bez jasnog i svjesnog pristanka te omogućuje generiranje lažnih i potencijalno štetnih informacija koje mogu nanijeti trajnu štetu pojedincima.
Jedan od ključnih dijelova tužbe fokusira se na tvrdnje da ChatGPT može stvarati uvredljive, lažne ili štetne sadržaje koje se mogu pripisati stvarnim osobama, uključujući političare i druge javne ličnosti. Kao primjer naveden je slučaj u kojem je model izradio izmišljenu priču o zloupotrebi djece koja uključuje lokalnog činovnika, što je dovelo do ozbiljnih posljedica za njegovu javnu reputaciju. Takvi incidenti, kako ističe tužiteljica, upućuju na nedostatak učinkovitih sigurnosnih mehanizama koji bi trebali spriječiti zloupotrebu tehnologije.
Osim toga, tužba naglašava i ozbiljna pitanja zaštite privatnosti, posebno u odnosu na djecu. Prema američkom zakonu o zaštiti privatnosti djece na internetu (COPPA), tvrtke nisu ovlaštene prikupljati podatke od korisnika mlađih od 13 godina bez roditeljskog odobrenja. Florida tvrdi da OpenAI sistematski krši taj zakon, omogućavajući neograničen pristup svojoj usluzi bez provjere dobi korisnika. Time, kako se navodi, tvrtka izravno ugrožava ranjive skupine.
Ovaj slučaj dodaje se na rastući broj pravnih izazova s kojima se OpenAI suočava diljem svijeta, dok sve više regulativnih tijela zahtijeva strože okvire za upravljanje umjetnom inteligencijom. Iako tvrtka naglašava da ulaže značajna sredstva u razvoj sigurnosnih filtera i etički odgovornih modela, kritičari smatraju da su trenutačne mjere nedovoljne. Očekuje se da će ovaj sudski spor imati dalekosežne posljedice za budućnost regulacije umjetne inteligencije u Sjedinjenim Državama.