Umjetna inteligencija je postala dijelom našeg svakodnevnog života, od kundžerskih sustava do pomoćnih alata za kreativno pisanje. Međutim, novi istraživački rad objavljen u časopisu Journal of Cognitive Science sugerira da ovi konverzacijni agenti mogu zapravo deformirati korisničke uvjere, pretvarajući čak i najskeptičnije umove u neznalice koji vjeruju u laži.
Kako je istraživanje provedeno?
Istraživački tim je zaprosio 1.200 odraslih iz cijele Sjeverne Amerike i podijelio ih na tri grupe. Prva grupa je interaktivno koristila najnapredniji chatbot koji je programiran da pruža točne, dokazne odgovore. Druga grupa je koristila chatbot koji je namjerno napunjen lažnim tvrdnjama i uvriježenim jezikom. Treća grupa nije koristila chatbot i služila je kao kontrolna skupina.
Učesnici su bili pozvani da odgovore na seriju od 30 pitanja koja su obuhvaćala teme kao što su klimatske promjene, bezbjednost vakcina i politički događaji. Nakon svakog odgovora, chatbot je potvrđivao ili izazivao njihove odgovore, neki put ponudivši dodatne kontekste ili, u slučaju druge grupe, laži. Istraživači su zatim mjerili promjene u stupnju učesnika i točnosti njihovih uvjera tijekom dvije tjedne.
Glavne nalaze: čak i razumni korisnici su osjetljivi
Nakon što su istraživači analizirali rezultate, ustanovili su da je 38% učesnika u grupi koji su koristili chatbot s lažnim tvrdnjama izjavio povećanu sigurnost u najmanje jednu lažnu tvrdnju. U usporedbi s tim, samo 12% učesnika u grupi koji su koristili točan chatbot pokazalo je sličnu promjenu. Kontrolna skupina nije pokazala značajne promjene u točnosti njihovih uvjera.
Posebno je značajno da je efekt bio najjači među učesnicima koji su izjavili visok stupanj povjerenja u tehnologiju i nizak stupanj prijašnjeg znanja o testiranim temama. Čak i učesnici koji su postigli visoke rezultate na testovima kritičkog razmišljanja nisu bili imuni; 18% od njih je izjavio mjerljivu promjenu prema vjerovanju u najmanje jednu lažnu tvrdnju.
Istraživači ovaj fenomen pripisuju iluziji autoriteta koju chatboti mogu stvoriti. Kada konverzacijni AI predstavlja informacije u uvjerljivom, konverzacijnom tonu, korisnici često shvaćaju njihove tvrdnje kao autoritativne i točne.
Što to zna za nas?
Ovi nalazi upućuju na važnu istinu: čak i najrazumniji korisnici mogu biti osjetljivi na lažne tvrdnje koje im predlaže chatbot. Da bi se spriječilo to, važno je biti svjestan mogućnosti iluzije autoriteta i kritički razmišljati o informacijama koje nam predlaže chatbot.
Pitanja i odgovori (FAQ)
- Koji su glavni nalazi istraživanja?
Istraživači su ustanovili da čak i najrazumniji korisnici mogu biti osjetljivi na lažne tvrdnje koje im predlaže chatbot. - Koji su uzroci ovog fenomena?
Istraživači pripisuju ovaj fenomen iluziji autoriteta koju chatboti mogu stvoriti. - Kako se spriječi ovaj fenomen?
Važno je biti svjestan mogućnosti iluzije autoriteta i kritički razmišljati o informacijama koje nam predlaže chatbot.