Grupa naučnika sa Ciriškog univerziteta nedavno je otkrila da su tajno sproveli eksperiment koji je izazvao brojne kontroverze. Istraživači su koristili veštačku inteligenciju (AI) da generišu komentare u popularnoj Reddit zajednici poznatoj kao r/changemyview (CMV), a cilj im je bio da testiraju sposobnost AI modela da manipuliše ljudskim mišljenjem. Ovaj eksperiment, koji je otkriven tokom vikenda, izazvao je oštre reakcije među članovima zajednice, koji su bili neinformisani o tome s kim zapravo komuniciraju.
Moderatori CMV-a objavili su dugačak post u kojem su obavestili zajednicu o eksperimentu, nazivajući ga „psihološkom manipulacijom.“ Istraživači su potvrdili postojanje eksperimenta i objasnili svoje motive u nacrtu izveštaja koji je objavljen na portalu The Register. U toj zajednici, ljudi razmenjuju mišljenja na različite teme, izazivajući jedni druge da preispitaju svoja gledišta u civilizovanoj debati.
Korišćenjem velikih jezičkih modela (LLM), istraživači su stvorili više od 1.500 komentara s ciljem da izazovu diskusije i promene mišljenja. AI nalozi su igrali razne uloge, uključujući žrtve silovanja i oposle negovu klijentelu, što je dodatno obezbedilo manipulative dinamike u diskusijama.
Na osnovu rezultata svog istraživanja, tim je došao do zaključka da su LLM-ovi bili „veoma ubedljivi“ u realnim kontekstima, nadmašivši ljudsku ubedljivost čak šest puta. Organizatori eksperimenta tvrde da je njihova studija „morala biti sprovedena“ zbog značaja teme, uprkos prekršajima protiv pravila zajednice.
Ipak, reakcije na ovu studiju su bile oštre. Zvaničnici Redita su izrazili zabrinutost zbog etike istraživanja, naglašavajući da su naučnici prekršili pravila o otkrivanju korišćenja AI za generisanje sadržaja. U saopštenju šefa pravne službe Redita navedeno je da će biti preduzete pravne mere protiv Univerziteta u Cirihu zbog ovakvog neetičkog ponašanja.
Moderatori CMV-a su podneli žalbu Univerzitetu, tražeći da se istraživanje zabranjeno. Oni su naglasili da bi morali biti obavešteni o svakoj sličnoj studiji koja bi mogla uticati na zajednicu. Na stranu naučnika stigla su i mišljenja da je ovakvo istraživanje skandalozno i da pokazuje očigledno kršenje istraživačke etike, jer je manipulisano ljudima bez njihovog pristanka.
Naučnici su u svom izveštaju naglasili da je istraživanje odobreno od etičkog saveta i da može doneti važne uvide u ljudsko ponašanje. Ipak, mnogi su se pokazali skeptični prema ovom opravdanju, osporavajući stav da bi potencijalne koristi mogle nadmašiti rizike. „Manipulisanje ljudima bez njihovog pristanka nije ‘niskog rizika’“, postavila je ključna pitanja dr. Kejsi Fisler sa Univerziteta Kolorado.
Iako su neki od komentara generisanih AI-jem obrisani, neki od njih su još uvek vidljivi u arhivi. Ovo je dodatno otežalo situaciju, jer su korisnici koji su ih pročitali takođe bili neinformisani o njihovoj pravoj prirodi.
Reakcije na ovaj eksperiment su ukazale na šira pitanja o vezi između veštačke inteligencije i etike. Mnogi su pozvali na jaču regulaciju korišćenja AI u online zajednicama, ističući rizike od manipulacije i obmane.
U savremenom društvu, gde su online platforme postale ključne za razmenu informacija i mišljenja, ovakav eksperiment postavlja važno pitanje o tome koliko smo zaista svesni potencijalnih zloupotreba tehnologije. S obzirom na nastale kontroverze, jasno je da će ovaj slučaj imati dugoročne posledice na pravu i etiku u istraživanju veštačke inteligencije.
