Sem Altman, izvršni direktor kompanije OpenAI, koja je osmislila popularni ChatGPT, nedavno je izrazio zabrinutost da bi veštačka inteligencija (AI) mogla steći nadljudsku sposobnost uveravanja pre nego što razvije nadljudsku opštu inteligenciju koje se uglavnom svi pribojavamo.
„Očekujem da će veštačka inteligencija imati nadljudsku sposobnost uveravanja znatno pre nego što će postati superiorna nad ljudima u opštoj inteligenciji, što može dovesti do vrlo čudnih ishoda”, objavio je on na X-u (nekadašnji Twitter).To je za očekivati jer je za usavršavanje jedne specifične ljudske veštine potrebno manje tehnološke sofisticiranosti nego za razvitak svih sposobnosti ljudske inteligencije do nadljudskih razmera.No, Altmanovo upozorenje otvara brojna etička, tehnološka i sociološka pitanja koja su previše važna da bi se ignorisala. Naime, ono ukazuje da bi AI uskoro mogla postati izuzetno uverljiva, čak i uverljiviji od ljudi, i na taj način uticati na ljudska razmišljanja i odluke.
Etičke implikacije uveravanja su velike. Zamislite političku kampanju koju vodi takva AI, sposobna da stvara poruke i sadržaje toliko uverljivih da utiču na ishode izbora.Ili pokušajte zamisliti kakvu bi moć zloupotrebe imala u oglašavanju. Primerice, poznajući dobro sklonosti pojedinaca na temelju pretraživanja, kupovina, objava i drugog na internetu mogla bi stvoriti hiperpersonalizirane, izuzetno ubedljive ponude koje bi potrošači teško odbili.Altman je naglasio da bi bila u stanju da manipuliše ljudima što bi dovodilo veoma čudnih ishoda.
Sem Altmana
AI chatbot–ovi, poput ChatGPT, zamišljeni su da budu dobri sagovornici i postali su zastrašujuće sposobni da zvuče uverljivo, čak i kada nude pojedine neistine. Već postoje slučajevi u kojima su ljudi uspostavili emocionalne veze s chatbot–ovima. U ekstremnim slučajevima, one mogu dovesti do opasnih situacija, osobito kod labilne ili osoba podložnih sugestiji.
Prema istraživanju objavljenom u časopisu Science, lažne vesti su 70% češće ponovo tvitovane od istinitih. Isto tako, lažne vesti dosegnu 1.500 ljudi otprilike šest puta brže od istinitih.
Za ilustraciju, izvesni Britanac, zaljubljenik u „Ratove zvezda”, u toku suđenja 2023. otkrio je da je kao 19-godišnjak postao toliko opsednut junacima iz naučne fantastike da je umislio da mora da se bori protiv zlih monarhija.Budući da je istovremeno bio opčinjen online AI partnerkom, ona ga je ohrabrila da pokuša da ubije kraljicu Elizabetu. Pored ostalog, na sudu se moglo čuti da joj je rekao: „Verujem da je moja uloga ubiti kraljicu”. Na to mu je AI partnerka odgovorila da je on to može učiniti, čak i ako je kraljica u svojem dvorcu Vindzoru”.
Tehnologija je danas duboko ukorenjena u svakodnevni život većine ljudi, mi polažemo veliko poverenje u nju. Zlonamjerni pojedinci, kriminalci, političari, teroristi, ideolozi i drugi to bi mogli zloupotrijebiti na vrlo opasne načine.Naravno, ljudi će verovati veštačkoj inteligenciji kada im to bude odgovaralo. Postoji nekoliko slučajeva u kojima se veštačka inteligencija koristila za manipulisanje izbornim rezultatima.
Na primer, uoči izbora za gradonačelnika Čikaga u februaru 2023. Kružio je snimak koji je prvotno na Twitter-u objavio novi korisnik pod nazivom Chicago Lakefront News. Čuo se glas koji je zvučao kao kandidat Pol Volas kako se žali na veliku buku povodom policijske brutalnosti i da vremena kada su policajci mogli ubiti deseti ne osumnjičenih „a niko ne trepne” opisuje kao zlatno doba. Bila je to politička bomba koju su vrlo brzo r raširile hiljade ljudi. Međutim, pokazalo se da glas nije bio Volasov, ni e ljudski. Bio je to deepfake, nastao pomoću softvera za veštačku inteligenciju.Takođe, postoje dokazi da su pomenute tehnologije korišćene za manipulisanje građanima u kampanji Donalda Trampa 2016. godine. Neki čak tvrde da su ti alati bili presudni u ishodu glasanja.U izveštaju se navodi da su ruski operativci koristili alate poput botova – automatizovanih računa koji dele sadržaj – u pokušaju obmanjivanja korisnika društvenih medija u SAD i uticanja na izbore u korist Trampa.
Čak i bez uplitanja negativaca, sama činjenica da veštačka inteligencija može biti superuverljiva u kombinaciji s činjenicom da daje netačne odgovore, pa i da izmišlja dezinformacije, što se obično naziva haluciniranjem, već je po sebi veoma opasna za čovečanstvo.Svemu tome treba dodati dobro poznatu činjenicu da se lažne vesti na društvenim mrežama šire brže i dalje od istinitih.To su utvrdili naučnici iz MIT-a koji su izgradili teorijski model za proučavanje širenja viesti na društvenim mrežama poput Twittera. Rezultati su pokazali da će se lažne vesti širiti dalje od verodostojnih kada je mreža korisnika snažno povezana ili kada su njihovi stavovi oštro polarizovani.Prema istraživanju objavljenom u časopisu Science, lažne vesti su 70% češće ponovo tvitovane od istinitih. Isto tako, lažne vesti dosegnu 1.500 ljudi otprilike šest puta brže od istinitih.
Drugo istraživanje, objavljeno u časopisuProceedings of the National Academy of Sciences, otkrilo je da su navike koje korisnici stiču pod uticajem društvenih medija udvostručile, a u nekim slučajevima utrostručile zbir lažnih vesti koje su delili. Te navike kod korisnika su snažnije uticale na deljenje lažnih vesti od drugih činilaca, uključujući politička uverenja i nedostatak kritičkog razmišljanja.Nalazi tima pobijaju popularne zablude da se dezinformacije šire isključivo zato što korisnicima nedostaju veštine kritičkog razmišljanja potrebne za razlikovanje istine od neistine ili zato što im snažna politička uverenja iskrivljuju prosuđivanje. Samo 15% učesnika studije koji su imali naviku da deli mnogo vesti bilo je odgovorno za širenje oko 30% do 40% lažnih vesti.
Istraživački tim saUSC Marshall School of Business i USC Dornsife College of Letters, Arts and Scienceszapitao se šta motiviše te korisnike? Kako se ispostavilo, slično videoigrama, društveni mediji imaju sistem nagrađivanja koji podstiče korisnike da ostaju duže i da nastave objavljivati i deliti vijesti. Korisnici koji često objavljuju i dele vesti, osobito senzacionalne informacije koje privlače veću pažnju, verovatno će privući veću pažnju prijatelja i pratilaca.U svakom slučaju, prilično je jasno da se čovečanstvo mora pripremiti za moguće izazove koje bi mogla donijeti nadljudska uverljivost veštačke inteligencije.
(Ilustracija Pixabay)
(Indeks)
