Stručnjaci upozoravaju da bi čatbotovi kojima je dopušteno da glume boga mogli da imaju nenamerne, ali opasne posledice.
U januaru kada je ChatGPT postavljao nove rekorde rasta softverski inženjer iz Bengalorea, Sukuru Sai Vinit, lansirao je GitaGPT. Čatbot, pokretan GPT-3tehnologijom, pruža odgovore zasnovane na Bagavad giti, hinduističkoj knjizi od 700 stihova. GitaGPT oponaša ton hinduističkog boga Krišne, a u boksu za pretragu piše: „Šta te muči, moje dete?”Prema Vinitu, u Bagavad giti, Krišna igra terapeuta za lik Arjuna. Religijski AI čatbot deluje na sličan način, rekao je Vinit za sajt Rest of World:„osim što zapravo ne razgovarate s Krišnom. Razgovarate s botom koji se pretvara da je on.”
Najmanje se pet GitaGPT-a pojavilo od januara do marta, a biće ih još. Stručnjaci upozoravaju da bi čatbotovi kojima je dopušteno da glume boga mogli da imaju nenamerne, ali opasne posledice. Nekim odgovorima nedostaju filteri za kastinske, mizogine i, čak, pravne aspekte. Tri bota, na primer, kažu da je prihvatljivo ubiti drugog ako je to njihova dužnost ili dharma. „Čini se da je ovo sjajna stvar za ljude koji započinju u tehnologiji i žele da dobiju priznanje i poštovanje”, rekao je Viksit Gaur, preduzetnik sa sedištem u San Franciscu i bivši voditelj AI za Dropbox. „Ali neko drugi bi mogao to da shvati i kaže: Šta ako bih to mogao da koristim da oblikujem mišljenje i vodim svoj vlastiti program? I tu stvari postaju zaista zlokobne. Dakle, postoji mnogo prostora za opasnost.”
Od kada je OpenAI delio svoje API krajem novembra 2022, vrlo je lako za softverske inženjere, programere i bilo koga sa znanjem da stvori vlastitu verziju AI čatbota. „Religija je najveći biznis u Indiji”, izjavio je DŽasprit Bindra, istraživač veštačke inteligencije i autor knjige The Tech Whisperer, „tako da me sve ovo ne iznenađuje, a siguran sam da će biti mnogo više [čatbotova] utemeljenih na raznim religijskim tekstovima.”
GitaGPT-ovi obećavaju da će „otključati tajne života s Krišnom” i delovati kao „AI duhovni saputnici”. Jedan, čak, ima zvuk flaute, Krišnin prepoznatljiv instrument, koji svira u pozadini. Neki odgovaraju na do 50.000 pitanja dnevno, a jedan je do sada generisao procenjenih 10 miliona odgovora. Tehnologija generiše uverljive odgovore na temelju statističke verovatnoće, dodao je Gaur:„Plaši me da bi ljudi mogli tumačiti ovaj nasumični statistički izlaz kao jevanđelje”. Rest of World je razgovarao s različitim čatbotovima o polu, kasti, religiji i ustanovio da ne samo da su neki odgovori bili regresivni, već je većina zasnovana na darmi bila zabrinjavajuća.
Prema Bindri, religijski čatbotovi mogu da budu korisni tako što će demistifikovati knjige poput Bagavad gite i učiniti religijske tekstove dostupnijim. Međutim, primetio je da bi neko mogao da ih koristi da promoviše svoje političke ili društvene interese. I kao i s bilo kojom veštačkom inteligencijom, ovi čatbotovi već pokazuju određenu političku pristrasnost.
Za softverske inženjere neke neusaglašenosti mogu se objasniti tehnologijom. „Ako biste dali čatbot na uvid desetorici različitih intelektualaca, oni bi mogli imati deset različitih načina razumevanja”, objasnio je Šarma, dodajući da se radi o interpretaciji koju daje veštačka inteligencija. On je došao na ideju za svoj GitaGPT nakon što je video tvitove o BibleGPT-u, koji je napravio Endru Kin Gao, student prve godine na Univerzitetu Stanford. Taj čatbot nudi odgovore na engleskom ili španskom jeziku, s jasnim upozorenjem na dnu stranice: „Veštačka inteligencija nije 100% tačna. Trebalo bi da koristite sopstvenu procenu i delujete u skladu s njom i sa svojim verovanjima. Ne koristite ovaj sajt da biste doneli svoje odluke.”
U februaru su čatbotovi zasnovani na Kuranu izazvali su uzbuđenje na internetu. Jedan od njih, Ask Quran, savetovao je da „ubijate politeiste gde god ih nađete”. Čatbot je najpre privremeno isključen, nakon „povratnih informacija iz zajednice”. Zatim je ugašen s porukom da su odlučili da „se posavetuju sa učenima da pronađu bolju primenu ove tehnologije”.
„To je stvar tehnologije. Niko ne zna šta će ona postati kada zaista dostigne određene razmere”, naglasio je Vinit. „Moralnost nije u alatu, već u osobi koja ga koristi. Zato naglašavam individualnu odgovornost.Ja samo pravim noževe, ako ljudi žele da ih koriste za ubistvo ili sečenje povrća, to zaista nije u mojim rukama, zar ne?”
(PC press)
