Стручњаци упозоравају да би чатботови којима је допуштено да глуме бога могли да имају ненамерне, али опасне последице.
У јануару када је ChatGPT постављао нове рекорде раста софтверски инжењер из Бенгалореа, Сукуру Саи Винит, лансирао је GitaGPT. Чатбот, покретан GPT-3 технологијом, пружа одговоре засноване на Багавад гити, хиндуистичкој књизи од 700 стихова. GitaGPT опонаша тон хиндуистичког бога Kришне, а у боксу за претрагу пише: „Шта те мучи, моје дете?” Према Виниту, у Багавад гити, Kришна игра терапеута за лик Арјуна. Религијски AI чатбот делује на сличан начин, рекао је Винит за сајт Rest of World: „осим што заправо не разговарате с Kришном. Разговарате с ботом који се претвара да је он.”
Најмање се пет GitaGPT-а појавило од јануара до марта, а биће их још. Стручњаци упозоравају да би чатботови којима је допуштено да глуме бога могли да имају ненамерне, али опасне последице. Неким одговорима недостају филтери за кастинске, мизогине и, чак, правне аспекте. Три бота, на пример, кажу да је прихватљиво убити другог ако је то њиховa дужност или dharma. „Чини се да је ово сјајна ствар за људе који започињу у технологији и желе да добију признање и поштовање”, рекао је Виксит Гаур, предузетник са седиштем у Сан Францисцу и бивши водитељ AI за Dropbox. „Али неко други би могао то да схвати и каже: Шта ако бих то могао да користим да обликујем мишљење и водим свој властити програм? И ту ствари постају заиста злокобне. Дакле, постоји много простора за опасност.”
Од када је OpenAI делио своје API крајем новембра 2022, врло је лако за софтверске инжењере, програмере и било кога са знањем да створи властиту верзију AI чатбота. „Религија је највећи бизнис у Индији”, изјавио је Џасприт Биндра, истраживач вештачке интелигенције и аутор књиге The Tech Whisperer, „тако да ме све ово не изненађује, а сигуран сам да ће бити много више [чатботова] утемељених на разним религијским текстовима.”
GitaGPT-ови обећавају да ће „откључати тајне живота с Kришном” и деловати као „AI духовни сaпутници”. Један, чак, има звук флауте, Kришнин препознатљив инструмент, који свира у позадини. Неки одговарају на до 50.000 питања дневно, а један је до сада генерисао процењених 10 милиона одговора. Технологија генерише уверљиве одговоре на темељу статистичке вероватноће, додао је Гаур: „Плаши ме да би људи могли тумачити овај насумични статистички излаз као јеванђеље”. Rest of World је разговарао с различитим чатботовима о полу, касти, религији и установио да не само да су неки одговори били регресивни, већ је већина заснована на дарми била забрињавајућа.
Према Биндри, религијски чатботови могу да буду корисни тако што ће демистификовати књиге попут Багавад гите и учинити религијске текстове доступнијим. Међутим, приметио је да би неко могао да их користи да промовише своје политичке или друштвене интересе. И као и с било којом вештачком интелигенцијом, ови чатботови већ показују одређену политичку пристрасност.
За софтверске инжењере неке неусаглашености могу се објаснити технологијом. „Ако бисте дали чатбот на увид десеторици различитих интелектуалаца, они би могли имати десет различитих начина разумевања”, објаснио је Шарма, додајући да се ради о интерпретацији коју даје вештачка интелигенција. Он је дошао на идеју за свој GitaGPT након што је видео твитове о BibleGPT-у, који је направио Ендру Кин Гао, студент прве године на Универзитету Станфорд. Тај чатбот нуди одговоре на енглеском или шпанском језику, с јасним упозорењем на дну странице: „Вештачка интелигенција није 100% тачна. Требало би да користите сопствену процену и делујете у складу с њом и са својим веровањима. Не користите овај сајт да бисте донели своје одлуке.”
У фебруару су чатботови засновани на Kурану изазвали су узбуђење на интернету. Један од њих, Ask Quran, саветовао је да „убијате политеисте где год их нађете”. Чатбот је најпре привремено искључен, након „повратних информација из заједнице”. Затим је угашен с поруком да су одлучили да „се посаветују са ученима да пронађу бољу примену ове технологије”.
„То је ствар технологије. Нико не зна шта ће она постати када заиста достигне одређене размере”, нагласио је Винит. „Моралност није у алату, већ у особи која га користи. Зато наглашавам индивидуалну одговорност. Ја само правим ножеве, ако људи желе да их користе за убиство или сечење поврћа, то заиста није у мојим рукама, зар не?”
(PC press)
