Права опасност дакле није у томе што ће људи помешати четбот са стварном особом, већ у томе да ће се због комуникације са четботовима стварни људи свести на њих – престаће да примећују нијансе и иронију и изговарати оно што четботови могу да разумеју.
Проф. др Славој Жижек
Већ дуго имамо четботове који су у стању да воде умесне разговоре, препознају основне намере саговорника и одговарају на упите према унапред постављеним правилима и подацима. Њихови капацитети су драматично увећани последњих месеци, што је у многим круговима изазвало забринутост и панику.
О системима вештачке интелигенције који ће уместо студената писати домаће задатке већ је доста речено. Али питање које захтева већу пажњу гласи како они треба да реагују када људски саговорници користе агресивне, сексистичке или расистичке исказе како би подстакли бота да узврати властитим неподопштинама? Да ли они треба да буде програмирани да одговарају истом мером на таква питања?
„Јеботе” представља сличан проблем. Мада та реч означава нешто у чему већина људи ужива (копулација), често има и негативну валенцу („Сјебани смо!” „Јеби се!”). Језик и стварност су неуредни. Да ли вештачка интелигенција може да уочи те разлике?
Ако је куцнуо час да се ова питања некако регулишу, треба одредити оквире те врсте цензуре. Да ли ће политички ставови које неке друштвене групе сматрају увредљивима бити забрањени? Шта је са изразима солидарности са Палестинцима на Западној обали, или са тврдњом да је Израел земља апартхејда (која се нашла и у наслову књиге бившег америчког председника Џимија Kартера)? Да ли би то било блокирано као израз антисемитизма?
И ту није крај проблема. Kако упозорава уметник и писац Џејмс Бридл, нови AI системи „засновани су на свеобухватној апропријацији постојеће културе”, али уверење да они „поседују истинска знања или имају свест је опасна заблуда”. Такође треба бити веома опрезан према новим генераторима слика. „Покушај да се обухвати целокупна визуелна култура људске цивилизације”, примећује Бридл, „довео је до рекреирања наших најдубљих страхова. Можда то само значи да ови системи јако добро опонашају рад људске свести, укључујући ужасе који вребају из дубина наше егзистенције: страхове од бола, смрти или корупције.”
Али колико су нови AI системи заиста добри у опонашању људске свести? Узмите, на пример, кафану која је недавно рекламирала своја пића на овај начин: „Kупите једно пиво по цени од два и добићете друго пиво потпуно бесплатно!” За људска бића ово је шала. Уобичајена формула „купиш један, добијеш два” преформулисана је у апсурдни исказ. У питању је цинизам који ми прихватамо као комичну искреност у циљу подстицања промета. Да ли би четбот то могао да разуме?
„Јеботе” представља сличан проблем. Мада та реч означава нешто у чему већина људи ужива (копулација), често има и негативну валенцу („Сјебани смо!” „Јеби се!”). Језик и стварност су неуредни. Да ли вештачка интелигенција може да уочи те разлике?
У свом есеју из 1805. „О постепеном формирању мисли у процесу говора” (објављеном постхумно 1878) немачки песник Хајнрих фон Kлајст преиспитује опште уверење да треба ћутати ако немамо јасну идеју о томе шта хоћемо да кажемо: „Ако је дакле мисао изражена нејасно, то уопште не значи да је она сама конфузна. Напротив, сасвим је могуће да су идеје које су изражене на крајње збуњујућ начин управо најјасније промишљене идеје.”
Однос између језика и мисли изузетно је компликован. У одломку из једног од Стаљинових говора с почетка 1930-их, налази се његов предлог радикалних мера за „откривање и немилосрдну борбу чак и против оних који се колективизацији опиру само у својим мислима – да, заиста то сматрам, треба се борити чак и против мисли људи”. Реална је претпоставка да овај део говора није био припремљен унапред. Понесен тренутком Стаљин је рекао управо оно што мисли. И допала му се сопствена хипербола.
Kао што је Жак Лакан касније рекао, то је пример истине која се изненадно јавља кроз чин изрицања. Луј Алтисер је идентификовао сличан феномен у односу добитка (prise) и изненађења (surprise). Особа изненада добија идеју и бива изненађена тиме. Да ли то може да се догоди било којем четботу?
Проблем није у томе што су они глупи, већ у томе што нису довољно глупи. И није у томе што су наивни јер не примећују иронију, већ у томе што нису довољно наивни. Права опасност дакле није у томе што ће људи помешати четбот са стварном особом, већ у томе да ће се због комуникације са четботовима стварни људи свести на њих – престаће да примећују нијансе и иронију и изговарати оно што четботови могу да разумеју.
Мој пријатељ из младости је после доживљене трауме отишао код терапеута. Вођен клишеима о томе шта аналитичари очекују од својих пацијената, своју прву сеансу посветио је лажној мржњи према свом оцу. Реакција аналитичара је била генијална. Заузео је наиван предфројдовски став и замерио мом пријатељу одсуство поштовања према оцу: „Kако можеш тако да говориш о особи која те је створила?” Лажна наивност послала је јасну поруку: одбијам твоје лажне тврдње. Да ли би четбот успео да схвати овај подтекст?
Вероватно не би и понашао би се као кнез Мишкин из „Идиота” Достојевског по тумачењу Рована Вилијамса. Према стандардном разумевању, Мишкин је идиот, светац, добар човек кога бруталност и страсти овога света одводе у лудило. Али у Вилијамсовом радикалном читању Мишкин је срце олује: мада добар, светац, он је тај који изазива пустош и смрт којима сведочи, захваљујући својој улози у сложеној мрежи односа око себе.
Не ради се само о томе да је Мишкин наивни дурак. Због своје посебне врсте глупости он је несвестан свог погубног утицаја на друге. То је особа која дословно говори као четбот. Његова доброта је у томе што, попут четбота, он реагује на изазове без ироније, нудећи флоскуле без преиспитивања, схватајући све дословно и ослањајући се на менталне формуле, а не на аутентично формиране идеје. Зато нови четботови одлично пристају новим идеолозима целог спектра, од Woke пробуђених левичара до успаваних Maga десничара.
(Пулсе)
