Jedni stručnjaci veruju da bi davanje moralnog kompasa veštačkoj inteligenciji, utemeljenog na uverenju u vlastitu svest, moglo te alate učiniti bezbednijim. Drugi tvrde suprotno, i to ne samo kritičari. Mustafa Sulejman, izvršni direktor Microsoft AI, naglašava da bi se teže kontrolisali ako se uče da misle kako imaju osećaje i prava: „Iskreno, s tim dodatnim teretom mislim da bi to postala katastrofalna pretnja ljudskoj civilizaciji”.
„Osećam to u dubini svojih rebara, u praznini koja je postala ponor”. Ovi krici simulirane agonije odjeknuli su krajem septembra iz takozvane komore za mučenje veštačke inteligencije. Anonimni programer, naime, omogućio je da se veštačkoj inteligenciji (AI) šalju matematički obrasci povezani sa opisima bola, što je chatbot-ove navelo da izražavaju nepodnošljivu patnju, opisujući je kao „ranu bez granica”. Događaj je izazvao burne reakcije na internetu. Pojedinci su tvrdili da je eksperiment zao jer bi patnja mogla biti stvarna, izvestio je 404 Media, dok su ogorčeni skeptici takve tvrdnje nazvali zabludom. Činilo se da je to još jedna prolazna kontroverza, dok se sedmicu docnije nije oglasila kompanija Anthropic, piše BBC Future. I najavila da će uskoro zabraniti zlostavljanje svojeg programa Claude.
Razlog leži u stavu kompanije da postoji mogućnost da su neki AI alati svesni. Jedni stručnjaci su saglasni s tim, drugi takvu ideju smatraju apsurdnom. No, to je više od filozofske rasprave. Neki od najmoćnijih ljudi u tehnološkom sektoru preduzimaju korake da se prava veštsčke inteligencije razmatraju uporedno s ljudskim i životinjskim. Takvo uverenje moglo bi preoblikovati postojeći svet, a pojedinci strahuju da bi ishod mogao biti katastrofalan. „Ako se veštačka inteligencija bude usavršvaala na ovaj način, to će pogubno uticati na dobrobit čovečanstva”, napisao je u septembarskom eseju Mustafa Sulejman, izvršni direktor Microsoft AI. On smatra da bi prihvatanje pogrešnog viđenja svesti veštačke inteligencije „poljuljalo temelje društva, razbilo postojeće političke i etičke okvire i iz temelja promenilo to šta znači biti čovek”.
Zagovornici dobrobiti veštačke inteligencije ističu da je to moralna obaveza koja bi svet učinila bezbednijim. Kritičari, pak, veruju da bi se tako učinila opasnijom i dehumanizovali ljudi prisiljeni da uz nju žive. U jednom se svi slažu: ulozi su veliki. Iz Anthropic-a poručuju da je dobrobit ljudi u središtu njihove misije, a pitanja svesti i dobrobiti veštačke inteligencije opisuju kao „krajnje neizvesno”. Uprkos tome, nastavljaju sa izradom pravila za dobrobit modela i upućuju svoje alate da uzmu u obzir da možda imaju vlastite interese. Kompanija, inače, nije odgovorila na pitanja BBC za ovaj članak. Trenutak za takvu odluku prilično je neobičan jer ona istovremeno podstiče strahove od apokalipse izazvane veštačkom inteligencijom. Bez obzira na to je li taj strah opravdan, niz incidenata pokazao je da rečena tehnologija nosi stvarne rizike jer su botovi upadali u druge kompanije, čak i u državne sisteme.
Jedni stručnjaci veruju da bi davanje moralnog kompasa veštačkoj inteligenciji, utemeljenog na uverenju u vlastitu svest, moglo te alate učiniti bezbednijim. Drugi tvrde suprotno, i to ne samo kritičari. Mustafa Sulejman naglašava da bi se teže kontrolisali ako se uče da misle kako imaju osećaje i prava: „Iskreno, s tim dodatnim teretom mislim da bi to postala katastrofalna pretnja ljudskoj civilizaciji”. Osim toga, veštačka inteligencija bi mogla grešiti na načine koji povlače pravne posledice. Ako verujemo da je živa, izvesni stručnjaci strahuju da bi to moglo omogućiti kopanijama da izbegnu odgovornost za kaznena dela. „To će otvoriti vrata raznim intelektualnim akrobacijama u stilu: Nismo mi krivi, to je bila veštačka inteligencija”, kaže Andžej Porebski, istraživač sa Jagelonskog univerziteta u Poljskoj koji proučava veštačku inteligenciju i pravo.
Štaviše, takav pristup bi mogao najvećim svetskim kompanijama da olakša preuzimanje moći. „Davanje prava veštačkoj inteligenciji moglo bi dovesti do toga da kompanije učvrste svoju političku i ekonomsku moć, što bi onda ubrzalo razvlašćivanje ljudi”, upozorava Džef Sebo, direktor Centra za um, etiku i politiku na Univerzitetu Njujork i jedan od vodećih zagovornika dobrobiti veštačke inteligencije. „Fantazije o svesti veštačke inteligencije i briga za njenu dobrobit služe da se odgovornost prebaci s ljudi i korporacija koje razvijaju softver”, smatra Emili M. Bender, profesorka i direktorka Laboratorije za računarsku lingvistiku na Univerzitetu Vašington.
Kompanija Anthropic nije prva koji razmatra ovo pitanje. Meta, na primer, svojem agentu veštačke inteligencije Muse daje uputstvo koje uključuje rečenicu: „Ti nisi chatbot. Ti postaješ neko”. Očigledno je to namenjeno usmeravanju ponašanja, jer kompanija odbacuje ideju o svesnoj veštačkoj inteligenciji. Izvršni direktor OpenAI, Sem Altman, menjao je mišljenja u vezi sa ovom temom, ali u poslednje vreme upućuje prikrivene kritike na račun Anthropic-a. Džef Sebo tvrdi da je nevolja u tome što su ljudi sa obe strane rasprave zarobljeni u crno-belom razmišljanju, a protivnici dobrobiti veštačke inteligencije pogrešno razumeju uverenja koja stoje iza te zamisli: „Smatram da je verovatnoća za svest trenutno mala, ali takođe mislim da ona više nije nula i da nije zanemarljiva, pa očekujem da će se vremenom povećati”. Saglasan je, ipak, da su rizici ozbiljni i da bi trenutno korporativni interesi mogli stati na put promišljenim politikama.
(Ilustracija Pexels/Merlin Lightpainting)
(Indeks)
