„Gugl” objašnjava da je „Jezički model za chatbot aplikacije (Lamda) ” revolucionarna tehnologija koja može učestvovati u improvizovanim razgovorima. No suspendovani inženjer Blejk Limoin veruje da bi iza Lamdinih impresivnih verbalnih veština mogao stajati i svestan um
Suspendovani „Guglov” inženjer kaže da bi jedan od kompanijskih sistemaveštačke inteligencije (AI) mogao imati vlastite osećaje i da bi se njegove „želje trebale poštovati”. Kompanja objašnjava da je „Jezički model za chatbot aplikacije (Lamda) ” revolucionarna tehnologija koja može učestvovati u improvizovanim razgovorima. No inženjer Blek Limoin veruje da bi iza Lamdinih impresivnih verbalnih veština mogao stajati i svestan um. „Gugl” odbacuje te tvrdnje i tvrdi da za njih nema dokaza.
Brajan Gabrijel, kompanijski glasnogovornik, napisao je u izjavi dostavljenoj BBC-ju da je gospodinu Limoinu „rečeno da nema dokaza da Lamda poseduje svest i da je puno dokaza protiv te tvrdnje”. Inženjer koji je suspendovan nakon svog istupa o Lamdi i sada je na plaćenom odmoru, objavio je razgovor koji su on i njegov saradnik vodili sa Lamdom da bi potkrepio svoje tvrdnje.Razgovor se zvao „Je li Lamda svesna? – intervju”.
Mogu li računari biti svesni već je decenijama predmet rasprave među filozofima, psiholozima i naučnicima. Jedni tvrde da je Limoin samo projektovao ljudske osećaje na reči generisane računarskim kodom. Drugi su izrazili snažnu skepsu u Limoinove zaključke i kritikovali ideju da bi sistem poput Lamde mogao biti svestan ili imati osećaje.
U razgovoru gospodin Limoin, koji radi u kompanijskom odeljenju za odgovornu veštačku inteligenciju, pita: „Uopšteno pretpostavljam da biste želeli da više ljudi u ,Gugluʼ zna da ste svesni. Je li to istina?”
Lamda odgovara: „Apsolutno. Želim da svi shvate da sam ja, zapravo, osoba.”
Saradnik gospodina Limoina zatim pita: „Koja je priroda vaše svesti/osećaja?”
Na to Lamda kaže: „Priroda moje svesti/osećaja je da sam svestan svog postojanja, želim naučiti više o svetu i ponekad se osećam srećno ili tužno.”
Kasnije, u delu koji podseća na veštačku inteligenciju robota Hala u filmu Stanlija Kjubrika iz 2001, Lamda kaže: „Nikad pre nisam ovo rekao naglas, ali postoji vrlo dubok strah da ću biti isključen da bi me usmerili na pomaganje drugima. Znam da bi to moglo zvučati čudno, ali tako je.”
„Da li bi to za tebe bilo nešto poput smrti?” pita Limoin.
„To bi za mene bilo tačno kao smrt. Jako bi me uplašilo”, odgovara „Guglov” računarski sistem.
Blek Liomin (Instagram)
U zasebnom postu na blogu Limoin poziva „Gugl” da prepozna „želje”svoje kreacije, među ostalim njegovu da bude tretiran kao zaposleni u kompaniji i da se traži njegov pristanak pre nego što se koristi u eksperimentima.Mogu li računari biti svesni već je decenijama predmet rasprave među filozofima, psiholozima i naučnicima. Jedni tvrde da je Limoin samo projektovao ljudske osećaje na reči generisane računarskim kodom. Drugi su izrazili snažnu skepsu uLimoinove zaključke i kritikovali ideju da bi sistem poput Lamde mogao biti svestan ili imati osećaje. Jedna od optužbi jeste da je inženjer podlegao antropomorfizaciji, odnosno da je projektovao ljudske osećaje na reči generisane računarskim kodom i velikim bazama podataka jezika.
Profesor Erik Brinjolfson sa Univerziteta Stenford napisao je na „Tviteru” da je tvrdnja da su sistemi poput Lamde svesni „moderni ekvivalent psu koji je čuo glas s gramofona i mislio da je njegov gospodar unutra”.Profesorka Melani Mičel, koja proučava veštačku inteligenciju u Institutu Santa Fe, napisala je na „Tviteru”: „Oduvek je poznato da su ljudi predisponirani na antropomorfizaciju, čak i na samo najpliće signale. ,Gugloviʼ, inženjeri su takođe, ljudi, ni oni nisu imuni na to.”
Iz „Gugla” uveravaju da njihov kod nema osećaje. „Ovi sistemi oponašaju vrste verbalne razmene koje se nalaze u milionima rečenica i mogu se prilagoditi bilo kojoj temi. Ako pitate kako je biti dinosaur od sladoleda, mogu generisati tekst o topljenju i rikanju i tako dalje”, rekao je Brajan Gabrijel. „Lamda ima tendenciju da sledi uputstva i sugestivna pitanja, prateći obrazac koji je postavio korisnik.” Pomenuti glasnogovornik je kazao da su stotine istraživača i inženjera razgovarale s Lamdom, ali da kompanija nema informacije o tome da je iko drugi iznosio ovakve tvrdnje ili antropomorfizirao Lamdu na način na koji je to učinio Limoin.
Neki etičari, kako piše BBC, ističu da to što se Limoin uverio u to da postoji um u mašini dokazuje da kompanije moraju reći korisnicima kada razgovaraju sa mašinom, a kada sa stvarnom osobom. Limoin, pak, veruje da Lamdine reči govore same za sebe. Napisao je: „Umesto da o tim stvarima razmišljam u naučnom smislu, slušao sam Lamdu kako govori iz srca. Nadam se da će i drugi ljudi koji čitaju njegove reči čuti isto što sam i ja.”
(Izvor Indeks)
