DIGITALNI DOMOROCI

MAŠINE NERAVNOPRAVNE

146 pregleda
Ilustracija

Očekuje se da će povećanje produktivnosti usled sve šire primene veštačke inteligencije uvećati globalnu ekonomiju tokom ove decenije za više od 15.000 milijardi dolara. Ljudi će, makar u proseku, postati bogatiji, ostaje samo da vidimo kako će to bogatstvo biti raspoređeno.

Dr Saša Marković

„Tetris” je bio enormno popularan u svoje vreme. A onda Jutjub”, Fejsbuk” i Tik-tok”. Ako se, međutim, meri vreme koje je potrebno nekoj aplikaciji da stekne prvih sto miliona korisnika, sve ih je zasenio ChatGPT – program koji je sposoban da razume običan jezik i, korišćenjem veštačke inteligencije, daje odgovore na potpuno proizvoljna pitanja.

Za reč chat znamo da predstavlja razgovor, ćaskanje. Ali, šta tačno znači ono GPT u imenu programa? U pitanju je skraćenica za rogobatnu englesku frazu Generative Pre-Trained Transformerkoja u najkraćem opisuje suštinu. Ovaj program je, pre svega, generativan, sposoban da proizvede novi tekst na bazi već postojećeg. Bot je, takođe, unapred istreniran tako što su mu prezentovani silni terabajti teksta sa interneta uključujući kompletnu Vikipediju”, bez namere da bot postane ekspert u bilo kojoj posebnoj oblasti ljudskog znanja. Na kraju, ChatGPT je transformer: ova reč detaljnije opisuje arhitekturu neuronske mreže koja se krije ispod haube (vidi antrfile Kratka istorija ChatGPT-a i mašinskog učenja). Transformeri su se kao koncept prvi put pojavili 2017. godine kao deo novog rešenja za mašinsko prevođenje teksta.

Skupi „pogađač reči”

Sve ovo smrtnicima kao što smo mi ne znači mnogo. Kako ChatGPT, zapravo, radi? Ako aplikaciju predstavite kao mašinu koja s jedne strane prima pitanja a na drugoj izbacuje odgovore, videćete da je ono između zapravo jedan veliki jezički model, crna kutija koja ima fantastičnih 175 milijardi podesivih parametara. Ove parametre, zbog njihovog broja, nije moguće konfigurisati ručno. Umesto toga, ChatGPTih sam podešava tokom perioda učenja, dok se hrani milionima stranica gotovog teksta. Dok čita servirani tekst, ChatGPTneprekidno pokušava da pogodi narednu reč što mu, u početku, nikako ne polazi za rukom.

Međutim, kad god napravi grešku u proceni, ChatGPT sam sebi dodeli packu, stimulans kojim sam koriguje svoje parametre da bi naredni put izabrao bolju reč. Na ovaj način polako stiče predstavu o jeziku, odnosu među rečima, njihovom značenju i kontekstu upotrebe. Tokom višemesečnog treninga, principi govornog jezika bivaju pretočeni u brojeve koji kontrolišu ponašanje mašine. Posle ove, nenadgledane faze učenja, na red dolazi fino doterivanje aplikacije korišćenjem velikog broja pitanja i ekspertskih odgovora iz više uže definisanih oblasti.

Nakon ovog drila, svi konfigurabilni parametri bivaju trajno zamrznuti i ChatGPT je konačno spreman da odgovara na vaša pitanja. Svako pitanje prolazi kroz komplikovanu semantičku analizu gde bot, korišćenjem mehanizma za fokusiranje pažnje, utvrđuje kojim rečima u pitanju treba da prida veću ili manju težinu. Ali kako nastaje odgovor? Verovali ili ne, isključivo pogađanjem! Bot nema pristup internetu i ne može da na njemu pronađe traženu informaciju kao što to čini Gugl”.

Umesto toga, bot počinje da sriče odgovor, reč po reč, neprekidno pokušavajući da za narednu reč izabere onu koja, na bazi ogromnog iskustva stečenog učenjem, izgleda najlogičnija u datom kontekstu, uz malu dozu slučajnosti, da bi odgovori bili raznovrsniji. Uzmite, na primer, započetu rečenicu: Danas me je posetio ____”. Mnogo je verovatnije da na mestu nepoznate reči stoji brat nego zmaj. ChatGPT, zaista, nije mnogo više od toga: beskrajno vešt, skupoceni pogađač reči što svoju fleksibilnost crpi iz ogromnog broja parametara koji u sebi čuvaju duh i pravila govornog jezika.

Opšta inteligencija

Koliko je ChatGPTdobar? Probajte i sami na adresi https://chat.openai.com ili se malo poigrajte Bingom”, Majkrosoftovom” verzijom Gugla” u koju je odnedavno ugrađen i ChatGPT. Utisci će prvenstveno zavisiti od dubine do koje ste spremni da idete kada je u pitanju istraživanje mogućnosti ovog govornog automata. Ako su pitanja jasna i jednostavna i odgovor se može dobiti rezimiranjem sadržaja koji postoji na internetu, ChatGPT deluje zastrašujuće moćno: odgovori su ispolirani do perfekcije, precizno kondenzovani i nedvosmisleni. Ako mislite da on odnekud prepisuje, to je samo donekle tačno: odgovori koje će dve osobe dobiti na identično pitanje mogu da budu potpuno različiti po formi, iako su suštinski identični. I ne pokušavajte da ga zbunite tablicom množenja ili dečjim pitanjima: Šta je teže, kilogram vune ili kilogram olova”? ChatGPT nije vašarska igračka koja se može rasturiti jeftinim trikovima.

Budimo realni: ChatGPT generiše nestvarno dobre tekstove. Tokom jednog eksperimenta, ekipa stručnjaka uspela je da u svega 52 odsto slučaja utvrdi da je tekst kreirao bot a ne čovek, što je jedva malo bolje od pogađanja bacanjem novčića. Kao prevodilac, pretekao je sve svoje rivale, uključujući do skoro neprikosnoveni Google Translate. ChatGPT ne samo da odgovara na pitanja, u stanju je da piše vesti, impersonifikuje istorijske ličnosti, da odgovore daje u stihu ili u stilu antičkih filozofa.

Zahvaljujući ChatGPT-u, možete da intervjuišete” Marka Aurelija, Džona Lenona, Isusa Hrista ili Džona Vejna, da uporedite stilove vladanja najvećih američkih predsednika ili vodite beskrajne diskusije o potpuno apstraktnim stvarima. On ume da napiše novu epizodu Zvezdanih staza”, da napravi recept za ručak na bazi sastojaka u frižideru, da predloži rođendanski poklon, da priča viceve, da sastavi otkazno pismo ili dotera biografiju…

Đaci ga već uveliko koriste za pisanje školskih sastava, a kako i ne bi kad ChatGPTume da prepriča skoro svaku knjigu koju bi đaci, inače, morali da pročitaju. Briljantan je i kada su kompjuterski, programski jezici u pitanju: u stanju je da generiše savršeno ispravan softverski kod na bazi verbalnog opisa, možda zahvaljujući činjenici da mašinski jezici operišu relativno malim fondom reči i imaju jasno definisanu sintaksu. Takođe ume da piše pesme, note i akorde za gitaru, da prepričava Harija Potera koristeći Eminemov reperski rečnik ili oponaša imaginarne junake iz stripova ili crtanih filmova.

I na kraju, ume da objasni zašto je broj 42 odgovor na pitanje svih pitanja. Kada sve ovo saberete, ne čudi što ima dosta onih koji tvrde da je ChatGPTprvi kompjuterski program koji demonstrira istinsku opštu inteligenciju. Po njihovom mišljenju, on poseduje određenu količinu zdravog razuma, solidan nivo razumevanja i sposobnost razmišljanja.

Logika slabija strana

Ipak, kada zagrebete malo dublje, postaće vam jasno da ChatGPT,zapravo, pojma nema o čemu piše i da mu logika nije jača strana. Kada mu postavite pitanje, on ne pokušava da u moru pročitanih tekstova nađe odgovor. Umesto toga, trudi se da pronađe formulaciju koja, po duhu i formi, liči na tačan odgovor. Recimo, do sada je pročitao mnogo šahovskih knjiga i video mnogo šahovskih partija, ali i dalje ne kapira elementarna šahovska pravila. Manjak inteligencije naročito se vidi kada ga zatrpate pitanjima koja zahtevaju kreativno razmišljanje, gde ne postoje primeri na koje bot može da se ugleda.

Autor ovog teksta nije dovoljno stručan da ChatGPTnapadne sofisticiranim pitanjima iz filozofije, lingvistike ili istorije, ali ponešto zna o matematici i fizici. Ispostavilo se da ga je lako slomiti relativno jednostavnim zagonetkama, čak i onim koje su nebrojeno puta ponovljene na internetu. Na pitanje koliko bi bio debeo papir koji je 50 puta presavijen na pola, on zaključuje da se radi o stotinama miliona kilometara (što je tačno), ali onda dodaje jedan paragraf u kome, potpuno pogrešno, tvrdi da je to više od prečnika vidljivog kosmosa (nije ni približno).

Jednostavno, ne razume brojeve, naročito one malo veće. Da bi razumeo njihove odnose, ispostavlja se da savršeno poznavanje sinatkse i semantike govornog jezika nije dovoljno. Ako ga gađate još težim pitanjima, recimo, zatražite da dokaže da se broj pi” (3,14) ne može napisati kao razlomak (krupan zalogaj čak i za profesionalne matematičare), ChatGPTće se upetljati kao pile u kučine pokušavajući da složi priču od napabirčenih fragmenata dokaza koji se odnose na slične, ali zapravo sasvim drugačije probleme.

Ilustracija (Dall-E2)

Internet je prepun primera u kojima ChatGPT halucinira, vidi stvari i događaje koji ne postoje i izvlači zaključke upitnog kvaliteta. Ispostavlja se da sistem pogađanja naredne reči ne može da bude zamena za kreativno razmišljanje, logiku i intuiciju. On liči na čoveka koji je pročitao milion knjiga, ali nikad nije izašao u svet da svoju načitanost obogati iskustvom i na bazi toga razvije sopstvenu inteligenciju. Ni dete ne može da shvati svet isključivo čitanjem knjiga, neophodna je interakcija sa svetom koji ga okružuje.

To iskustvo omogućava nam da informacije povežemo sa značenjem i tako steknemo osećaj realnosti. Upravo činjenica da on nema nikakav dodir sa svojim okruženjem, da nije deo sveta koji opisuje, predstavlja ključni argument onih koji tvrde da ni danas, ni u nekoj budućoj inkarnaciji, ne može da razvije sopstvenu inteligenciju.

Stvar komplikuje i činjenica da je veliki deo ljudskog znanja implicitnog karaktera: neke stvari jednostavno znamo, ali ne umemo da ih objasnimo rečima i prenesemo nekom drugom. Primer je, recimo, vožnja bicikla, plivanje ili stajanje na jednoj nozi. Za ove veštine ne postoji pisani recept, najvažnije je iskustvo. Mi, jednostavno, znamo mnogo više nego što možemo da ispričamo. Zato su male šanse da će ChatGPTgutanjem bizarno velikih količina teksta ikad naučiti da vozi bicikl ili stoji na jednoj nozi, čak i u svom virtuelnom svetu.

Pritom on svoju snagu bazira na tekstovima pokupljenim s interneta, koji su često upitnog kvaliteta. Nije zato čudo što je, korišćenjem sugestivnih pitanja, relativno lako naterati ga da bude pristrasan ili generiše odgovor koji je mizogin, rasistički, antisemitski ili, jednostavno, zatucan. Sve je to ChatGPTnegde već video i memorisao u svojim brojevima ne znajući da li se radi o istini ili laži. Iako autori programa neprekidno rade na tome da unapred isfiltriraju toksične odgovore (i pitanja koja do njih dovode), uspeh je još uvek polovičan. Ovome pogotovo ne treba verovati kada su u pitanju životno osetljiva pitanja: lekarske dijagnoze, finansijske transakcije, krupne životne odluke i druga pitanja života i smrti”

Na kraju, postavlja se pitanje kako će ChatGPTizaći na kraj sa samim sobom. Danas se puni tekstom sa interneta, ali šta će biti kada veliki procenat toga bude mašinski generisan, upravo od strane tih istih botova? Mašina će početi da uči tako što će reciklirati sopstvene reči, poput pisca koji čita samo sopstvene knjige. Količina petparačkog digitalnog smeća radikalno će se povećati (kao da ga i ovako nemamo dovoljno), možda do tačke kada ni Gugl” neće moći da pronađe bilo šta vredno u toj ogromnoj deponiji banalnosti.

Ilon Mask, jedan od osnivača kompanije Open AI, traži da se proglasi moratorijum na dalji razvoj inteligentnijih botova jer, u ovom trenutku, niko ne zna u kom pravcu ide sadašnji vrtoglavi razvoj (količina upotrebljenog hardvera duplira se na svaka tri-četiri meseca). Italija je već privremeno zabranila ChatGPT (zbog neadekvatne zaštite privatnosti), a o sličnoj meri razmišljaju i druge zemlje.

I pored toga, očekuje se da će povećanje produktivnosti usled sve šire primene veštačke inteligencije uvećati globalnu ekonomiju ove decenije za više od 15.000 milijardi dolara. Ljudi će, makar u proseku, postati bogatiji, ostaje samo da vidimo kako će to bogatstvo biti raspoređeno. Ako najveći deo tog novca ode u džepove malobrojnih tehnoloških mogula umesto u nova, kreativna i bolje plaćena radna mesta, može se zaista ispostaviti da je razvoj AI za veći deo čovečanstva bio korak unazad.

Prihvarljive promene

Postoji li opasnost da nas ChatGPT, zahvaljujući svojim neverovatnim sposobnostima, potisne na margine života? Prema nekim analizama, sve intenzivnija upotreba veštačke inteligencije (AI) dovešće do toga da oko 15-30 odsto radnih mesta postane suvišno do kraja 2030. godine. Više nam neće biti potrebni stručnjaci, sve će ih zameniti ChatGPTili neki njegov klon.

U sve većem broju restorana roboti polako zamenjuju konobare. Industrijske montažne trake danas su potpuno automatizovane, u mnogim halama nema nijednog radnika. Kompjuteri ugrađeni u automobile kao što je tesla” danas mogu u potpunosti da odmene vozača i svedu ga na nivo pasivnog putnika. U strahu za svoje radno mesto su i prevodioci, novinari, programeri, administrativni službenici, radnici u kontakt-centrima, nastavnici… Sve njih je, već danas, u većoj ili manjoj meri, moguće zamenti inteligentnim botovima kao što je ChatGPT. Čak ni medicinski radnici nisu sigurni: u vodećim svetskim zdravstvenim ustanovama sve više se koriste neuronske mreže za postavljanje dijagnoze na osnovu analize radioloških snimaka. Ispostavilo se da mašine uočavaju rane maligne procese efikasnije nego ljudi.

Istorija ljudskog rada je, zapravo, priča o tome kako su ljudi teške i dosadne poslove postepeno prenosili na mašine. Te mašine danas su stigle do tačke kada počinju da se bave logikom i zaključivanjem, da komuniciraju na govornom jeziku, da prepoznaju zvuk i oblike. Ovoga puta mašine preuzimaju i intelektualne, a ne samo fizičke poslove. Ako se sadašnji trend nastavi, reklo bi se da će, pre ili kasnije, sve biti automatizovano i da nijedno radno mesto više nije sigurno jer jednoga dana neće biti potrebno.

Da li su ljudi i mašine zaista međusobno suprotstavljeni? Ova dilema počiva na pretpostavci da su mašine i ljudi ravnopravni. Srećom, oni to nisu i još dugo neće biti. Mašine su možda brze, hladno racionalne i tačne, ali ne mogu da se pohvale intuicijom, kreativnim razmišljanjem ili emocionalnom inteligencijom. Ljudi su, uz to, sposobni da se adaptiraju na promenjene okolnosti i svoj rad prilagođavaju spoljašnjim uticajima, dok su mašine blaženo nesvesne sveta oko sebe. Upravo zato što posedujemo osobine koje mašine nemaju, za ljude će (još) uvek biti mesta. Ljudski um, po svemu sudeći, još uvek nije moguće zameniti gomilom brojeva, makar ih bilo 175 milijardi.

Da li je parna mašina obesmislila ljudski rad? Nije, baš kao što ni montažna traka nije eliminisala radnika u automobilskoj industriji. Možda je prestala potreba za nekvalifikovanom radnom snagom, ali su se zato pojavila kreativnija radna mesta: umesto spajanjem delova, ljudi se danas mnogo više bave dizajnom, konstrukcijom, optimizacijom, ekološkim aspektima i istraživanjem. I pored sve automatizacije, prosečni radnik u automobilskoj industriji danas zarađuje više nego pre par decenija. I od kompjutera se nekad očekivalo da u potpunosti zamene ljude koji su računali peške” ili se bavili tabelama iscrtanim na ogromnim papirima. Ti ljudi nisu nestali, prekvalifikovali su se u stručnjake za Exel i programiranje. Rađaju se nova, bolje plaćena zanimanja, neka stara se gase, a gubitnici će biti jedino oni koji tu promenu odbijaju da prihvate.

(Ilutracija Dall-E2)

(Vreme)

O autoru

administrator

Ostavite komentar