RAZGOVORNIK

ŽIVIMO U SIMULACIJI

1.082 pregleda

Tehnološki razvoj dovešće do ranjivosti ljudske civilizacije jer će biti moguće stvoriti najmoćnije oružje kod kuće. To je mišljenje švedskog filozofa i profesora na Univerzitetu u Oksfordu Nika Bustroma. U programu RT „Sofi ko. Vizionari on savetuje kako se pripremiti za trenutak kada veštačka inteligencija postane pametnija od ljudi.

 Suština hipoteze o ranjivom svetu je u tome da će u određenoj fazi tehnološkog razvoja stvaranje moćne razorne sile postati suviše lako, a čim civilizacija dostigne taj nivo razvoja, doći će i do njenog samouništenja. Zamislite da je za stvaranje nuklearnog oružja, umesto korišćenja teško pristupačnih sirovina kao što su plutonijum ili obogaćeni uranijum, dovoljno samo podgrejati pesak u mikrotalasnoj peći. Tada bi verovatno bio kraj civilizacije, kaže Bustrom. Šta kad veštačka inteligencija postane pametnija od ljudi?

Da li će veštačka inteligencija postati pametnija od nas?

– Na kraju hoće. A u tom trenutku moraćemo nekako da garantujemo da će ti sistemi nastaviti da funkcionišu u skladu sa našim planom. Čak i kada nas intelektualno nadmaše. To je tehnički problem, koji treba rešiti tehničkim sredstvima. Međutim, čak i da bude rešen, ostaje politički ili organizacioni problem – nazovite to kako hoćete. Recimo, ljudi mogu da nateraju veštačku inteligenciju da radi ono što je njima potrebno, ali kako osigurati da će te nove moćne tehnologije biti korišćene za dobrobit, a ne kao oruđe za rat i eksploataciju. A to već nije tehnički, nego politički problem.

Nik Bostrom (Vikipedija)

 U mnogim savremenim prognozama pominje se dolazak „sudnjeg dana“, tj. trenutka kada će veštačka inteligencija zarobiti čovečanstvo. Međutim, postoje i oni koji veruju u suprotno, da će nam ona pomoći da rešimo mnogo problema kao što su glad, nejednakost, globalno zagrevanje… Šta vi mislite?

– Istina je negde na sredini. To je poput vrata kroz koja morate proći. Na drugoj strani je put koji će nas odvesti u zaista sjajnu budućnost. Ako do tog trenutka ne dođe do samouništenja, onda će se prelazak dogoditi. Dakle, naš zadatak je da se fokusiramo na istraživanja, da pretražimo globalne metode kontrole veštačke inteligencije, da svetski red dovedemo do maksimalno ostvarive adekvatnosti i pojačamo saradnju. Naročito je važno da stručnjaci za veštačku inteligenciju izrade zajedničke standarde. Sa razumevanjem da se to radi za opšte dobro. Generalno gledano, moramo postati razumniji.

Čak i uz totalnu kontrolu budućnost se ne može predvideti. Naravno, moguće je pratiti sve aktivnosti ljudi, ali će oni i pod nadzorom pronalaziti stvari čija se razorna moć neće ni naslutiti dok se ne desi nešto užasno. To što neko to prati ništa neće sprečiti.

– Ako pretpostavimo da će svet u određenoj fazi tehnološkog razvoja postati ranjiv, postavlja se pitanje šta u toj situaciji možemo učiniti da sprečimo razaranje svega živog. I čini se da bi u nekim scenarijima jedino moguće rešenje bilo sveopšti nadzor. Naravno, sam po sebi totalni nadzor takođe predstavlja rizik za ljudsku civilizaciju, jer će omogućiti da različiti totalitarni režimi deluju još efikasnije.

 Konstantni nadzor je sam po sebi karakterističan za totalitarni režim...

– Zavisi od toga u koje svrhe se koriste dobijene informacije. Ako ih prikupljaju da bi centralizovana vlast u potpunosti kontrolisala svačiji život, onda će to svakako biti totalitarizam bez presedana. Međutim, uz pasivno posmatranje ljudi bi nastavili da vode običan život. Mere bi se preduzimale samo u slučaju da neko pokuša da stvori oružje za masovno uništenje. U takvoj situaciji ovo ne bi izgledalo kao užasni totalitarizam.

Da li je to izvodljivo? Ljudi koji bi bili na čelu tog programa, našli bi se u iskušenju da ga koriste u svoje svrhe. Takva je ljudska priroda…

– Naravno, čak i da se izgradi dobro proveren sistem za masovni nadzor teoretski će se pojaviti pretnja da će odmah ili uskoro on pasti u ruke nedobronamernih građana koji će ga koristiti za svakojake pritiske. Ovo je jedan od glavnih razloga za sumnjičavost prema tehnologijama za nadzor, što je u principu opravdano. Ipak, to nije pitanje našeg izbora –   svet tako funkcioniše da u određenoj fazi tehnološkog razvoja postaje znatno lakše uništiti, nego stvoriti ili zaštititi. I u takvoj situaciji može se ispostaviti da je jedini način za sprečavanje samouništenja – provereni masovni nadzor.

Mnoštvo je primera da ljudski poroci i neorganizovanost pobeđuju bilo kakva ograničenja i norme, kao trava koja raste kroz asfalt…

– Kako proces proizvodnje oružja bude postajao jednostavniji i zahtevao sve manje teško dostupnih sirovina, ljudskih resursa i prostora, biće sve teže otkriti pretnje uz pomoć trenutnih tehnologija. Mada se i ova oblast brzo razvija. Softver za prepoznavanje lica omogućava da se uz pomoć kamera prati bilo ko. Možete čak zamisliti (ovo je ekstremni slučaj samo da bi se demonstrirala teoretska mogućnost) da će svi oblačiti odeću određenih boja i imati na sebi kamere i mikrofone – tada će sistem veštačke inteligencije moći da prati i klasifikuje sve vaše aktivnosti.

Ilustracija (Piksabej)

Veštačka inteligencija zbunjuje jer su je stvorili ljudi koji su u suštini nesavršena bića. Ako su nesavršena bića izumela veštačku inteligenciju, imitirajući svog tvorca, onda je ovaj proizvod takođe nesavršen, što znači da će pre ili kasnije nešto propustiti.

– Kao prvo, on ne imitira čoveka. A kao drugo, u zavisnosti od konkretne situacije, možda neće biti neophodno nadgledati apsolutno sve. Trenutne mogućnosti državnih organa su naravno jako ograničene, ali već je primetan ozbiljan napredak u upotrebi veštačke inteligencije za prepoznavanje nečeg – lica ili određenih aktivnosti. Pretpostavke su da će za 10-20 godina te tehnologije postati prilično ozbiljan instrument.

Odnosno, čovečanstvo neće dobrovoljno preći pod kontrolu mašina… 

– Postoje varijante razvoja događaja, tokom kojih će ranjivi svet biti ili uništen ili obuhvaćen sistemom za nadzor. U zavisnosti od korišćene tehnologije za nadzor, rad tog sistema se može odvijati na različite načine, što znači da on može biti i maksimalno automatizovan. Međutim, u bliskoj budućnosti je zagarantovano ljudsko učešće. Na primer, za kontrolu rezultata rada sistema i za određivanje mera za reagovanje.

Pre hipoteze o ranjivom svetu ste imali drugu hipotezu prema kojoj svi mi možda živimo unutar određene matrice… 

– Da, hipoteza simulacije. Cilj diskusije je da se pokaže tačnost jedne od tri tvrdnje. Prva tvrdnja: sve civilizacije u našoj trenutnoj fazi tehnološkog razvoja izumiru pre dostizanja tehnološke zrelosti. Možda postoje neke daleke, drugačije, vanzemaljske civilizacije, ali nijedna od njih nije dostigla tehnološku zrelost. Druga varijanta: sve civilizacije koje su dostigle tehnološku zrelost gube interes za stvaranje onoga što ja nazivam „simulacija predaka”. Računarska simulacija koja je dovoljno detaljna da bi ljudi imali svest i brige, slične našima. Treća varijanta (po mom mišljenju najverovatnija): sada gotovo sigurno živimo u računarskoj simulaciji koju je stvorila neka napredna civilizacija.

(Izvor Sputnjik)

O autoru

Stanko Stojiljković

2 komentara

  • Civilizacija. Ne, mi ne živimo u civilizaciji, ma koliko to puta izgovorili. Čovekov egocentrizam je toliko veliki da sebe uvek vidi ne samo da je dostigao nivo civilizacije nego još strašnije, da je njegov dostignuti razvoj krajnji domet ljudskog razvoja.
    Filozof i profesor Nik Bustrom je razmišljajući o tehnološkom razvoju i veštačkoj inteligenciji vrlo jasno prikazao da, ne da nismo dostigli civilizacijski nivo razvoja već da smo i dalje zatočeni u kulturi terora. Pri tome ne mislim na terorizam koji je mali izvadak iz opšte slike terora. I rekao bih njegova jasna posledica. I profesor Bustrom razmišlja kao istinski predstavnik kulture terora. On nam predočava moguće puteve tehnološkog razvoja koji bi proizvele sve veći (neopravdani) globalni teror zarad suzbijanja potencijalnog, svakako ne opravdanog, pojedinačnog terora. Dakle, on ne vidi mogućnost promene čoveka, njegovog daljeg razvoja, jer je, ne samo po njemu već i po većini koja se bavi veštačkom inteligencijom, već dosegao svoj konačni razvoj. Ljudi se ne mogu dalje razvijati jer su nesavršeni. Bog je bio u stanju samo takve da ih stvori. Nesavršene. Ali zato ljudski egocentrizam omogućava čoveku, kad je već Bog zakazao, da oni stvore savršenost. Veštačku inteligenciju. Veću od ljudske. I to ne samo ljudske. Ne savršenost proširuju i na, ako ne na svaku a ono na većinu, vanzemaljske, „ne veštačke“ inteligencije.
    Nije problem u tehnološkom razvoju pa ni u razvoju veštačke inteligencije, kako danas volimo da se razbacujemo zvučnim nazivima. Kako to moćno zvuči: veštačka inteligencija. Mašine koje prikupljaju i obrađuju podatke po parametrima koje im je zadao ČOVEK. Ali i čovek koji zasigurno ostavlja svoj „mentalni otisak“ u veštačkoj inteligenciji. Ako taj „mentalni otisak“ potiče iz kulture terora, onda svakako da je opravdan čovekov strah od mašina.
    Nigde u tekstu ni naznake da bi čovek mogao da izgradi kulturu ljudskosti, čovečnosti. Pa da krene ka (dostižnoj) utopiji zvanoj demokratija. A negde, daleko, daleko trebalo bi moći i (razvojno) da se stigne i do sledeće utopije, za današnjeg čoveka i misaono nedokučive, civilizacije.
    Ali ako mislimo da se nalazimo tamo gde nismo a ne vidimo gde jesmo, naravno da ne možemo više napred. Ne znamo šta da menjamo.

    • Kad čovek shvati što mu nije potrebno da ima da bi bio čovek, onda možemo pričat o nekoj civilizaciji.

Ostavite komentar