ZOV BUDUĆNOSTI

VEŠTAČKA NAS UNIŠTAVA?

321 pregleda

U intervjuu za The New York Times, bivši istraživač u OpenAI Danijel Kokotajlo je izjavio da su šanse da veštačka inteligencija (AI) uništi ili katastrofalno naškodi čovečanstvu veće od bacanja novčića (50%), čak dostižu oko 70%!

Nakon što su bivši i sadašnji zaposleni u OpenAI-u (kompanija kpja je napravila ChatGPT) objavili otvoreno pismo u kojem tvrde da su ućutkivani zbog postavljanja bezbednosnih pitanja, jedan od potpisnika je dao još strašnije predviđanje. Upozorenje je stiglo i iz Centra za bezbednost od veštačke inteligencije, neprofitne organizacije. „Ublažavanje rizika od našeg izumiranja uzrokovano veštačkom inteligencijom trebalo bi da bude globalni prioritet pored drugih društvenih rizika, kao što su pandemije i nuklearni rat”. Otvoreno pismo je potpisalo više od 350 rukovodilaca, istraživača i inženjera koji rade u AI [1].

U intervjuu za The New York Times, bivši istraživač u OpenAI Danijel Kokotajlo je izjavio da su šanse da veštačka inteligencija (AI) uništi ili katastrofalno naškodi čovečanstvu veće od bacanja novčića, a to znači veće od 50%. Optužio je kompaniju da ignoriše ogroman rizik koje predstavlja opšta veštačka inteligencija (AGI) jer su donosioci odluka oduševljeni njenim mogućnostima [2].

Kokotajlo tvrdi je da su izgledi da će veštačka inteligencija uništiti čovečanstvo oko 70% – a to je verovatnoća koju ne biste prihvatili ni za jedan negativan veliki životni događaj: „Bezobzirno se utrkuju ko će biti prvi”. Tridesetjednogodišnji istraživač je objasnio da je, nakon što se pridružio OpenAI-u 2022. i od njega zatraženo da predvidi napredak tehnologije, postao uveren ne samo da će se AGI pojaviti do 2027. godine, već da postoji velika verovatnoća da će katastrofalno naškoditi ljudima ili, čak, uništilo čovečanstvo.

U otvorenom pismu navode se on i saradnici – što uključuje bivše i sadašnje zaposlene u „Guglovom” DeepMind-u i Anthropic-u (glavni investitor je „Amazon”), a i Džefri Hinton, nazvan „kumom veštačke inteligencije”, koji je kompaniju napustio prošle godine zbog slične zabrinutosti. Kokotajlo je toliko ubeđen da veštačka inteligencija predstavlja ogroman rizik za čovečanstvo da je na kraju lično pozvao izvršnog direktora OpenAI, Sema Altmana, i upozorio ga da kompanija treba da se „okrene ka bezbednosti” i da više vremena posveti implementaciji zaštitnih ograda da bi upravljala tehnologijom, a ne da nastavi da je čini pametnijom. Činilo se da se Altman, prema pričanju bivšeg zaposlenog, u to vreme saglasio.

Danijel Kokotajlo je napustio kompaniju u aprilu, saopštivši svom timu u elektronskoj poruci da je „izgubio poverenje da će se OpenAI ponašati odgovorno” pokušajući da napravi veštačku inteligenciju skoro na nivou čoveka. „Svet nije spreman, a mi nismo spremni”, napisao je u svojoj poruci dostavljenoj New York Times-u.

Na upozorenja velikih imena i ovakvih zastrašujućih predviđanja, OpenAI odgovara: „Ponosni smo na našu reputaciju koja pruža najsposobnije i najsigurnije sisteme veštačke inteligencije i verujemo u naš naučni pristup rešavanju rizika. Slažemo se da je rigorozna debata ključna s obzirom na značaj ove tehnologije i nastavićemo da sarađujemo sa vladama, civilnim društvom i drugim zajednicama širom sveta. To je, takođe, razlog zašto imamo načina da zaposleni izraze svoju zabrinutost, uključujući anonimnu telefonsku liniju za integritet i Komitet za bezbednost koji predvode članovi našeg odbora i lideri za bezbednost iz kompanije.”

Šta možemo zaključiti? Ako toliki broj stručnjaka za veštačku inteligenciju opominje, upozorenje treba shvatiti ozbiljno. Nedostaje, nažalost, objašnjenje kako do katastrofe može da dođe. Da li:

  • Predajom nuklearnog arsenala veštačkoj inteligenciji na upravljanje;
  • Kontrolom i usavrševanjem biološkog i hemijskog oružija prepuštenim veštačkoj inteligenciji;
  • Integracijom veštačke inteligencije u sve pore društva (proizvodnja, saobraćaj, obrazovanje, zdravstvo i tako redom);
  • Nestajanjem potrebe za ljudskim radom.

Spisak pretnji se sigurno može proširiti. Svaka navedena stavka nosi svoje opasnosti da dođe do katastrofalnih ishoda. Ostaje da se nadamo da posledice neće biti teške i da če to biti nauk kako se obezbediti od istih ili sličnih nemilih događaja. Ili će možda doći, kako je opisano u glavnim naučnofantastičnim delima („Zadužbina”, „Dina”…), do velikog  rata čoveka protiv mašina, nakon kojih su roboti i veštačka inteligencija zauvek zabranjeni.

Izvori:

[1] https://www.safe.ai/work/statement-on-ai-risk.

[2] https://futurism.com/the-byte/openai-insider-70-percent-doom.

 

(Ilustracija Pixabay)

(Astronomski magazin)

O autoru

administrator

Ostavite komentar