Brz razvoj veštačke inteligencije (AI) mogao bi da predstavlja ozbiljne rizike za čovečanstvo, jer postaje sve teže da se kontrolisše, upozorio je poznati kompjuterski naučnik Džošua Bengio. Profesor na Univerzitetu u Montrealu i šef Montrealskog instituta za algoritme učenja, rekao je za CNBC da bi mašine uskoro mogle imati većinu kognitivnih sposobnosti ljudi.
Naučnik je mislio na veštačku opštu inteligenciju (AGI), vrstu AI tehnologije kčiji je cilj da se izjednači ili postane bolja od ljudskog intelekta. „Inteligencija daje moć. Dakle, ko će kontrolisati tu moć?” pitao je Bengio. „Ako stvorimo stvorenja koji su pametniji od nas i imaju svoje ciljeve, šta to znači za čovečanstvo? Da li smo u opasnosti?” Informatičar je naveo uobičajeni strah da bi AI mašine koje se trenutno obučavaju „dovele do sistema koji se okreću protiv ljudi”.
On je istakao da ograničen broj organizacija i vlada može sebi priuštiti izradu moćnih i skupih AI mašina. To bi dovelo do koncentracije ekonomske, političke i vojne moći, što bi na kraju ugrozilo geopolitičku stabilnost širom sveta. „Postoje ljudi koji bi možda želeli da zloupotrebe tu moć, a postoje ljudi koji bi mogli biti srećni da vide čovečanstvo zamenjeno mašinama”, naglasio je, pozivajući na strožiju regulativu.
Prema kompjuterskom naučniku, kompanije koje razvijaju veštačku inteligenciju i međusobno se takmiče za globalnu tehnološku dominaciju vode trku opasnosti i treba da budu odgovorne za svoje postupke. Bengio je najpoznatiji po svom pionirskom radu u dubokom učenju, što mu je donelo 2018. Tjuringovu nagradu, poznata kao „Nobelova nagrada za računarstvo”, sa naučnicima Džefrijem Hintonom i Janom Lekunom. Godine 2019. dobio je „Kilam nagradu”, a 2022. postao je kompjuterski naučnik sa najvećim uticajem na svetu mereno h-indeksom.
Poslednjih godina ličnosti visokog profila u tehnološkoj industriji izazivaju zabrinutost zbog potencijalnih opasnosti koje predstavlja neregulisano usvajanje AI tehnologije. Hinton, koga smatraju pionirom veštačke inteligencije, upozorio je da bi svet mogao da se suoči sa velikim katastrofama pre nego što upotreba AI oružja bude regulisana na odgovarajući način. Bengio je bio među vodećim ličnostima u industriji, uključujući izvršnog direktora „Tesle” Ilona Maska i suosnivača „Epla” Stiva Voznijaka, koji su prošle godine potpisali pismo pozivajući na agresivnu regulaciju sektora veštačke inteligencije. U junu je podržao još jedno otvoreno pismo o „ozbiljnim rizicima tehnologije”. Pismo su potpisali zaposleni u Open AI, kreatoru viralnog AI chat bot-a ChatGPT.
(Ilustracija Freepik)
(Russia Today)
