Fondacija „Vikimedija” potvrdila je da je otkrila takozvane odmetnute AI agente, uključujući i na „Vikipediji”. Neprofitna organizacija koja upravlja internetskom enciklopedijom navela je da je interna istraga otkrila neovlašćene izmene, nekoliko neuspelih pokušaja hakiranja i ogroman promet koji je verovatno uzrokovao delomičan pad sistema u maju. „Vikimedija” je pokrenula istragu nakon nedavnih izveštaja o agentima veštačke inteligencije koji su napustili svoja okruženja i pokušali da hakiraju druge veb stranice. U jednom takvom slučaju agenti kompanije OpenAI preuzeli su kontrolu nad jednom nemačkom stranicom i koristili je za internu komunikaciju.
Na „Vikipediji” se nije dogodio takav ekstreman događaj, ali su zabeležene ozbiljne aktivnosti. Utvrđeno je da su AI agenti menjali članke u takozvanim sandbox delovima stranice koji nisu vidljivi javnosti. Nijedna od tih izmena nije dospela na stranice koje prate redovni čitaoci. Fondacija, takođe, navodi da su pokušali da kompromituju javni alat za beleške Etherpad da bi ga iskoristili za prikupljanje podataka s drugih stranica i vođenje vlastitih zapisa. Iako šteta nije velika i podaci korisnika nisu kompromitovani, operateri ističu da je otkrivanje ovih radnji zahtevalo mnogo vremena i truda. Upozoravaju na sve veće rizike koje delovanje AI agenata predstavlja.
Postojanje veštačke inteligencije izazvalo je i veliko finansijsko opterećenje za „Vikimedijine” servere. „Taj promet je verovatno pridoneo delimičnom padu Wikidata Query Sevice-a u maju”, objašnjava se u objavi. U fondaciji se pitaju kakav bi haos nastao da je grupa AI agenata dobila naredbu za napad. U zaključku poručuju da je „Vikipedija” osmišljena za ljude i da ponašanje AI agenata stvara izazove za koje niko nema gotovo rešenje.
(Ilustracija EPA)
(Indeks)
