Takav poduhvat predstavlja samo deo sve većeg broja „primera otpora”, odnosno fizičkih objekata koji su napravljeni tako da se suprotstavljaju sve jezivijem digitalnom nadzoru.
Naučnici na Nortistern univerzitetu osmislili su uzorak šare koji nepovoljno utiče na sistem za prepoznavanje lica čak i kad se nalazi na površini koji se pomera. U knjizi Vilijema Gibsona „Grof Nula”, glavni lik oblači najružniju majicu na svetu – komad odeće najblesavijeg izgleda koji kao magijom utiče na to da je onaj što je nosi potpuno nevidljiv za budno oko nadzornih kamera. Danas, dok zemlje širom sveta koriste veštačku inteligenciju u nadzornim sistemima da bi pronašle, pratile i nadzirale ljude, možda bismo i mi mogli da pronađemo neku našu najružniju majicu.
Naslovnica „Grof Nula”
Naučnici na Nortistern univerzitetu, MIT-u i IBM-u napravili su majicu koja na prednjoj strani ima kaleidoskopsku šaru koja čini osobu koja je nosi potpuno nevidljivom za veštačku inteligenciju. Takav poduhvat predstavlja samo deo sve većeg broja „primera otpora”, odnosno fizičkih objekata koji su napravljeni tako da se suprotstavljaju sve jezivijem digitalnom nadzoru.
„Otporaška majica radi na principu neuronskih mreža koje se koriste za detektovanje objekata”, objašnjava jedan od članova tima na Univerzitetu i koautor nedavnog izveštaja o projektu. U normalnim okolnostima, neuronska mreža prepoznaje nekoga ili nešto u slici i oko nje crta okvir i tom objektu dodeljuje naziv. Pronalaženjem tačaka okvira neuronske mreže – granica na osnovu kojih ona odlučuje da li je nešto objekat ili nije – članovi istraživačkog tima su mogli da se primene obrnuti proces da bi napravili uzorak koji će zbuniti klasifikaciju koju obavlja mreža veštačke inteligencije kao i njen sistem označavanja i imenovanja.
Niko pre njih nije uspeo da stvori „primer otpora” koji je napravljen tako da bude odštampan na materijalu koji se pomera. Da bi to uradili, koristili su, kako su ga nazvali, transformator – metod koji meri kako se majica pomera i to su mapirali na uzorak šare.
Kada su se osvrnuli na dve neuronske mreže koje se uobičajeno koriste u svrhu obučavanja – YOLOv2 i Faster R-CNN – članovi tima su mogli da identifikuju delove tela gde dodavanje buke piksela može da zbuni veštačku inteligenciju i tako dovede do toga da onaj ko nosi majicu bude praktično nevidljiv. To nije prvi put da se stvaraju objekti da bi zbunili i prevarili veštačku inteligenciju.
Naučnici sa Univerziteta Karnegi Melon i Severna Karolina napravili su 2016. godine, naočare koje mogu da zbune tehnologiju prepoznavanja lica koja je zbog toga pogrešno klasifikovala osobu što ih nosi. Američki naučnici su 2017. godine prevarili duboke neuronske mreže tako da su prepoznale znak za zaustavljanje kao znak za ograničenje brzine na 60 kilometara na sat, tako što su mu dodali samo nekoliko pažljivo izabranih grafita.
Međutim, u tim prethodnim slučajevima, „primeri otpora” bili su napravljeni na nepokretnim površinama. Mnogo je teže primeniti takvu proceduru za video nadzor jer, u tom slučaju, pravi izazov je omogućiti da objekat bude nedetektovan tokom celog toka video-sadržaja. Kad proces detektovanja prolazi kroz svaku frekvenciju slike video-sadržaja, mnogo je teže omogućiti objektu da ne bude detektovan. Za razliku „d znaka” za zaustavljanje, majica se kreće i savija pri svakom pokretu onog koji je nosi, što je tim istraživača morao da uzme u obzir. Niko pre njih nije uspeo da stvori „primer otpora” koji je napravljen tako da bude odštampan na materijalu koji se pomera. Da bi to uradili, koristili su, kako su ga nazvali, transformator – metod koji meri kako se majica pomera i to su mapirali na uzorak šare.
Istraživači su snimili osobu koja hoda i na sebi nosi majicu sa uzorkom šahovske table i pratili svaki ugao svakog kvadrata table da bi precizno mapirali kako se savija i gužva dok osoba nosi majicu. Koristeći tu tehniku, uspeli su da povećaju izbegavanje detektovanja sa 27 procenata na 63 procenta kad su koristili YOLOv2 neuronsku mrežu, odnosno sa 11 procenata na 52 procenta kad su koristili Faster R-CNN neuronsku mrežu.
Naravno, članovi tima su rekli da takve majice sigurno nećemo videti u stvarnom životu jer postoji snažno uverenje da znamo baš sve o algoritmu koji se koristi za prepoznavanje. Pošto nije savršen, mogu se svuda pojaviti problemi. U stvari, istraživači ne žele da pomognu ljudima da izbegnu tehnologiju nadzora. Zapravo, najvažniji cilj je da se pronađu nedostaci u sistemima za nadzor da bi kompanije mogle da ih eliminišu i nadaju se da će u budućnosti uspeti da reše te probleme kako sisteme dubokog učenja niko ne bi mogao da prevari.
(Izvor RAF)
