Такав подухват представља само део све већег броја „примера отпора”, односно физичких објеката који су направљени тако да се супротстављају све језивијем дигиталном надзору.
Научници на Нортистерн универзитету осмислили су узорак шаре који неповољно утиче на систем за препознавање лица чак и кад се налази на површини који се помера. У књизи Вилијема Гибсона „Гроф Нула”, главни лик облачи најружнију мајицу на свету – комад одеће најблесавијег изгледа који као магијом утиче на то да је онај што је носи потпуно невидљив за будно око надзорних камера. Данас, док земље широм света користе вештачку интелигенцију у надзорним системима да би пронашле, пратиле и надзирале људе, можда бисмо и ми могли да пронађемо неку нашу најружнију мајицу.
Насловница „Гроф Нула”
Научници на Нортистерн универзитету, MIT-у и IBM-у направили су мајицу која на предњој страни има калеидоскопску шару која чини особу која је носи потпуно невидљивом за вештачку интелигенцију. Такав подухват представља само део све већег броја „примера отпора”, односно физичких објеката који су направљени тако да се супротстављају све језивијем дигиталном надзору.
„Отпорашка мајица ради на принципу неуронских мрежа које се користе за детектовање објеката”, објашњава један од чланова тима на Универзитету и коаутор недавног извештаја о пројекту. У нормалним околностима, неуронска мрежа препознаје некога или нешто у слици и око ње црта оквир и том објекту додељује назив. Проналажењем тачака оквира неуронске мреже – граница на основу којих она одлучује да ли је нешто објекат или није – чланови истраживачког тима су могли да се примене обрнути процес да би направили узорак који ће збунити класификацију коју обавља мрежа вештачке интелигенције као и њен систем означавања и именовања.
Нико пре њих није успео да створи „пример отпора” који је направљен тако да буде одштампан на материјалу који се помера. Да би то урадили, користили су, како су га назвали, трансформатор – метод који мери како се мајица помера и то су мапирали на узорак шаре.
Када су се осврнули на две неуронске мреже које се уобичајено користе у сврху обучавања – YOLOv2 и Faster R-CNN – чланови тима су могли да идентификују делове тела где додавање буке пиксела може да збуни вештачку интелигенцију и тако доведе до тога да онај ко носи мајицу буде практично невидљив. То није први пут да се стварају објекти да би збунили и преварили вештачку интелигенцију.
Научници са Универзитета Карнеги Мелон и Северна Каролина направили су 2016. године, наочаре које могу да збуне технологију препознавања лица која је због тога погрешно класификовала особу што их носи. Амерички научници су 2017. године преварили дубоке неуронске мреже тако да су препознале знак за заустављање као знак за ограничење брзине на 60 километара на сат, тако што су му додали само неколико пажљиво изабраних графита.
Међутим, у тим претходним случајевима, „примери отпора” били су направљени на непокретним површинама. Много је теже применити такву процедуру за видео надзор јер, у том случају, прави изазов је омогућити да објекат буде недетектован током целог тока видео-садржаја. Кад процес детектовања пролази кроз сваку фреквенцију слике видео-садржаја, много је теже омогућити објекту да не буде детектован. За разлику „д знака” за заустављање, мајица се креће и савија при сваком покрету оног који је носи, што је тим истраживача морао да узме у обзир. Нико пре њих није успео да створи „пример отпора” који је направљен тако да буде одштампан на материјалу који се помера. Да би то урадили, користили су, како су га назвали, трансформатор – метод који мери како се мајица помера и то су мапирали на узорак шаре.
Истраживачи су снимили особу која хода и на себи носи мајицу са узорком шаховске табле и пратили сваки угао сваког квадрата табле да би прецизно мапирали како се савија и гужва док особа носи мајицу. Користећи ту технику, успели су да повећају избегавање детектовања са 27 процената на 63 процента кад су користили YOLOv2 неуронску мрежу, односно са 11 процената на 52 процента кад су користили Faster R-CNN неуронску мрежу.
Наравно, чланови тима су рекли да такве мајице сигурно нећемо видети у стварном животу јер постоји снажно уверење да знамо баш све о алгоритму који се користи за препознавање. Пошто није савршен, могу се свуда појавити проблеми. У ствари, истраживачи не желе да помогну људима да избегну технологију надзора. Заправо, најважнији циљ је да се пронађу недостаци у системима за надзор да би компаније могле да их елиминишу и надају се да ће у будућности успети да реше те проблеме како системе дубоког учења нико не би могао да превари.
(Извор РАФ)
