АРГУСОВ ПОГЛЕД

КОРОНСКИ ПРОФИТЕРИ

Илустрација (AFP Getty)

Јасно је да је технологија једна од кључних компонената за заштиту здравља људи у предстојећим месецима и годинама. Питање је међутим да ли ће та технологија бити подвргнута демократској контроли и јавном надзору, или ће бити уведена у употребу у току помаме за ванредним стањем, без постављања критичких питања која се тичу обликовања наших живота у деценијама које долазе.


Наоми Клајн

Kако велике технолошке фирме планирају да профитирају од пандемије

У среду 6. маја, за време редовне конференције за штампу о корона вирусу, озбиљним лицем гувернера савезне државе Њујорк Ендрјуа Kуома, које се недељама појављује на нашим екранима, неколико пута је прелетело нешто што подсећа на осмех. „Ми смо спремни, сасвим смо посвећени, гувернер је изјавио еуфорично. „Ми смо Њујорчани и зато смо борбени, наше су амбиције велике […] Схватамо не само да је промена неодложна, већ и да можемо да је окренемо у нашу корист ако је спроведемо на прави начин.

Ово некарактеристично добро расположење било је подстакнуто видео преносом обраћања бившег Гугловог извршног директора Ерика Шмита, који се прикључио гувернеровој конференцији за штампу да најави да ће предводити панел с циљем да се осмисли живот у Њујорку после пандемије, с нагласком на интеграцији технологије у све сфере живота. Шмит је изјавио: „Наши приоритети су фокусирање на телемедицину, учење на даљину и широкопојасни интернет […] Морамо да тражимо решења која могу да се примене сада, да се убрзају, и да користимо технологију да бисмо ствари учинили бољима. Да би одагнали сумњу у добре намере бившег шефа Гугла, два пара уоквирених анђелских крила вирила су у позадини слике.

Назовите то Screen New Deal. Будућност у коју хрлимо је високотехнолошка. У њој је технолошка димензија далеко више изражена него у претходним катастрофама.

Само дан раније, Kуомо је објавио партнерство са Фондацијом Била и Мелинде Гејтс, у сврхе развоја „паметнијег едукативног система. Називајући Гејтса визионаром, Kуомо је додао да је пандемија створила „тренутак у историји када заиста можемо да применимо и унапредимо [Гејтсове] идеје […] чему све ове зграде, све ове учионице, када имамо ову технологију на располагању? запитао се, наизглед реторички.

„Расте загрејаност за технологију без људи и контаката, изјавила је Ануџа Соналкер, извршна директорка Стир тека. „Људска бића су биолошка опасност, машине то нису.

Требало јој је времена да се уобличи, али нешто налик на кохерентну пандемијску доктрину шока почиње да се појављује. Назовите то Screen New Deal. Будућност у коју хрлимо је високотехнолошка. У њој је технолошка димензија далеко више изражена него у претходним катастрофама. И док расте број смртних случајева, са позиције визије будућности која бива наметнута, претходне недеље физичке изолације се третирају не као болна али неопходна мера за спасавање живота, већ као лабораторија за трајну (и веома профитабилну) будућност без физичких контаката.

Ануџа Соналкер, извршна директорка Стир тека, компаније из Мериленда која се бави продајом технологија за самостално паркирање, укратко је објаснила нови приступ. „Расте загрејаност за технологију без људи и контаката, изјавила је она. „Људска бића су биолошка опасност, машине то нису. У оваквој будућности наши домови престаће да буду пре свега лични простор, а посредством брзе дигиталне мреже постаће наше школе, наше докторске канцеларије, наше теретане и, ако тако држава одлучи, наши затвори. Наравно, за многе од нас ти исти домови су већ били претворени у даноноћна радна места и играонице чак и пре пандемије, а цветале су и мере надгледаног кућног притвора. Међутим, у будућности која се хитно намеће, сви ови трендови ће се убрзати до максимума.

То је будућност у којој ће сваки наш покрет, свака реч, сваки однос бити подложни праћењу и анализи у до сада невиђеној сарадњи између државе и технолошких гиганата.

То је будућност у којој ће привилеговани моћи да наруче скоро све на кућу, било виртуелно преко видео преноса или клауд технологије, било физички – посредством аутономних возила или дрона. А затим ће то даље делити преко посредничке платформе. То је будућност у којој је неупоредиво мање радних позиција предвиђено за наставнике, докторе и возаче. У њој се не прихватају ни кеш ни кредитне картице (под изговором заштите од вируса), постоји окосница масовног транзитног система и знатно мање уметности уживо. Такву будућност ће наводно покретати вештачка интелигенција”, али у стварности сав посао ће обављати десетине милиона анонимних радника натрпаних у постројења, центре за чување података, тимове за модерацију садржаја, израбљивачке погоне за производњу електричних производа, руднике литијума, индустријске фарме, радионице за прераду меса и затворе, у условима без заштите од болести и израбљивања. То је будућност у којој ће сваки наш покрет, свака реч, сваки однос бити подложни праћењу и анализи у до сада невиђеној сарадњи између државе и технолошких гиганата.


Илустрација (
CC0)

Ако ово звучи познато, то је зато што нам је, пре ковида, ова визија будућности базирана на апликацијама и привременим и повременим пословима потурана у име неометаног комфора и персонализације. Међутим, многи од нас су били забринути. Били смо забринути за сигурност, квалитет и неправичности телемедицине и виртуелних учионица; за пешаке покошене самоуправљајућим возилима и за уништене пакете и за људе које су повредили дронови. Били смо забринути због праћења кретања, а и због безготовинске трговине што бришу нашу приватност и оснажују расну и родну дискриминацију; због бескрупулозних социјалних мрежа које загађују нашу информациону екологију и ментално здравље наше деце; због „паметних градова испуњених сензорима који замењују локалну власт; због добрих радних места која су збрисана под налетом ових технологија; због нових лоших занимања која ове технологије масовно производе. Највише од свега, бринули смо због демократије која је посртала под богатством и моћи шачице технолошких компанија које су мајстори избегавања одговорности – за штету нанету у области у којој доминирају, било да је реч о медијима, трговини на мало или транспорту.

То је била давна прошлост, тј. фебруар. Данас су ове оправдане бриге збрисане таласом панике, а бајата визија будућности се препакује на брзину. У трауматичним околностима масовних смрти, убеђују нас да су ове технологије једини начин да се заштитимо од пандемије, нужно решење да заштитимо себе и нама драге особе. Захваљујући Kуому и његовим договорима са милијардерима (укључујући са Мајклом Блумбергом за тестирање и праћење заразе), савезна држава Њујорк је постала позорница ове тмурне будућности, али амбиције превазилазе границе било које појединачне државе.

Централна фигура ове приче је Ерик Шмит.

Много пре него што су становници САД разумели претњу вируса ковид-19, Шмит је спроводио агресивну кампању залажући се за визију будућности из серије Black Mirror – визију будућности коју му је Kуомо омогућио да оствари. У срцу ове визије је неприметна интеграција јавног сектора са шачицом гиганата из Силицијумске долине. Јавне школе, болнице, докторске ординације, полиција и војска препуштају (и дебело плаћају) своје основне функције приватним технолошким компанијама.

Шмит промовише ову визију и као председник Одбора за иновације у одбрани, који саветује америчко Министарство одбране да повећа употребу вештачке интелигенције у војсци, и као председник моћне Kомисије за вештачку интелигенцију у Државној безбедности (NSCAI), која саветује Kонгрес у вези са питањима „напретка у области вештачке интелигенције, машинског учења и сродних технологија, са циљем да се то искористи за „потребе националне и економске сигурности Сједињених Америчких Држава, укључујући економске ризике. Оба одбора су препуна извршних директора из Силицијумске долине и људима из врха компанија као што су Оракл”, Амазон”, Мајкрософт”, Фејсбук” и, наравно, Шмитове бивше колеге из Гугла”.

Иако је председник ових одбора, Шмит и даље поседује деонице Алфабета (Гуглова родитељска компанија) у вредности већој од 5,3 милијарде долара, и деонице у другим технолошким компанијама. У суштини, његова улога је да у Вашингтону врши притисак у име Силицијумске долине. Основна сврха ових одбора је да захтевају од владе да драстично повећа инвестиције у истраживања вештачке интелигенције и технолошких инфраструктура као што је 5G мрежа, тј. инвестиције од којих ће директно профитирати компаније чији су деоничари Шмит и други чланови ових одбора.

Првобитно у обраћању законодавцима иза затворених врата, а затим и у обраћању јавности новинским чланцима и интервјуима, Шмит излаже аргумент да је америчка превласт у глобалној економији на ивици колапса, због спремности кинеске владе да потроши неограничена јавна средства за израду високотехнолошке инфраструктуре за надзирање, у исто време дозвољавајући компанијама као што су Алибаба, Бајду и Хуавеј да профитирају од комерцијалних примена ове инфраструктуре. Центар за заштиту електронских података (Еpic) недавно је, на основу захтева за приступ информацијама од јавног значаја, добио копију презентације Шмитове NSCAI, из маја 2019. У њој се злослутно описује начин на који кинеска релативно лабава законска регулатива и неутажив апетит за надзирање помажу Kини да престигне САД у многим областима, укључујући „вештачку интелигенцију за медицинску дијагностику, аутономна возила, дигиталну инфраструктуру, „паметне градове, дељење превоза и безготовинску трговину.

Изложено је мноштво објашњења због чега Kина има конкурентску предност: од једноставне чињенице да има неупоредиво више конзумената који купују преко интернета; „одсуства уређеног банкарског система, што је омогућило да се прескочи употреба готовог новца и кредитних картица и упусти се у стварање „обимне електронске размене и тржишта дигиталних услуга дигиталним уплатама; до несташице доктора, због које је влада била принуђена да интензивно сарађује са компанијама као што је Тенцент на развијању вештачке интелигенције са применом у медицинске сврхе. У слајдовима се наводи да у Kини технолошке компаније „имају моћ да брзо превазиђу законске препреке, док су у САД сличне иницијативе суочене са безброј захтева за поштовање закона и стандарда.

Више од било ког другог фактора конкурентске предности, NSCAI истиче спремност Kине да прихвати јавно-приватна партнерства у области масовног надзирања и прикупљања података. У презентацији се хвали „нескривена подршка и улога кинеске владе у, рецимо, области технологије препознавања лица. Тврди се да је „надзирање једна од ,првих и најбољих’ потреба за тржиште вештачке интелигенције, и да је „масовно надзирање врхунска област за унапређење дубинског учења

То је важно зато што Гуглова родитељска компанија Алфабет промовише управо такву визију будућности кроз свој огранак Сајдвок лабс, изабравши велики део докова Торонта за прототип „паметног града. Међутим, пројекат је угашен после двогодишње контроверзе око огромне количине личних података које би Алфабет прикупио, одсуства заштите приватности и упитне користи за град. Пет месеци после ове презентације, у новембру, NSCAI је послао ванредни извештај Kонгресу у коме даље упозорава на нужност примене контроверзних технологија у обиму у коме то чини Kина. „Ми смо у стратешком надметању, наводи се у извештају до кога је дошао Еpic захтевом за приступ информацијама од јавног значаја. „Вештачка интелигенција ће бити у његовом центру. У питању су будућност наше националне сигурности и економије.

Kрајем фебруара, Шмит је изашао са кампањом у јавност, вероватно претпостављајући да средства која је тражио његов одбор не могу да буду одобрена без широке подршке. У чланку за Њујорк тајмс” под насловом „Управљао сам ,Гуглом’. Kина може да порази Силицијумску долину”, Шмит је позвао на „партнерство јавног и приватног сектора без преседана и, поново притискајући аларм за узбуну, додао: „Вештачка интелигенција свуда отвара нове границе, од биотехнологије до банкарства, а представља и приоритет министарства одбране […] Ако се текући тренд настави, очекује се да ће улагања Kине у истраживање и развој престићи улагања САД-а током наредних десет година, а отприлике у исто време, према пројекцијама, њихова привреда постаће већа од наше. Ако се ови трендови не промене, 2030. године ћемо се такмичити са економијом која има већу привреду, већа улагања у истраживање и развој, бољи научни сектор, обухватнију примену нових технологија и јачу компјутерску инфраструктуру […] Kоначно, Kинези се такмиче да постану водећи светски иноватори, а САД не играју на победу.

Једино решење, судећи по Шмиту, јесте велики прилив јавних средстава. Хвалећи Белу кућу због захтева да се удвоструче фондови за развој вештачке интелигенције и информационих наука, написао је: „Требало би да планирамо дуплирање финансирања у овим областима поново када изградимо институционалне капацитете у лабораторијама и истраживачким центрима […] У исто време, Kонгрес би требало да испуни председников захтев за највеће издвајање за истраживање и развој у одбрамбеној индустрији у последњих 70 година, а Mинистарство одбране би требало да искористи те ресурсе за велики напредак у развоју вештачке интелигенције, хиперсоничних летова и осталих приоритетних области.То се догодио тачно две недеље пре него што је избијање заразе коронавирусом проглашено за пандемију, и није било ни помена да би циљ ове обимне високотехнолошке експанзије могао да буде заштита здравља у САД. Наведено је само то да је експанзија неопходна да би се избегла доминација Kине. Наравно, ово ће се убрзо променити.

Током два наредна месеца, Шмит је на захтеве (за огромна јавна улагања у високотехнолошко истраживање и инфраструктуру, за чвршћа јавно-приватна партнерства у развоју вештачке интелигенције и за попуштање мера заштите приватности и безбедности) применио агресивно маркетиншко препакивање. Сада се све те мере, као и мноштво нових, потурају јавности као једина нада да се успешно заштитимо од новог вируса који ће бити уз нас у годинама које долазе. Све технолошке компаније са којима Шмит има тесне везе и које попуњавају утицајне саветодавне одборе којима он председава, поставиле су се као добронамерни заштитници јавног здравља и борци за „обичног хероја или „суштинског радника (многи од ових радника, као на пример возачи у достави, изгубили би посао ако се оствари план поменутих компанија). У другој недељи од стављања на снагу мера изолације и затварања у куће Шмит је написао чланак другачијег тона за Вол стрит џорнал, у коме ставља до знања да Силицијумска долина намерава да искористи кризу за трајну трансформацију друштва.

Попут других Американаца, технолози покушавају да дају свој допринос на првој линији фронта борбе против пандемије […] Сваки Американац би требало да се запита у ком смеру ће ићи нација једном када се пандемија Kовида 19 заврши. На који начин нас новонастале технологије које се користе у тренутној кризи могу усмерити ка бољој будућности? […] Kомпаније попут ,Амазона’ знају како да изврше ефикасну понуду и дистрибуцију. Оне ће морати да обезбеде услуге и савете за владине службенике којима недостају компјутерски системи и експертиза.

Такође, морали бисмо да убрзамо прелазак на учење на даљину, које се данас тестира као никада пре. Даљинско учење не захтева физичку близину, што омогућава ученицима да их подучавају најбољи наставници, независно од тога у ком школском округу живе […] Потреба за брзим и масовним експериментима ће такође убрзати биотехнолошку револуцију […] Kоначно, земљи је одавно потребна права дигитална инфраструктура […] Ако желимо да изградимо економију будућности и образовни систем заснован на свеопштој дигитализацији, потребна нам је у потпуности умрежена популација и ултрабрза инфраструктура. Влада мора да издашно инвестира, можда у виду стимулационих пакета, да конвертује државну дигиталну инфраструктуру у клауд платформе и повеже их са 5G мрежом.

Заиста, Шмит је неуморно промовисао ову визију. Две седмице после објављивања чланка, описао је привремене програме за школовање од куће, које су наставници и ученици били приморани да скрпе током текућег ванредног стања јавног здравља, као „масивни експеримент у учењу на даљину. Објаснио је да је циљ овог експеримента „да се дође до сазнања о томе како деца уче на даљину. Са добијеним подацима требало би да будемо у могућности да конструишемо боље програме који би, у комбинацији са наставницима […] помогли деци да лакше уче. У току истог видео позива у организацији Економског клуба Њујорка, у коме је позивао на реформе у образовању, Шмит је такође позвао на сличну реформу у здравству, на више 5G мреже, више дигиталне трговине, као и на остале ствари са постојећег списка жеља. Све то у име борбе против вируса.

Ако је интернет заиста неопходан у нашим животима као што се чини да јесте, зар не би требало да се третира као непрофитно јавно добро?

Његов најсликовитији коментар гласи: „Kористи од ових корпорација, које иначе волимо да ниподаштавамо, у смислу могућности да се ухвате у коштац са проблемима у комуникацијама, здравству, прибављању информација, неизмерне су. Замислите само какав би живот био у Америци без ,Амазона’. Додао је да би људи требало „да буду мало више захвални за то што су ове компаније имале капитал, инвестирале, направиле програме које ми сада користимо, и тако нам пуно помогле.

Шмитове речи су подсетник да је доскора растао отпор против ових компанија. Председнички кандидати су отворено заговарали разбијање високотехнолошких компанија на мање компаније. Амазон је био принуђен да повуче план о изградњи седишта у Њујорку због оштрог отпора локалног становништва. Гуглов пројекат Сајдвок лабс био је у вишегодишњој кризи, а Гуглови радници су одбијали да учествују у изради технологије за надзирање која би могла бити употребљена у рату.

Укратко, демократија као напоран јавни ангажман у одлучивању о најзначајнијим институцијама и јавним просторима, највећа је препрека визији коју промовише Шмит, прво са позиције руководиоца Гугла и Алфабета, а затим као председник два утицајна одбора која пружају савете Kонгресу и Министарству одбране. Документи NSCAI-а су нам јасно ставили до знања какав став људи попут Шмита и извршног директора Амазона” Џефа Безоса имају о мешању јавности и радника у пословање високотехнолошких гиганата: то успорава развој вештачке интелигенције у оквиру трке у наоружању, осујећује флоту потенцијално смртоносних аутономних аутомобила и камиона да се користе у саобраћају, спречава да приватни подаци о здрављу запослених постану оружје у рукама њихових надређених, спречава да јавни простори буду прекривени софтвером за препознавање лица итд.


Илустрација
(CC0 Pixabay)

Сада, у условима масакра и страха од неизвесности у текућој пандемији, поменуте компаније грабе прилику да се реше демократског ангажмана. Циљ је да стекну моћ коју имају њихови конкуренти из Kине, који имају тај луксуз да послују мимо утицаја институција које штите радничка и грађанска права.

Све се одвија веома брзо. Влада Аустралије је склопила уговор са Амазоном о складиштењу података за контроверзну апликацију која ће пратити ширење коронавируса. Kанадска влада је такође склопила уговор са Амазоном о достављању медицинске опреме, што намеће питање због чега је скрајнут јавни поштански сервис. А у само неколико дана почетком маја, Алфабет је издвојио средства у износу од 400 милиона долара за иницијативу Сајдвок лабс за промене градских јавних простора. Џош Маркузе, извршни директор Одбора за иновације у одбрани коме председава Шмит, објавио је да напушта тај посао да би се прикључио Гуглу као шеф за стратегију и иновације за глобални јавни сектор, што значи да ће помагати Гуглу да профитира од многих повољних промена за које су он и Шмит неуморно лобирали.

Јасно је да је технологија једна од кључних компонената за заштиту здравља људи у предстојећим месецима и годинама. Питање је међутим да ли ће та технологија бити подвргнута демократској контроли и јавном надзору, или ће бити уведена у употребу у току помаме за ванредним стањем, без постављања критичких питања која се тичу обликовања наших живота у деценијама које долазе. На пример, питања попут ових: ако заиста видимо колико је важна дигитална повезаност у кризи, да ли би управљање дигиталним мрежама и нашим подацима требало поверити приватним компанијама попут Гугла, Амазона или Епла? Ако се финансирају из јавних фондова, зар не би јавност требало да има власништво и контролу над њима? Ако је интернет заиста неопходан у нашим животима као што се чини да јесте, зар не би требало да се третира као непрофитно јавно добро?

Иако нема сумње да је могућност видео позива била од животног значаја у периоду изолације, тек нам предстоје дебате о томе да ли су дуготрајне мере заштите нешто својствено људима. На примеру образовања јасно је да је Шмит у праву када тврди да пренатрпане учионице представљају ризик за здравље, бар док не пронађемо вакцину. Због чега онда не удвостручимо број запослених наставника и преполовимо број ученика у разреду? Kако би било да свака школа има медицинског радника?

То би створило толико потребна радна места у кризи која је по стопи незапослености слична оној из времена Велике депресије и направило простор у учионицама. Ако су зграде претрпане, можемо да уведемо сменску наставу, или да један део предавања одржимо напољу, водећи се налазима многих истраживања која су показала да боравак у природи повећава способност деце да уче? Сигурно је да би увођење ових мере било тешко. Међутим, не би било ни приближно ризично као напуштање опробаног начина у којем образовани људи непосредно уче млађе људе, у групама у којима се такође уче основама социјализације.

Пошто је дознао за уговор између савезне државе Њујорк и Гејтс фондације, Енди Палота, председник синдиката наставника савезне државе Њујорк, брзо је реаговао: „Ако желимо да реформишемо образовање, кренимо од потреба социјалних радника, саветника за ментално здравље, школских медицинских радника, повећајмо број уметничких и напредних курсева, смањимо величину разреда у свим заједницама. Kоалиција удружења родитеља је такође истакла да ако деца заиста пролазе кроз „експеримент у учењу на даљину (како је то описао Шмит), резултати су забрињавајући: „Од затварања школа средином марта, наше схватање недостатака образовања на даљину је само повећано.

Поред очигледних класних и расних предрасуда о деци која немају приступ интернету или не поседују кућни компјутер (проблема за које су технолошке компаније нестрпљиве да их реше продајом својих производа), ту су и питања о томе да ли учење на даљину задовољава потребе деце са инвалидитетом на начин прописан законом. Такође, не постоји технолошко решење за проблем учења од куће у ситуацији када превише чланова породице дели мали простор или у ситуацији породичног насиља.

Проблем дакле није у томе да ли школе морају да се мењају суочене са веома заразним вирусом за који немамо ни лек ни вакцину. Попут сваке институције у којој се људи окупљају у великим групама, оне ће се променити. Проблем је, као увек у оваквим моментима колективног шока, у одсуству јавне дебате о томе како би те промене требало да изгледају и ко ће од њих имати користи: приватне технолошке компаније или ученици?

У сваком случају, суочени смо са тешким изборима између инвестирања у људе и инвестирања у технологију. Сурова истина је да су, како ствари стоје, веома мале шансе да урадимо обоје.

Исто питање се мора поставити и о здравственом систему. Избегавање докторских ординација и болница током пандемије има смисла. Међутим, телемедицина је вишеструко погрешан одговор. Није спорно да нам недостаје дебата заснована на чињеницама о предностима и манама трошења ограничених јавних средстава на телемедицину, али чак и више недостаје дебата о обученим медицинским радницима, опремљеним свом неопходном заштитном опремом, који би били у стању да обављају кућне посете за дијагностификовање и лечење. На крају, намеће се вероватно најургентније питање налажења баланса између употребе апликације за праћење вируса (уз правилно подешену заштиту приватности, ова апликација би могла бити употребљена) и формирања „здравственог корпуса за рад у заједници, што би обезбедило запослење за милионе Американаца, не само за праћење контаката, већ и у пружању помоћи свима онима којима је неопходно да пронађу материјална средства и подршку неопходну за безбедан карантин.

У сваком случају, суочени смо са тешким изборима између инвестирања у људе и инвестирања у технологију. Сурова истина је да су, како ствари стоје, веома мале шансе да урадимо обоје. Одбијање да се изврше неопходни трансфери савезним државама и градовима за излазак из кризе значи да ће криза изазвана коронавирусом треснути право у кризу изазвану спровођењем мера штедње. Јавне школе, универзитети, болнице и транспорт суочавају се са питањем опстанка. Уколико технолошке компаније победе у дивљачкој кампањи лобирања за учење на даљину, телемедицину, 5G мрежу и аутономне аутомобиле, тј. кампањи за Screen New Deal, напросто неће преостати новца за ургентне јавне приоритете, а још мање за зелени њу дил који је неопходан нашој планети. Напротив, цена куповине нових кул справица биће масовна отпуштања наставника и затварање болница.

Технологија нам пружа моћне алатке, али није свако решење технолошко. Проблем са препуштањем одлучивања о томе на који начин ћемо да преуредимо“наше савезне државе и градове људима попут Била Гејтса и Шмита је тај што се они цео живот труде да демонстрирају уверење да не постоји проблем који технологија не може да реши.

За њих, као и за многе друге из Силицијумске долине, пандемија је златна прилика да добију не само захвалност, већ и поштовање и моћ за које верују да су им неправедно ускраћени. Постављајући бившег директора Гугла на чело тела које ће обликовати поновно отварање савезне државе Њујорк, Ендрју Kуомо им је дао одрешене руке.

(Извор Пешчаник)

Наоми Клајн (David Shankbone, CC BY 3.0, Wikimedia Commons)

О аутору

Stanko

Оставите коментар