Технолошки развој довешће до рањивости људске цивилизације јер ће бити могуће створити најмоћније оружје код куће. То је мишљење шведског филозофа и професора на Универзитету у Оксфорду Ника Бустрома. У програму РТ „Софи ко. Визионари” он саветује како се припремити за тренутак када вештачка интелигенција постане паметнија од људи.
Суштина хипотезе о рањивом свету је у томе да ће у одређеној фази технолошког развоја стварање моћне разорне силе постати сувише лако, а чим цивилизација достигне тај ниво развоја, доћи ће и до њеног самоуништења. Замислите да је за стварање нуклеарног оружја, уместо коришћења тешко приступачних сировина као што су плутонијум или обогаћени уранијум, довољно само подгрејати песак у микроталасној пећи. Тада би вероватно био крај цивилизације, каже Бустром. Шта кад вештачка интелигенција постане паметнија од људи?
Да ли ће вештачка интелигенција постати паметнија од нас?
– На крају хоће. А у том тренутку мораћемо некако да гарантујемо да ће ти системи наставити да функционишу у складу са нашим планом. Чак и када нас интелектуално надмаше. То је технички проблем, који треба решити техничким средствима. Међутим, чак и да буде решен, остаје политички или организациони проблем – назовите то како хоћете. Рецимо, људи могу да натерају вештачку интелигенцију да ради оно што је њима потребно, али како осигурати да ће те нове моћне технологије бити коришћене за добробит, а не као оруђе за рат и експлоатацију. А то већ није технички, него политички проблем.
Ник Бостром (Википедија)
У многим савременим прогнозама помиње се долазак „судњег дана“, тј. тренутка када ће вештачка интелигенција заробити човечанство. Међутим, постоје и они који верују у супротно, да ће нам она помоћи да решимо много проблема као што су глад, неједнакост, глобално загревање… Шта ви мислите?
– Истина је негде на средини. То је попут врата кроз која морате проћи. На другој страни је пут који ће нас одвести у заиста сјајну будућност. Ако до тог тренутка не дође до самоуништења, онда ће се прелазак догодити. Дакле, наш задатак је да се фокусирамо на истраживања, да претражимо глобалне методе контроле вештачке интелигенције, да светски ред доведемо до максимално оствариве адекватности и појачамо сарадњу. Нарочито је важно да стручњаци за вештачку интелигенцију израде заједничке стандарде. Са разумевањем да се то ради за опште добро. Генерално гледано, морамо постати разумнији.
Чак и уз тоталну контролу будућност се не може предвидети. Наравно, могуће је пратити све активности људи, али ће они и под надзором проналазити ствари чија се разорна моћ неће ни наслутити док се не деси нешто ужасно. То што неко то прати ништа неће спречити.
– Ако претпоставимо да ће свет у одређеној фази технолошког развоја постати рањив, поставља се питање шта у тој ситуацији можемо учинити да спречимо разарање свега живог. И чини се да би у неким сценаријима једино могуће решење било свеопшти надзор. Наравно, сам по себи тотални надзор такође представља ризик за људску цивилизацију, јер ће омогућити да различити тоталитарни режими делују још ефикасније.
Константни надзор је сам по себи карактеристичан за тоталитарни режим...
– Зависи од тога у које сврхе се користе добијене информације. Ако их прикупљају да би централизована власт у потпуности контролисала свачији живот, онда ће то свакако бити тоталитаризам без преседана. Међутим, уз пасивно посматрање људи би наставили да воде обичан живот. Мере би се предузимале само у случају да неко покуша да створи оружје за масовно уништење. У таквој ситуацији ово не би изгледало као ужасни тоталитаризам.
Да ли је то изводљиво? Људи који би били на челу тог програма, нашли би се у искушењу да га користе у своје сврхе. Таква је људска природа…
– Наравно, чак и да се изгради добро проверен систем за масовни надзор теоретски ће се појавити претња да ће одмах или ускоро он пасти у руке недобронамерних грађана који ће га користити за свакојаке притиске. Ово је један од главних разлога за сумњичавост према технологијама за надзор, што је у принципу оправдано. Ипак, то није питање нашег избора – свет тако функционише да у одређеној фази технолошког развоја постаје знатно лакше уништити, него створити или заштитити. И у таквој ситуацији може се испоставити да је једини начин за спречавање самоуништења – проверени масовни надзор.
Мноштво је примера да људски пороци и неорганизованост побеђују било каква ограничења и норме, као трава која расте кроз асфалт…
– Како процес производње оружја буде постајао једноставнији и захтевао све мање тешко доступних сировина, људских ресурса и простора, биће све теже открити претње уз помоћ тренутних технологија. Мада се и ова област брзо развија. Софтвер за препознавање лица омогућава да се уз помоћ камера прати било ко. Можете чак замислити (ово је екстремни случај само да би се демонстрирала теоретска могућност) да ће сви облачити одећу одређених боја и имати на себи камере и микрофоне – тада ће систем вештачке интелигенције моћи да прати и класификује све ваше активности.
Илустрација (Пиксабеј)
Вештачка интелигенција збуњује јер су је створили људи који су у суштини несавршена бића. Ако су несавршена бића изумела вештачку интелигенцију, имитирајући свог творца, онда је овај производ такође несавршен, што значи да ће пре или касније нешто пропустити.
– Као прво, он не имитира човека. А као друго, у зависности од конкретне ситуације, можда неће бити неопходно надгледати апсолутно све. Тренутне могућности државних органа су наравно јако ограничене, али већ је приметан озбиљан напредак у употреби вештачке интелигенције за препознавање нечег – лица или одређених активности. Претпоставке су да ће за 10-20 година те технологије постати прилично озбиљан инструмент.
Односно, човечанство неће добровољно прећи под контролу машина…
– Постоје варијанте развоја догађаја, током којих ће рањиви свет бити или уништен или обухваћен системом за надзор. У зависности од коришћене технологије за надзор, рад тог система се може одвијати на различите начине, што значи да он може бити и максимално аутоматизован. Међутим, у блиској будућности је загарантовано људско учешће. На пример, за контролу резултата рада система и за одређивање мера за реаговање.
Пре хипотезе о рањивом свету сте имали другу хипотезу према којој сви ми можда живимо унутар одређене матрице…
– Да, хипотеза симулације. Циљ дискусије је да се покаже тачност једне од три тврдње. Прва тврдња: све цивилизације у нашој тренутној фази технолошког развоја изумиру пре достизања технолошке зрелости. Можда постоје неке далеке, другачије, ванземаљске цивилизације, али ниједна од њих није достигла технолошку зрелост. Друга варијанта: све цивилизације које су достигле технолошку зрелост губе интерес за стварање онога што ја називам „симулација предака”. Рачунарска симулација која је довољно детаљна да би људи имали свест и бриге, сличне нашима. Трећа варијанта (по мом мишљењу највероватнија): сада готово сигурно живимо у рачунарској симулацији коју је створила нека напредна цивилизација.
(Извор Спутњик)
Цивилизација. Не, ми не живимо у цивилизацији, ма колико то пута изговорили. Човеков егоцентризам је толико велики да себе увек види не само да је достигао ниво цивилизације него још страшније, да је његов достигнути развој крајњи домет људског развоја.
Филозоф и професор Ник Бустром је размишљајући о технолошком развоју и вештачкој интелигенцији врло јасно приказао да, не да нисмо достигли цивилизацијски ниво развоја већ да смо и даље заточени у култури терора. При томе не мислим на тероризам који је мали извадак из опште слике терора. И рекао бих његова јасна последица. И професор Бустром размишља као истински представник културе терора. Он нам предочава могуће путеве технолошког развоја који би произвеле све већи (неоправдани) глобални терор зарад сузбијања потенцијалног, свакако не оправданог, појединачног терора. Дакле, он не види могућност промене човека, његовог даљег развоја, јер је, не само по њему већ и по већини која се бави вештачком интелигенцијом, већ досегао свој коначни развој. Људи се не могу даље развијати јер су несавршени. Бог је био у стању само такве да их створи. Несавршене. Али зато људски егоцентризам омогућава човеку, кад је већ Бог заказао, да они створе савршеност. Вештачку интелигенцију. Већу од људске. И то не само људске. Не савршеност проширују и на, ако не на сваку а оно на већину, ванземаљске, „не вештачке“ интелигенције.
Није проблем у технолошком развоју па ни у развоју вештачке интелигенције, како данас волимо да се разбацујемо звучним називима. Како то моћно звучи: вештачка интелигенција. Машине које прикупљају и обрађују податке по параметрима које им је задао ЧОВЕК. Али и човек који засигурно оставља свој „ментални отисак“ у вештачкој интелигенцији. Ако тај „ментални отисак“ потиче из културе терора, онда свакако да је оправдан човеков страх од машина.
Нигде у тексту ни назнаке да би човек могао да изгради културу људскости, човечности. Па да крене ка (достижној) утопији званој демократија. А негде, далеко, далеко требалo би моћи и (развојно) да се стигне и до следеће утопије, за данашњег човека и мисаоно недокучиве, цивилизације.
Али ако мислимо да се налазимо тамо где нисмо а не видимо где јесмо, наравно да не можемо више напред. Не знамо шта да мењамо.
Кад човек схвати што му није потребно да има да би био човек, онда можемо причат о некој цивилизацији.