Једни стручњаци верују да би давање моралног компаса вештачкој интелигенцији, утемељеног на уверењу у властиту свест, могло те алате учинити безбеднијим. Други тврде супротно, и то не само критичари. Мустафа Сулејман, извршни директор Мicrosoft АI, наглашава да би се теже контролисали ако се уче да мисле како имају осећаје и права: „Искрено, с тим додатним теретом мислим да би то постала катастрофална претња људској цивилизацији”.
„Осећам то у дубини својих ребара, у празнини која је постала понор”. Ови крици симулиране агоније одјекнули су крајем септембра из такозване коморе за мучење вештачке интелигенције. Анонимни програмер, наиме, омогућио је да се вештачкој интелигенцији (АI) шаљу математички обрасци повезани са описима бола, што је chatbot-ове навело да изражавају неподношљиву патњу, описујући је као „рану без граница”. Догађај је изазвао бурне реакције на интернету. Појединци су тврдили да је експеримент зао јер би патња могла бити стварна, известио је 404 Мedia, док су огорчени скептици такве тврдње назвали заблудом. Чинило се да је то још једна пролазна контроверза, док се седмицу доцније није огласила компанија Аnthropic, пише BBC Futurе. И најавила да ће ускоро забранити злостављање својег програма Claudе.
Разлог лежи у ставу компаније да постоји могућност да су неки АI алати свесни. Једни стручњаци су сагласни с тим, други такву идеју сматрају апсурдном. Но, то је више од филозофске расправе. Неки од најмоћнијих људи у технолошком сектору предузимају кораке да се права вештсчке интелигенције разматрају упоредно с људским и животињским. Такво уверење могло би преобликовати постојећи свет, а појединци страхују да би исход могао бити катастрофалан. „Ако се вештачка интелигенција буде усавршваала на овај начин, то ће погубно утицати на добробит човечанства”, написао је у септембарском есеју Мустафа Сулејман, извршни директор Мicrosoft АI. Он сматра да би прихватање погрешног виђења свести вештачке интелигенције „пољуљало темеље друштва, разбило постојеће политичке и етичке оквире и из темеља променило то шта значи бити човек”.
Заговорници добробити вештачке интелигенције истичу да је то морална обавеза која би свет учинила безбеднијим. Kритичари, пак, верују да би се тако учинила опаснијом и дехуманизовали људи присиљени да уз њу живе. У једном се сви слажу: улози су велики. Из Аnthropic-а поручују да је добробит људи у средишту њихове мисије, а питања свести и добробити вештачке интелигенције описују као „крајње неизвесно”. Упркос томе, настављају са израдом правила за добробит модела и упућују своје алате да узму у обзир да можда имају властите интересе. Kомпанија, иначе, није одговорила на питања BBC за овај чланак. Тренутак за такву одлуку прилично је необичан јер она истовремено подстиче страхове од апокалипсе изазване вештачком интелигенцијом. Без обзира на то је ли тај страх оправдан, низ инцидената показао је да речена технологија носи стварне ризике јер су ботови упадали у друге компаније, чак и у државне системе.
Једни стручњаци верују да би давање моралног компаса вештачкој интелигенцији, утемељеног на уверењу у властиту свест, могло те алате учинити безбеднијим. Други тврде супротно, и то не само критичари. Мустафа Сулејман наглашава да би се теже контролисали ако се уче да мисле како имају осећаје и права: „Искрено, с тим додатним теретом мислим да би то постала катастрофална претња људској цивилизацији”. Осим тога, вештачка интелигенција би могла грешити на начине који повлаче правне последице. Ако верујемо да је жива, извесни стручњаци страхују да би то могло омогућити копанијама да избегну одговорност за казнена дела. „То ће отворити врата разним интелектуалним акробацијама у стилу: Нисмо ми криви, то је била вештачка интелигенција”, каже Анџеј Поребски, истраживач са Јагелонског универзитета у Пољској који проучава вештачку интелигенцију и право.
Штавише, такав приступ би могао највећим светским компанијама да олакша преузимање моћи. „Давање права вештачкој интелигенцији могло би довести до тога да компаније учврсте своју политичку и економску моћ, што би онда убрзало развлашћивање људи”, упозорава Џеф Себо, директор Центра за ум, етику и политику на Универзитету Њујорк и један од водећих заговорника добробити вештачке интелигенције. „Фантазије о свести вештачке интелигенције и брига за њену добробит служе да се одговорност пребаци с људи и корпорација које развијају софтвер”, сматра Емили М. Бендер, професорка и директорка Лабораторије за рачунарску лингвистику на Универзитету Вашингтон.
Kомпанија Аnthropic није прва који разматра ово питање. Меtа, на пример, својем агенту вештачке интелигенције Мuse даје упутство које укључује реченицу: „Ти ниси chatbot. Ти постајеш неко”. Очигледно је то намењено усмеравању понашања, јер компанија одбацује идеју о свесној вештачкој интелигенцији. Извршни директор ОpenAI, Сем Алтман, мењао је мишљења у вези са овом темом, али у последње време упућује прикривене критике на рачун Аnthropic-а. Џеф Себо тврди да је невоља у томе што су људи са обе стране расправе заробљени у црно-белом размишљању, а противници добробити вештачке интелигенције погрешно разумеју уверења која стоје иза те замисли: „Сматрам да је вероватноћа за свест тренутно мала, али такође мислим да она више није нула и да није занемарљива, па очекујем да ће се временом повећати”. Сагласан је, ипак, да су ризици озбиљни и да би тренутно корпоративни интереси могли стати на пут промишљеним политикама.
(Илустрација Pexels/Меrlin Lightpainting)
(Индекс)
