Razvojem kretanja i izgleda robota, a posebno njegove umjetne inteligencije s određenim oblikom osjećaja mijenjati će se i pojam robota. Dok je pojam čovjeka-robota predstavljao neki oblik kritike ponašanja i rada čovjeka, možda će novi pojam robota-čovjeka biti rezerviran za izuzetnu sposobnost, preciznost i znanje.
Prof. dr Gojko Nikolić
Ne ulazeći u mnoga rješenja čovjekolikih pokretnih figura koje su se izrađivale više od 1.000 godina, a često navodile kao preteče robota, namjera članka je opisati i rasvijetliti samo događanja od prvog uređaja nazivanog robotom i stalne transformacije pojma robot.
Sigurno je da je svaki robot stroj, ali svaki stroj nije robot! Njega od strojeva, bili oni automatizirani ili ne, dijele tri ključna elementa: senzori koji daju informaciji o promjenama u okolini stroja (bez obzira na što se one odnose), računalo koje procesuira dobivene informacije i donosi odluke, te izvršni elementi (aktuatori) koji izvršavaju donesene odluke pri čemu mijenjaju sebe ili okolinu, neovisno kakve te promjene bile.
Robot je od nastanka tog imena i zamisli što on jeste, doživio velike transformace ne samo tehničke, već i pojmovne. Promjene su nastale razvojem tehnike i društva. Pri tome su neki pojedinci imale presudnu ulogu, ali često se zanemaruje njihov utjecaj ili netočno navodi. Valja istaknuti njihovu ulogu. Poticaj za pisanje ovog članka je tekst „AI neće uništiti ljude, roboti dolaze u miru”, objavljen 13. veljače 2020. u ZG-magazinu. Naime ekipa The Guardian-a naručila je esej od umjetne inteligencije, moćnog jezičnog generatora Open AI GPT-3. Za ovaj esej GPT-3 je dobio upute od te ekipe. U umjetnu inteligenciju GPT-3 podatke je unio Liam Porr, student informatike na Sveučilištu Berkeley. Jedan od „bisera” koji je unio „da je robot grčka riječ koja znači robovi, zapravo doslovno da znači prisiljen raditi”. Neovisno o neznanju tog studenta, robot je jedna od značajnih suvremenih riječi koja dolazi iz slavenskog jezika, a ne od latinskog, grčkog ili engleskog što je možda nekima neprihvatljivo ili nepojmljivo.
1. Naziv robot
O nastanku riječi robot ima više navoda, makar su činjenice poznate. Češki pisac Karel Čapek napisao je 1920. znanstveno fantastičnu dramu R.U.R. – Russumovi univerzalni roboti, koja je premijerno izvedena na amaterskoj sceni Klicperovog divalda u Hradci Kralove 2. siječnja 1921, [1] a nakon toga u 25. siječnja 1921. u praškom Narodnom kazalištu, slika 1. Ta izvedba u Pragu obično se navodi kao praizvedba te drame. Ove godine se navršava 100 godina plasiranja riječi robot. [2, 3]Radnja drame se odvija u bliskoj budućnosti (po nekima krajem 20. stoljeća) na bezimenom otoku, izoliranom od ostatka svijeta.
a) b)
Sl. 1. a) Karel Čapek je 7 puta nominiran za Nobelovu nagradu za književnost, b) Fotografija s predstave R.U.R.
Stari znanstvenik Rossum pokušavao je sintezom imitirati živu tvar, poznatu kao protoplazma. Nakon dugotrajnog eksperimentiranja otkrio supstancu koja se ponašala kao živa tvar, iako je bila drugog kemijskog sastava. [1] Želio je stvoriti živa bića pa je prvo pokušao sa stvaranjem životinja. Njegov mladi nećak inženjer Russum vidio je priliku da se obogati stvaranjem umjetnog čovjeka –robota koji bi besplatno radio u tvornici. Bio je izuzetno inteligentan i nastavio je s tim eksperimentima. Svog ujaka koji se protivio tomu zatvorio je u laboratorij u kojem je i umro. Inženjer Russum započeo je s masovnom proizvodnjom robota u tvrtki Rossum Universal Robots. Ti roboti, kako je rečeno, nisu metalni čovjekoliki strojevi koji rade pokretani motorima i baterijama, već humanoidne biološke jedinke slične čovjeku. „Izrađeni” su od te umjetne „protoplazme” koja se mogla „oblikovati” poput drugih materijala. Od njih su se „izrađivali” svi dijelovi tijela kao što su umjetni živci, tetive, kosti, mišići, srce, pluća, mozak i drugi organi. Izrađivali su se i muški i ženski modeli. Imali su mozak koji može brzo razmišljati poput računala i pohraniti velike količine podataka, ali su bili lišeni osjećaja. Mladi Russum je osmislio radnike koji imaju najmanji broj potreba. Pojednostavnio ih je, odbacivši sve što ne ide u korist rada. Time je zapravo odbacio čovjeka a napravio robota. [1] Potpuno su ravnodušni prema svojoj sudbini, čak i kada ih se rastavlja na dijelove. Ne osjećaju bol. Novi, umjetno stvoreni, radnici su idealni, nemaju osjećaje i ne plaća ih se, nemaju nikakve zahtjeve. Prodaju se na tržištu jer mogu obavljati sve poslove. Jedan robot zamjenjuje dva i pol radnika. Roboti se koriste osim kao radnici još i kao vojnici. Bili su u ratovima nemilosrdni. [1]
Sve se zakomplicira dolaskom mlade žene Helena Glory, koja je predsjednica „Prorobotske lige čovječanstva”. Ona je ta koja je slučajno izazvala pobunu jer je potajno nagovorila glavnog fiziologa tvrtke Dr. Galla da robotima dade emocije. Željela je da se roboti i ljudi mogu bolje razumjeti. Dobivši emocije roboti ispoljavaju bijes, mržnju i žudnju za moći i osvetom prema svojim stvarateljima, koje potpuno uništavaju. U proglasu navode čovjeka neprijateljem i odmetnikom, s naredbom da ih roboti sve ubijaju. Glavni robot Damon kaže: „Morati ubijati i gospodariti ako hoćete biti kao ljudi. Čitajte povijest. Čitajte knjige ljudi.” [1]
Roboti su na kraju pobili sve ljude osim Alquista, građevinara, šefa izgradnje RUR-a i suočili se sa vlastitom propašću. Nagovještena je nada nastavka života s ovim umjetnim ljudima jer muški i ženski roboti počinju pokazivati nježne osjećaje jedni prema drugima, a implicira se da bi se mogli reproducirati prirodnim putem. [1]
RUR je postala vrlo uspješna predstava. Nakon Praga u roku od dvije godine prikazana je u kazalištu St Martin’s u Londonu i kazalištu Garrick u New Yorku. Isto tako prikazivala se u Poljskoj, Njemačkoj pa i Kraljevini SHS. Već 1938. postala je prvi povijesni televizijski program znanstvene fantastike kada je BBC emitirao skraćenu verziju. [1, 2]
Karel Čapek je ta umjetna bića, koja rade u industriji, nazvao robotima. Vlada uvjerenje da je taj izraz izmislio Karel Čapek, što nije istina. On je sam govorio o nastanku tog imena. Njegov brat Josef, književnik i slikar, koji je s Karelom često diskutirao o idejama i tekstovima budućih pripovijedaka i drama, na njegovo pitanje kako da nazove te umjetno stvorene radnike predložio je da ih nazove robotima. Robot, robotnik je češka riječ koja označava čovjeka koji radi težak, prisilni, mukotrpan posao. Treba naglasiti da je ta riječ bila prisutna u svim (staro)slavenskim jezicima među kojima je i južnoslavenski. Kod najpoznatijeg Vrančićevog petojezičnog rječnika1 navodi se za latinski: laborare – dalmatinski (hrvatski): rabiti, texati. Još precizniji je sedmojezični rječnik benediktinca Petra Lodereckera2, koji je na sadržaj Faustovog rječnika dodao još riječi češkog i poljskog jezika. U stupcu dalmatinskog jezika navedene su riječi: rabota (radnja) i rabotnik (osoba koja radi). [4]
Interesantno je da je Karel imao druge prijedloge za te umjetno stvorene radnike među kojima i naziv labori (eng. Labor– rad), ali je pristao na prijedlog svog brata.
Poticaj za pisanje te drame bila je spoznaja da se svijet znanosti i tehnike nakon Prvog svjetskog rata brzo razvija. Rat je ubilačkom učinkovitošću usmrtio velik dio generacije, uništio cijela carstva, pokrenuo nove društvene promjene. Pretvorio Sjedinjene Američke Države od usnulog diva u novonastalu velesilu. Bilo je to i vrijeme Henry-ja Ford-a i njegovih visokoserijskih proizvodnih traka na kojima su izlazile tisuće jeftinijih automobila. Svijet je bio prepravljen novim tehničkim proizvodima poput telefona, bežične telegrafije, radija, prvih televizora, zrakoplova, plastičnih proizvoda i niza drugih. [2] Došlo je do procvata društva ali i opasnosti otuđivanja čovjeka. Sve se gleda kroz profit, čovjek je u drugom planu. To se pokazuje kroz lik mladog inženjera Russum-a, Harry-a Domin-a, glavnog direktora tvornice kao i biznismena Jacob-a Berman-a, komercijalnog direktora, koji vide sav smisao poslovanja u smanjenju troškova proizvodnje te manjem utrošku vremena proizvodnje izradaka. Po njemu idealni radnik je onaj koji radi kao stroj, nema dušu, ne stvara probleme i radi ono što mu se naredi.
Karel Čapek upozorava buduća pokoljenja na dehumanizaciju procesa rada, na profit koji postaje nemilosrdni pokretač svega u društvu. U takvom otuđenom društvu nema mjesta za ljudska bića. Njega je uhvatio strah kojeg je opisao u jednom pismu svojoj supruzi Olgi: „Pišući djelo, obuzeo me jeziv strah. Htio sam njime upozoriti na masovnu proizvodnju i nečovječne ideje. Odjednom me obuzela tjeskoba, da će jednom, možda uskoro, tako i biti, da neću ništa spasiti ovim upozorenjem, da će, kao što sam ja, autor, vodio sile ovih tupih mehanizama kamo god sam htio, netko jednom povesti glupog narodnog čovjeka protiv svijeta i Boga.” [7]
Malo su poznate i njegove vizionarske riječi koje su se također odnosile na radnju njegove drame: „Za samu činjenicu da roboti uspijevaju preuzeti vlast krivi su ljudi – neodgovorni genijalni pojedinci, te profiterski moral industrijalaca koji navješćuju doba ljudske otuđenosti”. [7] To je poruka budućim pokoljenjima, koju mi možemo najbolje procijeniti danas kada su roboti dio našeg svijeta. Postoje također navodi da je riječ robot prvi upotrijebio Karelov brat Josef u svojoj kratkoj priči Opilec (Pijanac) objavljenoj 1917. To nije točno jer u toj pripovijetki autor koristi riječ automat, a ne riječ robot. [8]
2. Prvi robot
Postoje rasprave o prvom robotu s takvim nazivom. Navodi se da je prvog robota izradio američki inženjer Roy J. Wensley iz tvrtke Westinghouse Electric and Manufacturing Company1925. godine i dao mu ime gospodin Televox.Ime je kombinacija dviju riječi tele (grčki: τηλε tēle – daleko) i vox (latinski glas). Izumitelj je imenom htio naglasiti da ga se može glasom aktivirati iz daljine. Izgledom je bio neprivlačan s četvrtastom glavom i pravokutnicima koji označavaju oči i usta, drvenim torzom, te jednostavnim plosnatim rukama i nogama, slika 2. [9]
Sl. 2 Inženjer Roy J. Wensley sa svojim „mehaničkim čovjekom” [9]
Sl. 3 Članak u novinama Popular Science Monthly od siječnja 1928. [9]
Televox je mogao razumjeti naloge iskazane raznim zvižducima i obavljati određene radnje. Akustičnim senzorima razlikovao je vrstu zvižduka kao nalog za izvršavanje određenog zadatka. Mehanizam se sastojao od niza akustičnih uređaja s električnim relejima, od kojih je svaki bio osjetljiv na zvuk, odnosno vibracije određene frekvencije. Određena frekvencija zvuka aktivirala bi kretanje mehanizma, poput npr. ruku za uključivanje prekidača električnih uređaja. Zvižduci su prvotno imali tri tona podešena na 600, 900 i 1.400 Hz. Njegovi odgovori o izvršenju radnji bili su odgovarajuća zujanja, dulja, kraća ili isprekidana.
U javnim glasilima prikazivan je kao senzacija, brojnim napisima poput onoga u New York Timesu-u s tekstom „Mehanički čovjek čuje ljudski glas”. U opisu se navodi: „Westinghouse Electric and Manufacturing Company jučer je demonstrirala u zgradi Westinghouse, 150 Broadway, električni mehanizam koji, kada mu se obraća odgovarajućim tonom, odgovara zvučnim valovima unutar registra ljudskog glasa, daje točne informacije i izvršava razne naloge”.Novinari su ga nazivali osim „mehaničkim čovjekom” još i „strojem koji misli”, te „električnim čovjekom”, slika 3. Roy J. Wensley ga je 1927. nazvao „gospodin Herbert Televox”. [9, 10]
Nitko ga nije nazivao robotom, iako je izrađen nakon što je već postojao naziv robot. Zato uređaj Televox ne može preuzeti primat kao prvi robot koji nosi to ime.
Prvi robot tog naziva je robot Eric, kojeg je 1928. izradio kapetan William H. Richards, veteran Prvog svjetskog rata, inženjer strojarstva zajedno s poznatim novinarom A.H. Reffelli-em. Izrađen je u Gomshall-u, u blizini Dorking-a u Engleskoj, slika 4. [11] Poticaj za njegovu izradu bila je nemogućnost dolaska vojvode od Yorka na otvaranje godišnje izložbe Društva inženjera 15. rujna 1928. u Londonu. Kapetan Richards mislio je da bi bilo dobro napraviti „zamjenskog čovjeka” koji bi otvorio izložbu, što je uspio ostvariti. Robot Eric je na vrijeme otvorio sastanak četverominutnim govorom. To je bila senzacija i Eric je prikazan u mnogim gradovima Velike Britanija, (slika 5a). [11, 12]
Robot Eric je izrađen od aluminijskog lima. Imao je oblikovanu glavu, tijelo, ruke i noge, (slika 4). Mogao je sjediti, stajati, mahati rukama i okretati glavu. Mogao je govoriti i odgovarati na pitanja. Bio je visok 1,83 metra (6 stopa) i težak 140 kilograma. U tijelu je bio postavljen električni motor koji je okretao valjak. Brojnim elektromagnetima, remenicama i oprugama, ostvarivao je kretanje ruku i glave, te podizanje tijela, odnosno ustajanje, (slika 5).
Uz podizanje sa stolca robot Eric bi se naklonio publici. Koristio je, kako kaže njegov tvorac, najnaprednije metode radio-tehnike prema licenci tvrtke Marconi. Interesantno je da na prsima ima slova RUR, što ukazuje na porijeklo inspiracije za tog robota, a možda i sličnost s robotima u toj drami, (slika 4). [11]
Poneseni početnim uspjehom autori su za robota Eric-a predvidjeli mnogo namjena. Smatrali su da može zadovoljiti posao službenika za informacije na željezničkoj stanici, javljanje na telefon ili kazivanje točnog vremena. Najavljivao je da će do iduće godine moći i pjevati. [11]
a) b)
Sl. 4 Robot Eric, a) U stojećem položaju, b) Prikaz glave
Interes za njegov način rada, tada vrhunac tehnike, bio je velik te su i novine prikazivale njegovu konstrukciju i tehničko rješenje, slika 5b. [11]
a) b)
Sl. 5 a) Nastup robota Eric-a na skupu [11], b) Prikaz konstrukcijskih rješenja pomicanja dijelova tijela robota Eric-a [11]
Nakon turneja po Engleskoj došao je 29. siječnja 1929 u New York. To je bila prvorazredna senzacija u Americi. Da bi prikazao svog robota u simpatičnom izdanju Richards je učinio da robot Eric nije samo razgovarao i odgovarao na pitanja, već se i šalio. Pri tome je ustao, bljesnuo očima i izveo iskrenje zubima s plavim plamenom te „namignuo”. Nastupao je s izjavom: „Dame i gospodo, ja sam robot Eric, čovjek bez duše. Veliko mi je zadovoljstvo što sam ovdje s vama u New York-u. Impresioniran sam visokim zgradama i podzemnim željeznicama.„Kapetan Richards dao je proročansku izjavu: „Vremenom će od njega industrija imati velike koristi”. [11]
Novine su bile pune informacija o senzaciji iz Engleske, slika 6. [11] Stalno su pratili njegove javne prezentacije i izvještavali čitatelje o njegovim „zadivljujućim” mogućnostima. Na izložbi prezentirani su oba čovjekolika uređaja: mehanički čovjek Televox i robot Eric, slika 7. [11]
Sl. 6 Novine su donosile članke o robotu Eric-u, aluminijskom čovjeku. [11]
Sl. 7 Izložbena prezentacija mehaničkog čovjeka Televox–a i robota
Eric–a u New York–u [11]
Nikola Tesla, izumitelj prvog bežičnog daljinskog upravljanja, preteče suvremenih rješenja automatizacije i robotike, to bežično upravljanje je demonstrirao 1887. Bio je zainteresiran za tehničke novosti pogotovo za složene strojeve koji obavljaju određene radnje bez pomoći čovjeka. Sigurno je bio nazočan nekoj od prezentacija W.H. Richards–a s njegovim tobotom Eric-om u New York-u 1929. Takvi uređaji bili su u središtu njegovog interesa i sigurno je razmišljao o svojim rješenjima daljnjeg razvoja robota. Dao je proročansku izjavu 1937: „U dvadesetprvom stoljeću, roboti će obavljati poslove koje su ranije radili robovi u drevnim civilizacijama”. Ona navodi upravo ono što je danas stvarnost, slika 8. [13]
Sl. 8 Proročanska izjava velikana Nikole Tesle 1937. godine
Robotičari se slažu da je prve najznačajnije izumiteljske korake napravio Nikola Tesla, a za popularizaciju i proširenje značenja riječi robot zaslužan je Isaac Asimov (1920-1992), pisac naučno fantastičnih pripovijetki, slika 9a. Uvidio je značaj robota u budućnosti i potrebu da se odnos između ljudi i robota unaprijed odredi preciznim pravilima i zakonima. [14]
a) b)
Sl. 9 Pisci znanstveno fantastičnih pripovijetki, a) Isaac Asimov, b) Arthur C. Clarke
Te je zakone robotike Isaac Asimov objavio 1942. u kratkoj priči Runaround, iako su oni bili već nagovješteni u nekoliko njegovih ranijih priča. Priča Runaround je kasnije uvrštena u knjigu I Robot. Asimov se u svojim djelima posvetio rješavanju odnosa robota i ljudi kroz njihove probleme koji će nastati u 21. stoljeću. Razvojem i širokom primjenom robota u budućnosti Asimov predviđa velike mogućnosti i dobrobit za društvo ali i nastanak moralnih sukoba.Tema priče Runaround govori o dva znanstvenika čiji uspjeh u radu ovisi o pomoći robota. Problem nastaje kada je jedan od robota Speedy izmaknuo kontroli. Rješenje problema vidi u donošenju nužnih zakona robotike.
Na inzistiranje svog urednika John-a W. Cambell-a mlađeg, Asimov je stvorio Tri zakona robotike kako bi regulirao odnos između robota i ljudi. Ti zakoni su:
1. Robot ne smije ozlijediti ljudsko biće ili nečinjenjem dopustiti da se čovjeku naudi.
2. Robot se mora pokoravati nalozima koja su mu naložila ljudska bića, osim ako bi se takve naredbe kosile s Prvim zakonom.
3. Robot mora zaštititi svoje postojanje sve dok se takva zaštita ne kosi s Prvim ili Drugim zakonom [15].
Ovi zakoni su kasnije proširivani s još tri: Meta zakonom, Četvrtim zakonom i Zakonom reprodukcije [16].Bez obzir na razumljivu potrebu pridržavanja ovih zakona, njima proturječi smjer razvoja robota za vojne potrebe.Asimov je prvi dalekovidno shvatio potrebu i nužnost uvođenja regulative projektiranja i izrade robota. To je početak i najraniji oblik roboetike (roboethics). Još se ni danas u svijetu ne može postići koncensus oko osnovnih postulata projektiranja robota i umjetne inteligencije [15].
Roboti od strojeva koji ponavljaju iste programirane operacije danas postaju sve više strojevi s visokom inteligencijom koji mogu donositi „odluke” izvan programskih uputa, dubokim učenjem i novim spoznajama. Obzirom na tu njihovu „samostalnost” sve više postaje važan odnos ljudi prema robotima i obrnuto. Sva ta etička pitanja između robota i ljudi, treba definirati i pravno regulirati. Skup kodeksa ponašanja u međusobnom odnosu ljudi i robota, ali i obrnuto, obuhvaćen je roboetikom. Normama bi se regulirala tri ključna područja: konstrukcija robota, uporaba robota te odnos ljudi i robota ali i obrnuto.
Kriterijem konstrukcije zabranjivalo bi se osmišljavanje i oblikovanje robota za kriminal ili nemoralne aktivnosti suprotne zakonima. Zabranilo bi se projektiranje robota za namjerno izazivanje štete, sakaćenja, ubijanja ljudi i životinja. Konstrukcija robota ne bi smjela dopustiti kulturnu, vjersku, seksualnu ili statusnu diskriminaciju. Zabranjena bi bila izrada lica ili tijela robota prema poznatim ličnostima, bez njihovog izričitog pristanka.
U EU je 2017. predložen dokument u kojem se navodi da europske vrijednosti, demokratska načela, pravne norme i poštivanje temeljnih prava trebaju biti ugrađene u projektirane sustava umjetne inteligencije. Iste godine pokrenuto je i pitanje uvođenje pravnog statusa robota kao „elektroničke osobe”. Ova inicijativa, kao i neke druge, nije prošla u parlamentu EU, jer je bilo puno primjedbi i rasprava koje su se svodile na stav da robot nije „osoba”.
To protivljenje temelji se na prigovoru da se prava ne mogu dodijeliti neživom stroju, koji nema svijest. Pravo po njima proizlazi iz života, a roboti su proizvod ljudskog uma i ruku, to su objekti, a ne osobe. Oni nemaju dušu i ne mogu dobiti status osobe i ne smije se ljude i robote izjednačiti. Budući se mora postići dogovor o tim pitanjima, ta tema će se sigurno i dalje izazivati žučne rasprave [17].
3. Definicija robota
3.1. Robot čovjekolikog izgleda
Kako se razvijao robot i mijenjao konstrukciju, rješenja i mogućnosti, njegove definicije su postajale sve šire. Početne definicije poput one u Webster´s dictionary navodile su da je robot „automatizirani uređaj koji obavlja funkcije koje se obično pripisuju čovjeku”. Vrlo slično navodi i Enciklopedija Leksikografskog zavoda, Zagreb 1962. da je „robot automat s ljudskim likom, stroj koji vrši različite, često vrlo komplicirane operacije dirigiran elektronskim mozgom” [18] Dakle robotima se obilježavaju samo strojevi koji izgledaju kao ljudi i imaju ljudske osobine, tj. sposobni su raditi, kretati se. [8, 14] Još i danas većina ljudi pod robotom podrazumijeva isključivo čovjekolike uređaje s elektroničkim mozgom koji se mogu kretati, govoriti i obavljati određene poslove.
3.2. Industrijski roboti
Industrijski roboti su nastali temeljem dva razvijena sustava – teleoperatora i numerički upravljanih uređaja. Teleoperatori su razvijeni za vrijeme Drugog svjetskog rata radi potrebe daljinskog rukovanja nuklearnim sirovinama. Numeričko upravljanje primjenjivalo se na alatnim strojevima, koji su nakon rata bili potrebni za izradu složenih dijelova aviona [19].
Industrijski roboti pojavili su se 1950-ih godina u SAD-u. Koristeći te dvije različite tehnike, Amerikanac George C. Devol Jr. (slika 10) patentirao je 1954. g. industrijski uređaj – manipulator koji se smatrao pretečom današnjega industrijskog robota [19].U suradnji sa Joseph-om Engelberger-om izradio je 1958. g. prvi industrijski robot. Proizvela ga je tvornica Unimation Inc, prva a dugo vremena i vodeća tvornica robota u svijetu [19].
Veliki Asimovljev poklonik, J. Engelberger, voditelj projekta razvoja prvog programabilnog industrijskog manipulatora, nazvao ga industrijskim robotom, unatoč navodnom protivljenju stručnih krugova [14].Uporaba robota u proizvodnji započela je 1961. godine, kada je prvi industrijski robot postavljen u tvornici General Motors u New Jersey. Ovaj je industrijski robot imao je hidraulički pogon i programirao se preko magnetskog bubnja. U SAD-u 1970. godine izrađen je prvi suvremeni industrijski robot s električnim pogonom i šest stupnjeva slobode gibanja, a upravljao se računalom (slika 11.) [10, 12, 20].
Sl. 10 George C. Devol, Jr., 1961. [19]
Sl. 11 Izgled prvog suvremenog industrijskog robota Unimation Inc. [19]
Roboti više ne sliče na ljude, imaju jednu ili dvije „ruke”, pa se mijenjaju i definicije. Kod opisa najviše se koristi njegova namjena kao manipulatora. Evo najčešćih definicija industrijskih robota:
– RIA (Robot Institute of America): „Robot je reprogramibilni multifunkcijski manipulator, projektiran da prenosi materijale, dijelove, alate i specijalne uređaje kroz različite programirane pokrete u svrhu ispunjavanja različitih zadataka”[16, 21].
– ISO (International Standard Organisation): „Industrijski robot je automatski, reprogramirani višefunkcijski manipulator koji ima više stupnjeva slobode kretanja, koji je pogodan za rukovanje materijalom, dijelovima, alatima ili posebnim uređajima za izvršavanje promjenjivih programiranih operacija. Industrijski roboti obično imaju jednu ili više ruku, upravljački uređaj s mogućnošću pamćenja, a pokatkad koriste i senzore za prikupljanje informacija iz okoline. ………” [16]
Iz izgleda, namjene i definicije vidljiva je transformacija robota od onog izgledom poput čovjeka i njegove namjene do multifunkcijskog manipulatora koji obavlja određene zadatke definirane programom. Taj program po potrebi se može mijenjati, kao i prihvatnica3 s hvataljkom za hvatanje i držanje različitih materijala, izradaka i alata, slika 12.
Sl. 12 Primjena industrijskih robota u automobilskoj industriji [22]
3.3. Suvremeni roboti za različite namjene
Razvoj robota usmjeren je na skoro svaku djelatnost čovjeka, slika 13. Radi toga roboti danas poprimaju različite oblike, tehnička rješenja i načine upravljanja. Razvoj umjetne inteligencije koji se koristi za njihovo upravljanje, te razvijeni sofisticirani senzori omogućuju da roboti prate stanje u okolini, postaju sve samostalniji i mogu „odlučivati” što poduzeti u određenim situacijama i donositi zaključke s ciljem međusobnog organiziranja radi obavljanja vrlo složenih zadataka, slika 14.
Sl. 13 Pravci razvoja primjene robota [23]
Neposredna suradnja s čovjekom u kući, školi, uredu, bolnicama nametnula je rješenja novog izgleda robota te jedan dio robota počinje ponovo poprimati humanoidni izgled. On ide do potpunog imitiranja izgleda čovjeka. To se odnosi na vidljive dijelove robota. Lice s vratom i ruke izgledaju i djeluju kao ljudske s više ili manje uspjeha, (slika 14a). Drugi roboti poprimaju različite oblike već prema namjeni od igračaka, dijelova proizvodnog procesa, medicinskih složenih instrumenata do vozila.
Takav pristup zahtjeva i promjenu definicije robota koja bi mogla obuhvatiti sve suvremene robote bez obzira na njihovu izvedbu. Jedna od suvremenih definicija koja obuhvaća sva moguća rješenja robota glasi: „Robot je informatički stroj koji ima fizičku stranu, odnosno robot je fizičko proširenje računalne tehnologije koji pretvara informaciju u rad neposredno utječući na nas i našu okolinu”. [24]
a) b)
Sl. 14 Danas su prisutne razne vrste robota, a) Ginolda Geminoid F od prof. Hiroshia Ishiguroa (2012.) [23], b) Robot konobar
Robot sve više postaje pojam, odnosno simbol novih tehničkih rješenja koja se svakodnevno pojavljuju te služe i olakšavaju rad i život ljudima. Ako ta rješenja zadovoljavaju načela (slika 15) rada, koja navodi definicija, oni jesu roboti, bez obzira na njihov izgled. Mnoge od njih ne nazivamo robotima iako oni zadovoljavaju tu novu definiciju poput automatskog uređaja za čišćenje kuće (Roomba), bankomata, mlijekomata, naplate parkiranja i sl. automatskih uređaja.
Sl. 15 Načela rada sadašnjih robotskih sustava
Umjetna inteligencija razvija se izrazito brzo i stalno povećava svoje mogućnosti. S njom i roboti postaju sve inteligentniji, a nastoji se u njih ugraditi i određeni oblik osjećaja. Želja je da budući inteligentni roboti moraju imati mentalne sposobnosti koje će im omogućiti da, ne samo razumiju ljude, već i da razumiju i samoga sebe, da budu svjesni svoga znanja, te da u dovoljnoj mjeri budu sposobni mijenjati se, odnosno unapređivati samoga sebe. To je sljedeći korak razvoja robota. Tek tada bi roboti mogli postati ozbiljna konkurencija ljudima.
Ovo je daljnja transformacija robota, u kojoj on može poprimiti bilo koji oblik i namjenu, ali mora imati tri obilježja: da prati senzorima okolinu i njene promjene, da dobivene informacije procesuira (računalno obradi) te da donese nalog kojeg neki aktuator treba izvršiti, (slika 15).
3.4. Živi roboti
Jedan smjer razvoja robota krenuo je prema mini i nanorobotima. Oni su prije svega namijenjeni medicini. Roboti nano veličina djelovali bi unutar tijela čovjeka u cilju liječenja od raznih bolesti, pa čak bi mogli mijenjati njegove genetske anomalije.
Robert A. Freitas Jr., koji je pokrenuo nanorobotiku i biotehnologiju, klasificirao je medicinske mehaničke nanorobote u tri vrste: respirocite (umjetne krvne stanice), slika 16a, mikrobivore (umjetne bijele krvne stanice) i klotocite (umjetni trombociti). [25] Izradu takvih mehanička robota je izuzetno teško realizirati, ali ipak već postoje neka praktična rješenja. Bez obzira na poteškoće oni se ubrzano razvijaju. Brinuti će se o našem zdravlju i davati nam nove neslućene mogućnosti. Futurolog Ray Kurzweil, čije se dosadašnje prognoze ostvaruju s visokom točnošću, smatra: „U 2030-ima u mozak (preko kapilara) slati ćemo nanorobote koji će uranjanjem unutar živčanog sustava pružiti virtualnu stvarnost i povezati naš neokortex s oblakom. Baš kao što danas možemo bežično proširiti snagu naših pametnih telefona 10.000 puta u oblaku, tako ćemo i svoj neokortex moći proširiti u oblaku”. Na taj način, on predviđa, da će čovjeku biti dostupno ukupno znanje pohranjeno u oblaku i pristup svim informacijama. Biti će mu omogućeno da složene matematičke jednadžbe izračunava odmah. Moći će upravljati raznim vozilima pa i avionom iako nije prošlo nikakvu obuku. Razumjeti će i razgovarati na bilo kom jeziku itd. [25]
a) b)
Sl. 16 a) Shema respirocita, b) Bakteriobot (tzv. bakterijska bomba)
Da bi olakšali izradu nanorobota znanstvenici su se okrenuli prema korištenju mikroskopskih organizama u prirodi poput bakterija. Ti organizmi se slobodno kreću okolinom u kojoj žive, imaju svoj životni ciklus, koriste ishranu koja je u njihovom ambijentu, reproduciraju se, imaju receptore kojima pronalaze mjesto „napada” u tijelu i nakon prestanka hranjenja ugibaju, te se jednostavno izlučuju iz tijela. [25]
Snažni razvoj inženjerskih metoda u biologiji i kemiji, odnosno genetske manipulacije, te znanosti o materijalima i računalne znanosti, omogućio je promjenu prirodne namjene tih mikroorganizama i dao im novu ulogu. Tako su nastali živi mikro i nanoroboti, a dobili su i novi naziv „bakterioboti” (Bacteriobots).
Kao primjer može se navesti osposobljeni bakterijski soj Salmonella enterica za sinkrono oslobađanje antikancerogenih toksina, citokina i čimbenika koji izazivaju programiranu ćelijsku smrt. Lijekovi su bili sastavni dio bakterija, slika 16b. Drugo rješenje je bilo ispunjenje ljekovitim plinovima mikroorganizama (bakterije i arheje4). Mikroorganizmi s ispunjenim nanomjehurićima se, pomoću ultrazvučnih valova ili vanjske energetske sile, guraju duboko u tumorska tkiva. Ovakav pristup postigao je obećavajuće rezultate kod tumora na mozgu [25].
Velika očekivanih polažu se na stvaranje „sintetičkih bakterija”. Živom organizmu dodaju se novi „neprirodni” DNK parovi. Sintetičke baze, nazvane „X” i „Y”, dodane su u DNK soju bakterija Escherichia coli. Početkom 2017. godine uspjelo se stabilizirati „polusintetičke”bakterije koje su mogle rasti i dijeliti se prirodnim putem, prenoseći sintetičke baze „X” i „Y” na nove generacije. Poznato je da svi organizmi imaju standardna četiri slova DNK abecede A, T, C, G (adenin, citozin, timin i guanin). Život je utemeljen s 20 standardnih aminokiselina, ali ovaj novi uspjeh otkriva da bi dodavanjem novih dvaju slova u abecedu DNK organizam mogao stvoriti čak 152 novih aminokiselina. To daje mogućnost stvaranja potpuno novih molekula, a time i novih lijekova [25].
Drugi pristup je stvaranje novih živih bioloških nanorobota. To je uspjelo američkim istraživačima sa Sveučilišta Tufts. S izdvojenim matičnim stanicama iz zametaka afričke žaba Xenopus laevis, korištenjem računala stvorili su nove organizme, slika 17. Oni su se mogli kretati a pri tome su mogli gurati male predmete koji su bili namjerno postavljeni u sredini organizma. Zamisao je da u toj „vrećici” bude smješten lijek i da ga oni dovode na bolesno mjesto u tijelu. Nazvani su po toj afričkoj žabi ksenoboti (Xenobots). [25]
Sl. 17 Ksenobot
Ksenoboti su potpuno biorazgradivi, a nakon što obave zadatke i protekne sedam dana, kad stanicama ponestane hranjivih sastojaka, umiru i izlučuju se iz tijela. Iako su živi oni se ne mogu razmnožavati niti dalje razvijati [25].Stvaranje tih novih živih mikroorganizama je početak novog pristupa dobivanja bionanorobota koji imaju velike mogućnosti daljnjeg razvoja. Osim prednosti ksenobota koje su naznačene, to je novi pristup izrade bioloških robota, čije granice još ne možemo sagledati.
Jedno od pitanja koje se može postaviti jesu li to roboti, odnosno nanoroboti. Izraz je već udomaćen, ali zadovoljavaju li oni definiciju robota? Kod mehaničkih nanorobota npr. respirocita, iako su minijaturnih veličina, postoje senzori koji dobivaju informacije iz okoline, postoji procesor koji donesi odluku, te ventili koji otvaraju spremnike s kisikom, odnosno ugljičnim dioksidom. Sada to izgleda nestvarno i nemoguće izraditi obzirom na njegovu veličinu od 6-8 mikrometara. Kod bioloških robota mogu se pojedine funkcije ili dijelovi samo uspoređivati sa sličnim kod mehaničkih robota. Imaju receptore kao senzore kojima istražuju okolinu, ujedno oni im omogućuju postizavanje odgovarajućeg (ciljanog) položaja u tijelu (simulacija procesora), te mehanizam ispuštanja lijeka npr. pucanje opne (poput aktuatora). Očito definicije robota doživljavaju novu transformaciju sukladno specifičnostima živih organizama i njihovih rješenja. Zajednička je ista ideja – obavljanje korisnog zadatka prema definiranom programu koje je moguće ostvariti na različite načine.
Mogu se očekivati i daljne promjene u danas nesagledivim pravcima razvoja robota. O tome govore prognoze znanstvenika i futurologa. Pisac Arthur C. Clarke (slika 9b) je najavio 1964. godine „da je organska tj. biološka evolucija došla svom kraju i sada smo na početku anorganske i mehaničke evolucije koja će biti tisuću puta brža” ili kako sada najavljuje Elon Musk: „Buduće povezivanja robota s čovjekom u jedinstvenu cjelinu je proces proizašao iz tehnološke evolucije” [26]. Slično smatra Hiroshi Ishighuro jedan od najpoznatijih svjetskih robotičara. On je uvjeren da čovjek u budućnosti više neće biti stvoren od krvi i mesa te će se ljudska tijela razviti u znatno izdržljiviji sustav. Uvjeren je da će se tek tada takav čovjek moći otisnuti u svemir bez posljedica.
4. Pojam robota u svakodnevnom životu
Robot osim kao zajednički pojam i simbol novih razvijenih tehničkih rješenja i općenito napretka znanosti, počinje se koristiti i u prenesenom značenju.Dosadašnje ponašanje robota, zbog još uvijek nesavršenih pokreta i nedovoljno razvijene umjetne inteligencije, iskazuje se nespretnim kretanjem i govorom. Daje sliku koja se primjenjuje i za opis određenog ponašanja ljudi. Na mnogim radnim mjestima u proizvodnji pojedini poslovi su uvijek isti i ljudi ih automatski ponavljaju. Apsurdnost takvog rada, kojeg sada zamjenjuju roboti, najbolje je prikazao Charlie Chaplin radeći na tvorničkoj pokretnoj traci u filmu Moderna vremena, slika 18. [22]
Sl. 18 Slika iz filma Moderna vremena [22]
Naviku ponavljanja naučenog ponašanja i rada ljudi prepoznaju kao „rad poput robota” ili „čovjek-robot” u svakodnevnom životu. „Programiranje” u govoru očituje se po naučenim formulacijama i odgovorima, bez razmišljanja i davanja vlastitih stavova. Prisutno je svugdje od činovnika u uredima do političara. Lako se može uočiti da se za ista postavljena pitanja dobivaju čak jednako oblikovani odgovori, bez vlastitog promišljanja, stava ili komentara. To su napamet zapamćeni odgovori. Može se zaključiti da je taj „program” možda definiran pravilima službe, stranačkim okvirom odnosno stegom ili pak ukalupljenim svjetonazorom. Takvi ljudi-roboti ne mogu ili ne smiju iskočiti iz tog „programa”. Njihovo ponašanje sliči na ponašanje relativno jednostavnih robota. Zato je taj pojam našao primjenu i izvan tehnike [22]. Sve ubrzaniji razvoj robota i umjetne inteligencije odredit će ne samo tehnička rješenja i njihove mogućnosti, već i pojam živoga i neživoga, svjesnoga i nesvjesnog. Dogodit će se brojne socijalne promjene i doći će do nezamislivih društvenih i međuljudskih odnosa. Kako futurolozi predviđaju i do prijateljevanja i druženja s robotom, partnerskih poslovnih odnosa s robotom, seksualnih partnera pa čak i braka s robotom. To će stvoriti niz etičkih i moralnih dilema i postaviti vrlo kompleksna pitanja.
Roboti su u nekim poslovima bolji od ljudi, precizniji i brži. Poznato je korištenje robota u dijagnostici bolesti i kod operativnih zahvata. Razvojem umjetne inteligencije roboti poprimaju određene ljudske osobine poput: procjene okoline, prepoznavanje osoba i objekata, pronalaženje optimalnijeg rješenja u danom slučaju te vođenja suvisle konverzacije. Uočavanjem raspoloženja osoba mogu procijeniti nastalu situaciju i donijeti odluku (npr. pozvati pomoć i sl.). Već zamjenjuju ljude na poslovima recepcionara, dočekuju goste u robnim kućama, rade s bolesnima i hendikepiranim osobama te s autističnom đecom, obučavaju imigrante jezik zemlje u kojoj su se uselili i sl. (slika 19).
a) b) c)
Sl. 19 Čovjekoliki roboti a) Pepper, b) NAO, c) Romeo
Razvoj robota ovisan je o razvoju umjetne inteligencije i njeno približavanje ljudskoj. Ljudska inteligencija je višeznačna, s mnogim sposobnostima kao što su: rješavanje problema, rasuđivanje, prepoznavanje uzoraka, kreativnost, učenje, jezik, planiranje, intuicija i primjena znanja. Da bi umjetna inteligencija postigla ljudsku inteligenciju, ona mora uspjeti na svim tim područjima [26].
Prijelomni trenutak u razvoju robota s UI biti će kada ona bude veća od ljudske. Vincent C. Müller i Nick Bostrom istražili su 2013. kada bi se to moglo dogoditi. Anketirali su više od 500 istraživača umjetne inteligencije, ili kako su precizno izjavili „strojne inteligencije visoke razine” (HLMI, High Level Machine Intelligence). Postavili su pitanje: „Do koje biste godine s vjerojatnošću od 10%, 50% i 90% očekivali da umjetna opća inteligencija bude veća od ljudske”. Odgovori ispitanika bili su da će s vjerojatnošću od 10% to dogoditi do 2022, sa 50% do 2040, a sa 90% do 2075. godine. Neki futorolozi poput Ray-a Kurzweila-a imaju drugačije prognoze kada će se to dogoditi. Svi se slažu da dolazi dan kada će UI biti moćnija od ljudske, da će se razvijati u superinteligenciju. Za to se treba već danas pripremati [27, 28].
Roboti s takvom inteligencijom će se ponašati kao ljudi, dobivati složene radne poslove, učiti, podučavati, informirati, rješavati složene zadatke itd. Ta zamjena čovjeka s robotom ne samo u repetitivnim poslovima, već i u kognitivnim funkcijama, uvodi pojam robot-čovjek ili humanoidni robot. Dobiti će svoj simbolički smisao i u svakodnevnom govoru. Uskoro će doći vrijeme kada će se ljudi radije družiti sa strpljivim, ljubaznim i pametnim robotima nego s ljudima. Tražiti će da u operacijskom zahvatu sudjeluje robot. Vjerojatno će ljudi odlučivati da đecu podučava robot, a ne učitelj, jer je njegovo podučavanje strpljivije i učinkovitije [29].
Razvojem kretanja i izgleda robota, a posebno njegove umjetne inteligencije s određenim oblikom osjećaja mijenjati će se i pojam robota. Dok je pojam čovjeka-robota predstavljao neki oblik kritike ponašanja i rada čovjeka, možda će novi pojam robota-čovjeka biti rezerviran za izuzetnu sposobnost, preciznost i znanje. Robot će vjerojatno postati „digitalno (inteligentno) biće” i u mnogo čemu sposobniji od čovjeka te će usporedba s njim postati pohvala ljudima za njihovo znanje, preciznost i točnost.
Zaključak
Robot je jedan od rijetkih tehničkih pojmova koji se u relativno kratkom vremenu brzim razvojem tehnike stalno mijenjao. To je išlo toliko brzo da se ni poimanje značenja robota u svijesti većine ljudi danas još nije promijenilo. Ostalo je na razini onog početnog, često nametnutog filmovima, koji predstavlja samo one tehničke uređaje koji izgledaju kao ljudi i rade njihove poslove. Sve izvan toga ne doživljavaju kao robote iako ih koriste u svakodnevnom životu. Pojam koji se u prenesenom značenju koristi u običnom govoru naišao je na prihvaćanje i čestu uporabu. Cilj ovog rada bio je iznijeti najznačajnije elemente tog razvoja i transformaciju pojma robot koja je doživjela od nastanka tog imena do današnjih dana.
Reference
[1] Čapek K.: R.U.R., Russumovi univerzalni roboti, Aurora, Nakladnik Hangar 7, Zagreb 2019., ISBN 978-953-8048-66-1
[3] Nikolić G.: Sto godina naziva robot, ZG-magazin, Znanost, dostupno na https://zg-magazin.com.hr/sto-godina-naziva-robot/#more-80326, objavljen 08.02.2021.
[2] Szondy D.: Robots got their name 100 years ago today, dostupno na https://newatlas.com/robotics/rur-capek-play-word-robot-100-years/, objavljeno 25.01.2021.
[4] Ivanjek Ž.: Drama pisca proroka s kojom je sve počelo, dostupno na https://www.jutarnji.hr/kultura/knjizevnost/drama-pisca-proroka-s-kojom-je-sve-pocelo-9071120, objavljeno 03.07.2019.
[5] Vrančić F.: Dictionarium Quinque Nobilissimarum Europae Linguarum, Latinae, Italicae, Germanicae, Dalmatiae & Ungaricae, Cum Privilegiis, Venetiis, Apud Nicolaum Morettum, 1595., Pretisak Novi Liber, Zagreb 1992,
[6] Nikolić G.: Život i izumi Fausta Vrančića, treće prošireno i dorađeno izdanje, Nakladnici HATZ, POUZ, Zagreb 2018., ISBN 978-953-7076-28-3
[7] Ugarković, T.: (ANTI)UTOPIJSKA DRAMATIKA KARELA ČAPEKA, Diplomski rad, Sveučilište u Zagrebu Filozofski fakultet, Zagreb, veljača 2019.
[8] Nesteroff: Istorija robotike. Što i gdje su se pojavili prvi roboti, dostupno na https://grdening.ru/bs/popular-posts/robototehnika-istoriya-kakie-i-gde-poyavilis-pervye/, objavljeno 14.06.2006.
[9] 1927 – Televox – Roy J. Wensley (American), dostupan nahttp://cyberneticzoo.com/robots/1927-televox-wensley-american/, pristup 07.10.2020.
[10] Koji je prvi robot na svijetu?… dostupno na https://mahaons.ru/hr/womens-health/kakim-byl-pervyi-robot-v-mire-proishozhdenie-slova-robot-pervye-roboty.html, objavljeno 19.04.2019.
[11] 1928 – Eric Robot – Capt. Richards & A.H. Reffell (English), dostupno nahttp://cyberneticzoo.com/robots/1928-eric-robot-capt-richards-english/, pristup 02.10.2020.
[12] Koji je prvi robot na svijetu?… dostupno na https://mahaons.ru/hr/womens-health/kakim-byl-pervyi-robot-v-mire-proishozhdenie-slova-robot-pervye-roboty.html, objavljeno 19.04.2019.
[13] Borić M., Nikolić G.: Nikola Tesla, Naklada Hrvatski velikani, Privlačica, Vinkovci 2020., ISBN 978-953-156-376-5
[14] Tunić, J.: PRIMJENA SCARA ROBOTA ZA POSLUŽIVANJE OBRADNIH SUSTAVA, Završni rad, FSB Zagreb, dostupno na http://repozitorij.fsb.hr/236/1/19_03_2008_Tunic_zavrsni_rad.pdf, objavljeno 2007.
[15] Runnaround by Isaac Aimov and the Significance of the Three Laws of Robotics in today’s world, seminarski rad, dostupno na https://www.grin.com/document/513189,objavljeno 2016.
[16] Nikolić G., Katalinić B., Rogale D., Jerbić B., Čubrić B.: Roboti & primjena u industriji tekstila i odjeće, sveučilišni udžbenik, TTF, Zagreb 2008., ISBN 978-953-7105-22-8
[17] Nikolić G.: Je li „pametni” robot „mehatronička osoba”? ZG-magazin, dostupno na, http://zg-magazin.com.hr/je-li-pametni-robot-mehatronicka-osoba/, objavljeno 19.07.2019.
[18] Robot, Enciklopedija Leksikografskog zavoda, br. 6, Zagreb 1962., strana 481
[19] Pavlić T.: Osnovi robotike, V. semestar, Visoka tehnička škola u Bjelovaru, prezentacija PP, pristup 09.10.2020.
[20] Robot, Leksikografski zavod Miroslav Krleža, dostupno na https://enciklopedija.hr/natuknica.aspx?ID=53100, pristup 09.10.2020.
[21] Šurina T., Crneković M.: Industrijski roboti, sveučilišni udžbenik, Školska knjiga, Zagreb 1990.
[22] Nikolić G.: Ljudi-roboti, ZG-magazin, http://zg-magazin.com.hr/ljudi-roboti/, objavljen 05.09.2018.
[23] Nikolić G.: Razvoj robota i promjene koje oni donose, časopis Polytechnic&Design, Vol3. No3, 2015., str. 326-339
[24] Jerbić B.: Robotika u medicini, izazov 21. stoljeća, prezentacija u PP na Tribini: Presjecišta medicine i strojarstva, Zagreb, 2014.
[25] Nikolić G.: Minijaturni roboti, u postupku za tisak
[26] De Planque, T.: Will Cloud Computing Make the Benefits of Artificial General Intelligence Accessible to Everyone?, dostzupno na https://mse238blog.stanford.edu/2017/07/teun/will-cloud-computing-make-the-benefits-of-artificial-general-intelligence-accessible-to-everyone/, objavljeno 12.07.2017.
[27] Müller, V. & Bostrom, N.: Future Progress in Artificial Intelligence: A Survey of Expert Opinion, dostupno nahttps://nickbostrom.com/papers/survey.pdf, objavljeno 2014.
[28] Nikolić G.: Ugradnja emocija u robote, ZG-magazin, dostupno na https://zg-magazin.com.hr/ugradnja-emocija-u-robote/, objavljeno 06.10.2020.
[29] Nikolić G.: Roboti-ljudi, ZG-magazin, http://zg-magazin.com.hr/roboti-ljudi/, 07.09.2018.
(Izvor Povijest filozofije i tehnike)
1 U Vrančićevom Petojezičnom rječniku [5] strana 52
2 U knjizi [6] strana 35
3izvršni procesni uređaj
4Jednostanična bića različita od bakterija i eukariota
