In memoriam: Predrag Lucić – Ženevska konvencija o robotima-ubojicama

Prekapam nešto po svom kućnom skladištu novinskih isječaka o svemu i svačemu, pa naiđem i na papirnati arsenal sofisticiranog oružja i vojne opreme za ratove koji već traju ili tek što nisu počeli.

Razgledam plastični pištolj napravljen pomoću trodimenzionalnog printera koji ispaljuje neprintane metke. Vjetrim vojničku uniformu koju fashion-gurui iz Pentagona kroje u suradnji s holivudskim majstorima specijalnih efekata, bez čije bi pomoći Terminator, RoboCop, Iron Man, pa i sam Captain America, bili goluždravi i zbunjeni kao klinci na regrutaciji. S nevjericom zurim u tu oklopnu odoru koju će pored živa nesretnika u njoj pokretati mali stroj i u taj motorizirani ekoskeleton koji će nevoljnom junačini omogućiti da nosi stotinu kilograma dodatne opreme, a da se pri tom ne iskilavi.

I dok se pitam tko će da nahrani tolika borbeno-teretna goveda na klaonicama budućnosti, već mi je pod prstima papir s jelovnikom na kojemu se vojnicima umjesto dosadašnjih konzervi nudi klopa iz 3D-printera. Osjeti li soldat da mu nakon dugog marša ili teške bitke nedostaje proteina ili vitamina, samo pritisne odgovarajuće dugme i traženi sastojci budu pretvoreni u gotova jela.

Ako vojniku na ratištu osim hrane zatreba i porcija ljubavi, ni taj problem nije nerješiv. Potrebno je samo da to bude neprijateljski vojnik, i da ne bude usamljen. Jer, taj se problem rješava grupno – ispaljivanjem hormonske bombe koja u neprijateljskim vojnicima izaziva neodoljiv nagon da se momentalno razoružaju i razgaće i da s kolegama u rovu vode mušku ljubav, a ne jebeni rat.

Taman što sam po svom radnom, pa samim tim i neurednom stolu, rasprostro kolekciju superdronova i robota-ubojica, iz budućih me ratova u ništa mirniju sadašnjost vraća vijest da će se za desetak dana u Ženevi okupiti eminentni stručnjaci iz brojnih zemalja-članica organizacije koja se, premda bez ikakvog smisla za autoironiju, naziva Ujedinjenim nacijama, e kako bi predložili zakonsku regulativu kojom bi se obuzdala sve veća raspištoljenost tzv. autonomnih borbenih sustava. Dakle – dronova i robota koji već sada ne kriju da su sposobni da samostalno odabiru mete i da ih po vlastitom nahođenju, a ne po nečijem navođenju, unište.

Protiv tog sve raširenijeg običaja tzv. pametnih strojeva da se ponašaju poput budalastih ljudi, već se neko vrijeme vodi žestoka kampanja. Od Ujedinjenih se nacija sve glasnije zahtijeva da, umjesto sve izglednije Ženevske konvencije o zaštiti robota koji padnu u ratno zarobljeništvo, donese nekakvu također Ženevsku konvenciju kojom bi se svim državama ovoga svijeta zabranio svaki oblik istraživanja, proizvodnje i implementacije autonomnih borbenih sustava.

Za obuzdavanje robota-ubojica – tvrde iznuđivači konvencije – više nisu dovoljna ona četiri zakona robotike što ih je sročio dobri stari Isaac Asimov. Ni onaj nulti po kojemu robot ne smije naškoditi čovječanstvu ili svojom pasivnošću dopustiti da se čovječanstvu naškodi. Ni onaj prvi koji propisuje da robot ne smije naškoditi ni čovjeku ili svojom pasivnošću dopustiti da se čovjeku naškodi, osim kad je to u suprotnosti s nultim zakonom. Ni onaj drugi koji veli da robot mora slušati ljudske naredbe, osim kad su one u suprotnosti s nultim ili prvim zakonom. A bogme ni onaj četvrti koji robotu dopušta da štiti svoj integritet, osim kad je to u suprotnosti s nultim, prvim ili drugim zakonom robotike.

Od UN-ovih se eksperata stoga očekuje da jasno i efikasno odgovore na pet pitanja. Kao prvo – smiju li strojevi odlučivati o životu i smrti? Potom – mogu li se autonomni borbeni sustavi ponašati na način koji bi bio etički prihvatljiv? Zatim – mogu li se strojevi uopće ponašati u skladu s međunarodno priznatim ljudskim pravima? Nadalje – koliko su autonomni borbeni sustavi sposobni razlikovati vojno osoblje od civila? I na koncu – tko se može smatrati odgovornim ako autonomni borbeni sustav počne djelovati posve autonomno?

Tri dana će pozvani stručnjaci kraj Ženevskog jezera mozgati nad ovih pet pitanja i neće im biti nimalo lakše ako imenicu “strojevi” i tehno-sintagmu “autonomni borbeni sustav” zamijene imenicom “čovjek”. Bojim se da bi im u tom slučaju bilo čak i teže išta domozgati. Jer – barem koliko je meni poznato – na svijetu još nema robota kojemu bi palo na pamet da drugoga robota ili pak čovjeka šalje da obavlja ubilačke poslove. Kao što nema ni tog robota koji bi svoju umjetnu inteligenciju trošio na smišljanje naprava za uništavanje drugoga robota ili onog primitivnog mehanizma zvanog čovjek.

Zato ja i ne dijelim dežurne strahove da će se roboti, kao u onom 95 godina starom komadu Karela Čapeka u kojemu im je i nadjenuto ime, otrgnuti kontroli, pobuniti protiv čovjeka i zavesti svoju vlast. Mislim da umjetna inteligencija, kad je riječ o poslovima iz oblasti nametanja moći, nema nikakve šanse pred prirodnom ljudskom glupošću koja je svoju destrukciju ugradila u strojeve i samo ih zbog toga nazvala pametnim.

Pa tako vjerujem da će i u sve žešćoj borbi za glavnu ulogu u budućim ratovima do punog izražaja doći čovjekova komparativna prednost nad robotima. Čovjek je naprosto veća budala.

Povezana vest:

Preminuo novinar i pisac Predrag Lucić

(Novi magazin)

Napišite komentar

Najnovije iz rubrike