Istražitelji su kasnije otkrili da su lopovi nosili svetlosne prsluke, prerušeni u građevinske radnike. Stigli su kamionom sa dizalicom, što je uobičajen prizor u uskim pariskim ulicama, i pomoću nje se uspeli do balkona sa pogledom na Senu. Obučeni kao radnici, izgledali su kao da tu pripadaju.
Ova strategija je funkcionisala zato što svet ne vidimo objektivno. Vidimo ga kroz kategorije – kroz ono što očekujemo da vidimo.
Lopovi su razumeli društvene kategorije koje mi doživljavamo kao „normalne“ i iskoristili su ih da bi izbegli sumnju. Mnogi sistemi veštačke inteligencije (VI) rade na isti način i kao rezultat toga su podložni istim vrstama grešaka.
Sociolog Erving Gofman bi opisao ovo što se dogodilo u Luvru koristeći svoj koncept prezentacije sebe: ljudi „obavljaju“ društvene uloge usvajajući znakove koje drugi očekuju. Ovde je performans normalnosti postao savršena kamuflaža, objašnjavaju Vinsent Čarls predavač na Univerzitetu u Belfastu i Tatijana German, profesorka na Univerzitetu Nortampton u članku objavljenom na portalu Konverzejšn.
Sociologija percepcije
Ljudi stalno sprovode mentalnu kategorizaciju kako bi razumeli svet oko sebe. Kada nešto odgovara kategoriji „običnog“, ne privlači našu pažnju.
Sistemi veštačke inteligencije koji se koriste za zadatke kao što su prepoznavanje lica i otkrivanje sumnjivih aktivnosti u javnom prostoru funkcionišu na sličan način. Za ljude, kategorizacija je kulturološki uslovljena, za veštačku inteligenciju, ona je matematička.
Ali oba sistema se oslanjaju na naučene obrasce, a ne na objektivnu stvarnost. Pošto veštačka inteligencija uči iz podataka o tome ko izgleda „normalno“, a ko „sumnjivo“, ona apsorbuje kategorije ugrađene u svoje podatke za obuku. A to je čini podložnom pristrasnosti.
Pljačkaši Luvra nisu smatrani opasnim jer se uklapaju u pouzdanu kategoriju. U veštačkoj inteligenciji, isti proces može imati suprotan efekat: ljudi koji se ne uklapaju u statističku normu postaju vidljiviji i previše ispitivani.
To može značiti da sistem za prepoznavanje lica nesrazmerno označava određene rasne ili rodne grupe kao potencijalne pretnje, dok drugima dozvoljava da prođu nezapaženo.
VI uči od nas
Sociološka perspektiva nam pomaže da vidimo da ovo nisu odvojena pitanja. Veštačka inteligencija ne izmišlja svoje kategorije; ona uči naše.
Kada se sistem računarskog posmatranja obučava na snimcima bezbednosnih kamera gde je „normalno“ definisano određenim telima, odećom ili ponašanjem, on reprodukuje te pretpostavke.
Baš kao što su čuvari muzeja nezainteresovano prošli pored lopova jer su im izgledali kao da tu pripadaju, veštačka inteligencija može da gleda pored određenih obrazaca dok preterano reaguje na druge.
Kategorizacija, bilo ljudska ili algoritamska, je mač sa dve oštrice. Pomaže nam da brzo obradimo informacije, ali takođe kodira naše kulturne pretpostavke. I ljudi i mašine se oslanjaju na prepoznavanje obrazaca, što je efikasna, ali nesavršena strategija.
Sociološki pogled na veštačku inteligenciju tretira algoritme kao ogledala: oni odražavaju naše društvene kategorije i hijerarhije. U slučaju Luvra, ogledalo je okrenuto ka nama.
Pljačkaši su uspeli ne zato što su bili nevidljivi, već zato što su viđeni kroz sočivo normalnosti. U terminima veštačke inteligencije, prošli su test klasifikacije.
Od muzejskih sala do mašinskog učenja
Ova veza između percepcije i kategorizacije otkriva nešto važno o našem sve više algoritamskom svetu. Bilo da je u pitanju čuvar koji odlučuje ko izgleda sumnjivo ili veštačka inteligencija koja odlučuje ko izgleda kao „lopov u prodavnici“, osnovni proces je isti: raspoređivanje ljudi u kategorije na osnovu znakova koji deluju objektivno, ali su kulturno naučeni.
Kada se sistem veštačke inteligencije opiše kao „pristrasan“, to često znači da previše verno odražava te društvene kategorije. Pljačka Luvra podseća nas da ove kategorije ne samo da oblikuju naše stavove, već oblikuju i ono što se uopšte primećuje.
Nakon krađe, francuski ministar kulture obećao je nove kamere i jaču bezbednost. Ali bez obzira na to koliko ti sistemi postanu napredniji, oni će se i dalje oslanjati na kategorizaciju.
Neko, ili nešto, mora da odluči šta se smatra „sumnjivim ponašanjem“. Ako ta odluka počiva na pretpostavkama, iste slepe tačke će ostati.
Pljačka Luvra će se pamtiti kao jedna od najspektakularnijih muzejskih krađa u Evropi. Lopovi su uspeli jer su savladali sociologiju izgleda: razumeli su kategorije normalnosti i koristili ih kao alate.
I time su pokazali kako i ljudi i mašine mogu pogrešno da usvoje konformizam kao bezbednost. Njihov uspeh usred bela dana nije bio samo trijumf planiranja. Bio je to trijumf kategoričkog razmišljanja, iste logike koja je u osnovi i ljudske percepcije i veštačke inteligencije.
Lekcija je jasna: pre nego što naučimo mašine da bolje vide, prvo moramo naučiti da preispitujemo kako vidimo.
(RTS)