Obraza ne morete pustiti doma

Vas zanima, katera uporabnica družabnega omrežja je najbolj podobna vaši najljubši filmski igralki? Katera samska dekleta najbolj spominjajo na vašo bivšo, ki je ne morete preboleti? Ali se sprašujete le, kdo neki je neznanka, ki sedi za sosednjo mizo? Preprosto. Zajemite fotografijo z mobilnikom, jo prenesite v aplikacijo in čez nekaj trenutkov boste prejeli odgovor. Ali vsaj zasebno povezavo do najboljšega približka, če boste plačali za dodatno storitev.

Vse to obljubljata mlada ruska tehnološka podjetnika Artem Kukarenko in Aleksander Kabakov, ki po nastopu in delitvi vlog zelo spominjata na soustanovitelja Googla Larryja Pagea in Sergeja Brina. Kukarenko je nadarjen računalniški in matematični čudežnik, Kabakov odličen prodajalec in ambiciozen poslovnež. Prvi je razvil zelo napreden algoritem za prepoznavanje obrazov, ki zna že na običajni in poceni računalniški infrastrukturi analizirati milijardo obrazov na sekundo. Drugi je ustanovil podjetje Findface, se povezal z največjim ruskim družabnim omrežjem vkontakte (vk.com) ter ga ponudil trgovcem, policiji in ruskim mestnim oblastem.

Ustanovitelja storitve in podjetja Findface sta prepričana, da bo njuna tehnologija za prepoznavanje obrazov radikalno spremenila spletno iskanje, zmenkarije in preganjanje kriminala. Uporabila sta javno dostopne fotografije približno 200 milijonov uporabnikov družabnega omrežja vkontakte in pokazala, da je mogoče na findface zelo hitro poiskati poljubnega posameznika, ki ga je ujela nadzorna kamera ali fotoaparat na mobilniku. Več trgovskih mrež je preizkusno namestilo njuno storitev v poslovalnice, kjer prepoznavajo uporabnike, ki si dalj časa ogledujejo določene izdelke, in jim pošiljajo posebne ponudbe. Zadovoljni so tudi upravljavci mestnega prometa v Sankt Peterburgu, saj je findface prepoznal dobrih 70 odstotkov potnikov, ko so ga povezali z nadzornimi kamerami. »Predstavniki naše tajne službe FSB naju še niso obiskali, a sva pripravljena tudi njim predstaviti našo tehnologijo, če jih bo zanimalo,« sta povedala za britanski Guardian.

Kukarenko in Kabakov sta izbrala zelo dober trenutek za predstavitev nove storitve. Množičnega uvajanja tehnologije za prepoznavanje obraza ne zagovarjajo več samo običajni zgodnji uporabniki – avtoritarne države, trgovci in tajne službe –, ampak celo previdni Nemci. Nemški minister za notranje zadeve Thomas de Maiziere je v nedavnem pogovoru za časopis Bild am Sonntag povedal, da bodo zaradi teroristične grožnje začeli nameščati nove nadzorne tehnologije na letališčih, železniških postajah in v drugih javnih prostorih. Nadzorne kamere pa bodo povezali z zbirkami znanih teroristov in terorističnih osumljencev.

Globoko učenje

De Maizierova napoved je za politika pričakovana. Nemčija je postala v zadnjih letih pomembna tarča mednarodnih teroristov in domačih skrajnežev. Zato želi vlada pokazati državljanom, da bo poskrbela za njihovo varnost – s človeškimi policisti in tehnologijo, ki vsaj v raziskovalnem laboratoriju in na prodajnih predstavitvah obljublja zelo obetavne rezultate.

De Maiziere je povedal, da podobno tehnologijo že več let uspešno uporabljajo za prepoznavanje sumljivih kosov prtljage, ki predolgo samevajo na letališču ali na železniški postaji. Ameriški mediji so nedavno poročali o primeru, ko je program za prepoznavanje obrazov med rutinskim pregledovanjem vloge za vizum zaznal storilca nasilnega kriminalnega dejanja, ki ga je zagrešil pred štirinajstimi leti in nato pobegnil iz države. Zelo zgovorne so tudi predstavitve na tehnoloških konferencah, saj so predstavniki Facebooka povedali, da njihov algoritem za prepoznavanje obraza deepface v 97 odstotkih primerov pravilno ugotovi, da je na različnih fotografijah ista oseba. To natančnost bodo še izboljšali, ko bodo deepface bolje povezali z drugimi uporabniškimi podatki na facebooku – prijateljsko mrežo, lokacijo in fotografijami oseb, s katerimi se pogosteje pojavi določen obraz.

Dejansko natančnost algoritmov za prepoznavanje obraza je zelo težko oceniti, je povedal Peter Keše, ustanovitelj podjetja Videa in poznavalec tehnologij za obdelavo videa. Skoraj vsa velika internetna in tehnološka podjetja razvijajo svoje rešitve za obdelavo obraza. Novejši pametni mobilniki uporabljajo prepoznavanje obraza za odklepanje naprave namesto gesla, prav tako deseta različica Microsoftovih oken.

Ti algoritmi se učijo prepoznavati in analizirati obraze med milijardami podob, ki jih je mogoče najti na internetu in družabnih omrežjih. Učenje pri tem ni samo prispodoba, saj zmogljivejše rešitve uporabljajo »globoko učenje« s pomočjo umetnih nevronskih mrež, s katerimi inženirji posnemajo delovanje možganov (takšen pristop sta uporabila tudi Kukarenko in Kabakov). »Ljudje si zelo slabo predstavljajo eksponentne preskoke v računalništvu,« je dejal Keše. »Danes si lahko vsak posameznik privošči računsko moč, ki so jo še pred nekaj leti premogle samo države in največje institucije. Nevronske mreže znajo analizirati po več sto značilnih informacij o posameznem obrazu in jih primerjati z drugimi. Poleg tega znamo danes dodajati še podatke o glasu, grimasah, govorici telesa in drugih značilnostih, ki jih nevede razkrijemo nadzorni kameri. Zato bo najbrž mogoče že čez nekaj let prepoznati skoraj vsak človeški obraz v množici.«

Telefon in računalnik lahko izključimo ali pustimo doma, je še dodal Keše. Obraza pa ne moremo nehati uporabljati. Čaka nas prihodnost, ko v javnosti ne bomo več mogli ostati anonimni.

Obraz v množici

Množična uporaba tehnologij za prepoznavanje obrazov prinaša velika družbena tveganja. Ne samo zaradi njihove vse večje učinkovitosti, ki teoretično omogoča skoraj popoln nadzor nad populacijo. Še bolj nevarno je neznanje političnih odločevalcev, ki ne poznajo nekaterih pomembnih omejitev tehnoloških rešitev, ki jih kupujejo in nameščajo po državi. Takšni sistemi so lahko zelo natančni v zaprtih in nadzorovanih okoljih (podjetjih in ustanovah), kjer ni treba prepoznavati in identificirati neznancev v množici. Precej manj pa so primerni za lov na kriminalce in teroriste.

Če je algoritem za prepoznavanje obrazov 97-odstotno natančen, to še vedno pomeni 30 napačnih prepoznav na vsakih tisoč potnikov. Tudi če bi ta odstotek bistveno izboljšali, je napaka še vedno prevelika glede na dejanski delež kriminalcev in teroristov med državljani (ti imajo dovolj znanja in izkušenj, da se znajo izogniti elektronskemu nadzoru). Skoraj nemogoče je poskrbeti za enoten zajem posnetkov v zbirki, kar zelo vpliva na zanesljivost prepoznave: s kakšno opremo in v kakšnih razmerah so bili posneti in obdelani obrazi. Prav tako ni mogoče natančno predvideti, kako se bodo obrazi spreminjali zaradi starosti, mode, bolezni ali katerega koli drugega razloga, ki vpliva na fizionomijo. Število napačnih prepoznav bo kljub razvoju algoritmov ostalo nesprejemljivo veliko, saj so lahko posledice takšne identifikacije za žrtev usodne – od napačne obsodbe do smrti, če jo zasleduje oborožen brezpilotni letalnik.

Združevanje družabnih omrežij in storitve findface zato ne pomeni večje varnosti, ampak prinaša nova tveganja za običajne državljane in uporabnike interneta.

Ruski aktivisti opozarjajo, da v državi skoraj ni več mogoče organizirati demonstracije ali protesta, ker policija in tajne službe nadzorujejo večino internetnega prometa, snemajo protestnike in dopolnjujejo njihove elektronske kartoteke. Kritiki storitve findface so opozorili, da je novo orodje zelo uporabno za nadlegovalce, ki zasledujejo znane osebe ali še niso preboleli bivšega partnerja. Samooklicani varuhi javne morale so s findface v Rusiji prepoznavali domnevna dekleta na poziv in jih sramotili pred prijatelji na družabnem omrežju. Vse več je tudi primerov, ko se uporabniki po obisku trgovine ne morejo več znebiti nadležnih ponudb za določene izdelke, saj jih je med nakupovanjem prepoznala in analizirala umetna inteligenca.

Resnični motivi za množično nameščanje in uporabo nadzornih tehnologij so nadzor populacije, dobiček in moč. Obljuba večje varnosti je samo politični izgovor, ki je postal enako sprejemljiv za levi in desni del političnega prostora. Tudi v najbolj demokratičnih družbah.