Pomisleki: Vladarji 
zrcalnih svetov

Moja hči se pripravlja na maturo, vi pa ji pošiljate ponudbe za otroška oblačila, pleničke in igrače. Kaj se pa greste, jo hočete spodbuditi, naj zanosi, je razburjeni oče ošteval uslužbenca trgovske mreže Target, drugega največjega ameriškega trgovca. Pomiril ga je šele poslovodja, ki se je globoko opravičil za nerodnost in mu obljubil, da hčeri ne bodo več pošiljali katalogov za bodoče mamice.

Ko je čez nekaj dni poslovodja poklical očeta, da bi se mu v imenu trgovine še enkrat opravičil, je sogovornik v zadregi povedal, da očitno ni bil najbolje seznanjen z domačimi razmerami. Šestnajstletna nesojena maturantka mu je namreč priznala, da je res noseča in da bo konec poletja postal dedek. Targetov oddelek za analizo potrošniških navad se zato ni zmotil. Za nosečnost najstnice so trgovci izvedeli prej kot njeni družinski člani.

Anekdoto je novinarju New York Timesa Charlesu Duhiggu zaupal glavni analitik trgovskega podjetja Andrew Pole, ki so ga delodajalci pred nekaj leti vprašali, ali lahko z analizo uporabniških podatkov odkrije njihove noseče stranke. Nosečnice so za trgovce izjemno zanimive, saj so pripravljene radikalno spremeniti potrošniške navade in povečati nakupovalno košarico. Če trgovec na te spremembe vpliva z ustreznimi spodbudami – primernimi priporočili in popusti v pravem trenutku (ponavadi drugem trimesečju) –, lahko precej poveča prodajo in stranke dolgoročno priklene na posebne otroške ponudbe. Pri Targetu so ocenili, da bi jim sistem za zgodnje zaznavanje nosečnic že v nekaj letih pomagal zaslužiti več kot milijardo dolarjev.

Pole je zato začel razvrščati uporabniške podatke, ki jih je pridobil s kartice zvestobe (nakupljeni izdelki), demografskih kazalcev (bivališče, družina, prihodki, izobrazba, etnična in verska pripadnost …), kreditne zgodovine, porabljenih popustov, klikov na spletni strani in prebranih časopisov. Kmalu so se začeli kazati prvi vzorci. Nekateri so bili bolj očitni – nenadno kupovanje vitaminskih in mineralnih dodatkov –, drugi so se razkrili šele v kombinaciji z drugimi izdelki: menjava starega deodoranta za novega, ki je nežneje parfumiran, manjša poraba alkohola in tobaka, izbira protibakterijskih čistil … Sistem za zgodnje odkrivanje nosečnic je postal tako natančen, da lahko danes Target najde skoraj devetdeset odstotkov nosečih »tarč« že v prvem trimesečju, je neuradno izvedel Duhigg.

Podobnih medijskih zapisov je bilo v zadnjem času veliko. Sistemi za prepoznavanje obrazov na fotografijah in videoposnetkih, ki jih razvijajo izdelovalci nadzornih sistemov in upravljavci spletnih družabnih omrežij (facebook, google), so postali tako zmogljivi, da lahko samodejno prepoznajo skoraj vsak obraz, ki se pojavi na svetovnem spletu – v spletnem fotoalbumu, osebnem profilu ali videu. Poročila o visokotehnološkem volilnem štabu ameriškega predsednika Baracka Obame omenjajo napredne analize ameriških volivcev, ki zelo natančno napovedujejo, kateri državljan se bo odpravil na volitve in katerega kandidata bo volil. Zanesljivost sistemov umetne inteligence je marsikje presegla devetdeset odstotkov, zato lahko napredni matematični algoritmi z veliko natančnostjo izračunavajo kreditna tveganja, odločajo o višini zavarovalnih polic, določajo zaloge na trgovskih policah in prevajajo besedila med svetovnimi jeziki.

Človeški odzivi na podobne tehnološke novice se zadnji dve stoletji niso dosti spreminjali. Publicisti in politiki so tehnologijo večinoma obravnavali kot nekakšen naraven pojav, ki se od nekod pojavi in pred katerim se je treba braniti ali se mu prilagoditi. Zagovorniki so se veselili večje »optimizacije«, ki jo prinašajo zbiranje, analiza in uporaba najrazličnejših podatkov o ljudeh, okolju in strojih – večjih zaslužkov podjetij, boljše izrabe dragocenih naravnih in človeških virov, učinkovitejšega preganjanja družbenih anomalij (kriminala, korupcije …) ter dokončne prevlade dejstev nad subjektivnostjo, ki da je zagrešila že toliko škodljivih odločitev in gorja. Kritiki so svarili, da ima tehnologija tudi negativne plati, saj lahko – če je ne uporabljamo odgovorno – prinese še večje družbeno razslojevanje, razčlovečenje posameznika, diskriminacijo in izgubo zasebnosti, ki lahko v sobivanju s skrajnim potrošništvom prinese totalitarno družbo nadzora. Zato je treba rabo neukrotljive tehnologije pravočasno civilizirati z ustreznimi zakoni, pravili in etičnimi kodeksi.

Vendar ni v optimizaciji trgovskega lova na nosečnice nič »naravnega«. Za francoskega filozofa in zgodovinarja Michela Foucaulta bi bili današnji zapisi o več kot 90-odstotni natančnosti matematičnih algoritmov pri napovedovanju človeškega obnašanja verjetno le uresničevanje njegovih razmišljanj o vzponu statistike kot najpomembnejšem mehanizmu vladanja po koncu 18. stoletja, ki naj bi prinesla – po napovedih britanskih utilitaristov – kar največ sreče in blaginje za čim več ljudi. Razsvetljenska vera v univerzalne zakone, ki jih lahko razkrije le objektivna znanstvena metoda, je srečala matematiko in začela iskati pravila družbene mehanike, ki določa obnašanje posameznikov. Ker pa statistika »deluje« le na dovolj velikem vzorcu (loči pravila od naključij), se ne ukvarja s posameznikom, temveč s populacijo in populacijami, ki so postale temelj prihodnje moderne države, njenih sistemov (zdravstva, zaposlovanja, upokojevanja …) in ustanov (šole, tovarne, zapori …).

Iznajdba populacije je za Foucaulta pomenila začetek nove tehnike vladanja, ki je temeljila na predvidevanju, normiranju in nadzorovanju populacijskih gibanj – biopolitike. Vendar je imela ta nova tehnologija optimizacije družbenih procesov in odpravljanja negotovosti zelo veliko pomanjkljivost. Foucault je opozoril, da nobena statistična kategorija ali populacija ni naraven odraz neke družbene skupine ali stanja, ampak kategorije vedno (so)ustvarjajo in določajo razmerja družbenih moči in ideologij – kdo in po kakšnih merilih nas razvršča. Hkrati so politični znanstveniki in družbeni inženirji (še zlasti ekonomisti) v »negativnih statističnih odklonih« vse teže prepoznavali človeške posameznike, ki imajo enake pravice kot statistična večina (»normalna populacija«) ali njeni pozitivni, družbeno uspešni in sprejemljivi delci.

Vendar populacije niso problematične samo zaradi strokovno utemeljenih diskriminacij, ki jih nujno povzroča razvrščanje v statistične skupine. Ameriški profesor in strokovnjak za umetno inteligenco David Gelernter je v knjigi Mirror Worlds že v začetku devetdesetih let napovedal, da bo mogoče zaradi hitrega razvoja računalništva, programiranja in globalnega medmrežja kmalu izdelati popolne matematične modele fizičnega sveta ali njegove »zrcalne svetove«. Tak matematični model, v katerem je natančno zajeta celotna trgovina, tovarna, mesto, družbeni sistem ali država, bi raziskovalcem ponujal nepredstavljive možnosti spoznavanja in razumevanja kompleksnih družbenih procesov ter preučevanja njihovih medsebojnih vplivov. Še bolj vabljiv bi bil za menedžerje in druge upravljavce človeških skupnosti, ki bi lahko svoje organizacije vodili kar prek računalniškega modela – kar sodobni poslovni informacijski sistemi že nekaj časa omogočajo.

Ko je Gelernter sestavljal teoretični načrt za graditev zrcalnega sveta, ki sta ga začela pozneje dosledno uresničevati ustanovitelja Googla, pa je potrdil še eno pomembno Foucaultovo slutnjo. Resničnih zrcalnih svetov (populacij) ni nikoli mogoče samo nevtralno opazovati, ampak graditelji nanje nujno vplivajo s postavljanjem pravil, zakonitosti, omejitev in spodbud. Včasih so ti vplivi razmeroma naključni ali pogojeni z raziskovalno metodologijo, drugič imajo jasne interese – kar med drugim kažejo Targetovi lovci na nosečnice, ki s prilagojenimi ponudbami in katalogi oblikujejo njihove potrošniške navade ter povečujejo prodajo potrošnega blaga, da bi se kar najbolje odrezali v zrcalnih svetovih finančnih ustanov, borze in gospodarskih ministrstev.

Informacijske družbe, v kateri uradno živimo, zato skoraj ni mogoče misliti brez spoznavanja zrcalnih svetov, v katerih se gibljemo med nakupovanjem, delom, uporabo facebooka, reševanjem grške dolžniške krize in izpolnjevanjem prošnje za otroški dodatek. Pravila, po katerih delujejo ti svetovi, so si izjemno podobna. Prav tako njihovi arhitekti.