Kako prepovedati orožja, ki ubijajo sama

V Ženevi že več mesecev potekajo pogajanja o prepovedi tako imenovanega »avtonomnega orožja«.

Objavljeno
27. december 2017 14.06
Damijan Slabe
Damijan Slabe

Predstavniki držav se na sedežu Združenih narodov v Ženevi že več mesecev ukvarjajo z vprašanjem, kako ustaviti hitro robotizacijo vojn in prepovedati orožja, ki so že sposobna ubijati sama.

Pri tem ne gre za tako imenovane drone oziroma brezpilotna letala in različne letalnike, ki so v zadnjem desetletju ali dveh krepko spremenili vodenje vojn in po prepričanju nasprotnikov tovrstnega pobijanja zakrivili na tisoče tako imenovanih izvensodnih eksekucij z ogromnim številom žrtev med naključno prisotnimi civilisti. Te brezpilotnike namreč še vedno, četudi iz več tisoč kilometrov oddaljenega centra, vodi človek, ki s pomočjo kamer odloča, na koga bo iz brezpilotnika streljal. Človek je v tem primeru torej še vedno tisti, ki pritisne na sprožilec. Pri tako imenovanih »avtonomnih orožjih« pa gre za nekaj povsem drugega. V igri so sistemi in orožja, ki dejansko že ubijajo sama, torej avtonomno, po lastni »presoji« in tako da človeku sploh ni več treba pritisniti na sprožilec.

Leteči mini roboti ubijalci

Iz reklamnih filmov orožarskih firm je znan miniaturni dron, oborožen z eksplozivom, ki se leti že povsem avtonomno in tudi sam išče cilj napada. Dovolj je, da mu uporabnik v njegov softverski sistem »naloži« fotografijo žrtve (lahko tudi z družbenih omrežij), in »dronček« bo vse ostalo opravil sam. Brez slabe vesti in pomislekov. S tehnologijo prepoznavanja obraza, ki jo obvlada že vsak malce pametnejši telefon, bo v množici poiskal žrtev, se spustil do nje in eksplodiral.

Ker je tovrstna tehnologija danes že relativno preprosta in dostopna, si ni težko predstavljati, kaj bi se zgodilo, če bi se tako orožje znašlo v nepravih rokah. Izbira žrtev bi bila poljubna, storilcev pa nikoli nihče ne bi našel. Tudi zato je prepoved razvoja tovrstnih avtonomnih orožij, še preden pridejo v splošno vojaško uporabo, tako pomembna. Ženevska komisija je na ta način pred leti uspela prepovedati uporabo laserjev, ki dolgotrajno oslepijo nasprotne vojake, še preden jih je vojaška industrija do konca razvila, pri današnjih orožjih, zlasti pri dronih, ki so vojaško postali izjemno uporabni in popularni, pa že krepko zamuja.

Jate dronov in samostrelni stolpi

Robotizirane vojne, v katerih se samostojno bojujejo tako rekoč že povsem avtomatizirana orožja, namreč že dolgo niso več le stvar znanstvenofantastičnih filmov. Izraelska orožarska industrija se, na primer, pred kupci hvali z dronom, ki mu je ime Harop in je podoben miniaturnemu reaktivnemu letalu. Nad bojiščem lahko samostojno kroži ure in ure ter išče radijske valove, brez katerih ne moreta delovati noben sovražni protiletalski sistem ali sovražno topništvo. Ko jih najde, jim sledi in na koncu strmoglavi na cilj ter ga uniči; ali pa se, če cilja ni našel, po več urah sam vrne v bazo.

Droni so po prepričanju mnogih zakrivili na tisoče tako imenovanih izvensodnih eksekucij z ogromnim številom žrtev med naključno prisotnimi civilisti. Foto: Achilleas Zavallis/AFP

Podobnih robotiziranih in povsem avtomatiziranih oborožitvenih sistemov, ki po zatrjevanju strokovnjakov vodijo v »tretjo revolucijo« pri vodenju vojn (prvo je povzročilo odkritje smodnika, drugo pa jedrske bombe), je seveda še veliko. Tudi takih, o katerih ni mogoče nikjer prebrati ali slišati. Američani naj bi med drugim razvijali miniaturne drone, velike le nekaj centimetrov, ki jih je v stotinah mogoče odvreči iz letala, potem pa samostojno oblikujejo formacijo, letijo nad sovražnimi cilji in povsem zmedejo obrambo (ali pa v jatah obkrožajo in s tem pred izstrelki ščitijo bojne helikopterje), medtem ko naj bi ruski orožarski velikan Kalašnikov menda razvil povsem samostojno delujoče strelne stolpe, ki prepoznajo sovražnika in nanj sprožijo ogenj. Postaviti jih je mogoče na osvobojena ozemlja ali vzdolž pomembnih prometnic in komunikacij, kjer povsem nadomestijo vojake.

Ko človek ne odloča več

Kritiki tovrstnega oboroževanja, tudi iz vojaških vrst, opozarjajo, da lahko tovrstna orožja povsem spremenijo način vodenja vojn, da lahko v marsičem povsem nadomestijo pomanjkanje vojakov na bojišču, kar z drugimi besedami pomeni, da lahko povsem spremenijo tudi strateško ravnotežje vojaške moči. Po eni strani že s tem, ker velikost armade ne bo več odločilna, predvsem pa z relativno lahko dostopnostjo do tovrstnega orožja, ki ne bo več tako drago in tudi ne tehnološko tako zahtevno, da bi imele dostop do njega samo super razvite vojaške sile. Ko bodo namreč tovrstna orožja enkrat dovolj preizkušena in na orožarskem trgu dostopna tako rekoč vsem, z njimi ne bodo več razpolagale le vojaške sile velikih držav, ampak tudi številne malopridne države.

Še večja nevarnost je seveda, ker se bodo do relativno preproste tehnologije prej ali slej dokopali hekerji, ki jo znajo zlorabiti, ali celo teroristi, ki s tovrstnim orožjem lahko naredijo ogromno škode, najhujši problem pa je, da pri orožjih iz tako imenovane »tretje vojaške revolucije« človek na koncu sploh ne bo več tisti, ki bi odločal, proti komu bo to smrtonosno orožje sproženo in koga bo ubilo.

Ko je avtonomni sistem namreč enkrat vključen, cilje praviloma izbira sam in jih po lastni »presoji« potem tudi uniči. Cilj ženevskih pogajalcev je zato predvsem ustaviti, ali pa vsaj – kolikor je le mogoče in preden bo prepozno – omejiti razvoj tovrstnih avtonomnih oborožitvenih sistemov, pri tem pa človeku vendarle zagotoviti, da bo tudi v tehnološko povsem ponorelem svetu še lahko ohranil nadzor nad sprožilcem, ki odloča o življenju in smrti.