13. studeni 2026. | Strasbourg | Uredio: Božidar Žitnik 

Umjetna inteligencija u vrijeme sukoba: trenutak je za razoružavanje umjetne inteligencije

„Vrisak” povjerenika za ljudska prava Vijeća Europe | Dr. Michael O'Flaherty  

Zamislite distopijski svijet u kojem algoritamsko profiliranje pretvara odabir vojnih ciljeva u automatiziranu "tvornicu ciljeva", prateći pojedince do njihovih obiteljskih domova prije odobrenja zračnih napada. Ovo više nije distopija. Odluke koje određuju tko će živjeti, a tko umrijeti u ratu sve više oblikuju strojevi. Umjetna inteligencija (UI) brzo se integrira u vojne operacije, od prikupljanja obavještajnih podataka i identifikacije ciljeva, do sustava naoružanja i odlučivanja o upotrebi sile. Autonomni sustavi naoružanja, uključujući one s umjetnom inteligencijom koji mogu odabirati i napadati ciljeve bez ljudske intervencije nakon aktiviranja, već se razvijaju i raspoređuju.

Sljedeći tjedan državama se nudi prilika za djelovanje. Od 16. do 20. studenog vlade će se sastati u Ženevi kako bi razmotrile otvaranje pregovora o ugovoru o reguliranju autonomnog oružja. Okupljanje UN-a pruža priliku za učvršćivanje ključnog načela u pravu: ljudi moraju zadržati značajnu kontrolu nad upotrebom sile i ostati odgovorni za nju. Države moraju iskoristiti ovaj trenutak za razoružavanje umjetne inteligencije. 

Test ljudske kontrole 

Pitanje nije koristi li vojni sustav umjetnu inteligenciju. Odgovorno korišteni, bespilotni i sustavi s umjetnom inteligencijom mogu pomoći u zaštiti civila ili smanjenju žrtava vojnika. Pitanje je zadržavaju li ljudi značajan ljudski nadzor i mogu li se te tehnologije koristiti u skladu s međunarodnim pravom. Sustavi umjetne inteligencije mogu biti neprozirni i nepredvidivi, oslanjajući se na zastarjele ili pristrane podatke kako bi proizveli rezultate koji se ne mogu adekvatno predvidjeti. Pogreške su se već dogodile, s razornim posljedicama. Nadalje, brzina operacija s umjetnom inteligencijom može ostaviti premalo vremena za provjeru ciljeva ili procjenu zakonitosti njihovog djelovanja. Ljudska kontrola riskira da postane neprozirna kada se operateri prepuštaju strojevima koje doživljavaju kao autoritativnije ili preciznije od sebe ili kada potpuno izgube kontrolu nad autonomnim donošenjem odluka. Ova dinamika povećava rizik od nezakonitih napada, ugrožava pravo na život i narušava odgovornost za kršenja. 

Rizici se ne zaustavljaju na bojnom polju. Tehnologije razvijene za rat migriraju u civilna okruženja, poput granične kontrole ili policijskog nadzora okupljanja, ili padaju u ruke nedržavnih aktera koji čine nezakonita djela. Umjetna inteligencija se koristi kao oružje za manipuliranje informacijskim okruženjem i ometanje civilne infrastrukture. 

Smanjivanje regulatorne praznine 

Regulacija nije uspjela pratiti te stvarnosti. Iako se međunarodno pravo o ljudskim pravima i međunarodno humanitarno pravo primjenjuju i moraju se poštivati, njihovo tumačenje ne rješava svako pitanje koje te tehnologije postavljaju. Postojeći okviri, uključujući Zakon EU o umjetnoj inteligenciji i Okvirnu konvenciju Vijeća Europe o umjetnoj inteligenciji, isključuju vojnu upotrebu iz svog opsega. 

Više od desetljeća Ujedinjeni narodi, Međunarodni odbor Crvenog križa i organizacije civilnog društva rade na rješavanju ovih opasnosti, odražavajući rastući konsenzus da postojeće pravne mjere nisu dovoljne. Važni procesi sada su u tijeku u UN-u, kako unutar Konvencije o klauzulama o svjetskom ratnom oružanju, tako i u Općoj skupštini, gdje države raspravljaju o regulaciji autonomnog oružja i širim posljedicama vojne umjetne inteligencije za mir i sigurnost. 

Očuvanje ljudskog dostojanstva 

Kako se utrka za militarizacijom umjetne inteligencije ubrzava, odlučna akcija je nužna. Države bi trebale brzo djelovati podržavajući hitne, vremenski ograničene pregovore o globalnom, pravno obvezujućem instrumentu o autonomnom oružju i unapređujući regulaciju drugih vojnih upotreba umjetne inteligencije. Privatni sektor također snosi odgovornost. Tvrtke koje dizajniraju, razvijaju ili isporučuju ove sustave trebaju poštivati ljudska prava u skladu s Vodećim načelima UN-a o poslovanju i ljudskim pravima. Moraju provoditi dubinsku analizu ljudskih prava, ublažavati rizike i ugrađivati standarde ljudskih prava i humanitarnog prava u dizajn i primjenu svojih proizvoda.

Odluke o životu i smrti moraju ostati utemeljene na ljudskoj prosudbi, odgovornosti i odgovornosti. Upotrebom sile moraju upravljati ljudi koji djeluju prema jasnim pravilima i poštuju ljudska prava – nikada se ne smije delegirati na strojeve. Čovječanstvo ne zahtijeva ništa manje.