Rojevi AI dronova koji sami odlučuju koga ubiti. To više nije SF
BOJIŠTE kojim haraju potpuno autonomni dronovi sposobni sami birati i gađati mete bez ikakvog ljudskog uplitanja zvuči kao mračna znanstvena fantastika. Iako to još nije u potpunosti zaživjelo, rat između Rusije i Ukrajine gura suvremeno ratovanje upravo u tom smjeru, piše The Conversation, utjecajni neovisni portal koji objavljuje analize sveučilišnih profesora i istraživača.
Utrka prema potpuno autonomnim borbenim dronovima
Posljednjih godina obje su vojske na bojište poslale poluautonomne bespilotne letjelice i sada se silovito natječu tko će prije stvoriti potpuno samostalne borbene dronove.
S obzirom na dosadašnji razvoj i golemi tempo proizvodnje u Rusiji i Ukrajini, posve je izgledno da ćemo za nekoliko godina gledati bojišta na kojima operiraju stotine ili čak tisuće potpuno samostalnih letjelica. Međutim, tehnologija koja stoji iza ovakvog ratovanja razvija se znatno brže od pravila i mehanizama kojima bi Moskva i Kijev zadržali barem kakav-takav ljudski nadzor nad oružjem.
Algoritam umjesto ljudske savjesti
Kao stručnjak za tehnologiju naoružanja, pribojavam se da će potrebe na bojištu potpuno pregaziti čovjekovu ulogu u odabiru meta – posebno kada je riječ o procjeni razmjernosti napada, poštedi civila i smanjenju kolateralne štete.
Otkako je u veljači 2022. počeo rat, i Ukrajina i Rusija stavile su proizvodnju i upotrebu dronova na vrh svojih prioriteta. Rusija u početku nije mogla sama proizvoditi goleme količine dronova-kamikaza pa se za tehnološku pomoć obratila Teheranu, da bi potom postupno izgradila vlastite pogone. Ukrajina je pak imala dronovsku industriju u povojima, no brzo ju je razvila povezivanjem privatnih obrambenih tvrtki i tehnoloških inovatora.
Kako je vrijeme odmicalo, obje su strane postojećim letjelicama dodavale elemente autonomije, ali i stvarale potpuno nove sustave. I Rusi i Ukrajinci danas koriste bespilotne letjelice koje uz pomoć umjetne inteligencije samostalno prepoznaju ciljeve, navigiraju prostorom i navode se na metu.
Prvi napadi bez kontrole operatera
U studenome 2025. ukrajinski FPV dron pogodio je vjerojatno ruski tenk koristeći sustav navođenja potpomognut umjetnom inteligencijom, i to nakon što je letjelica izgubila vezu s operaterom. Čovjek je odabrao metu, ali se dron u završnoj fazi leta sam navodio do pogotka.
Iako pouzdanih podataka o točnom broju takvih letjelica na bojištu nema, dostupni izvještaji pokazuju da one zasad čine tek manji dio od milijuna dronova koje su obje strane dosad potrošile. Na samom vrhu tog tehnološkog skoka nalazi se Rusija, koja je početkom 2025. na ratište izbacila barem jedan model potpuno autonomne bespilotne letjelice.
Kada su ukrajinski stručnjaci analizirali oborene ruske dronove V2U, u njima su pronašli malo Nvidia računalo namijenjeno pokretanju softvera za samostalno donošenje odluka. Modeli pronađeni krajem 2025. na sebi više nisu imali nikakve vanjske komunikacijske sklopove koji bi upućivali na to da njima upravlja čovjek s tla.
Ruski dron sam izabrao točku udara na benzinskoj crpki
Tehnički sustavi letjelice V2U podešeni su tako da dron nakon lansiranja može potpuno samostalno pronaći i napasti metu, bez ikakva uplitanja operatera. Čovjek je dosad birao mete ili područje udara prvenstveno iz moralnih razloga, što samo naglašava težinu činjenice da V2U sve te zadatke sada može obavljati sam.
Njegov računalni mozak koristi sustav strojnog vida i analizira snimke s ugrađenih kamera. Tako sam prepoznaje objekte na tlu, prati ih, leti prema njima i među njima bira što će pogoditi.
U srpnju je Rusija u borbama upotrijebila drukčiji dron s umjetnom inteligencijom koji je pokazao nešto jednostavniji oblik samostalnog gađanja. U napadu na benzinsku crpku u Zaporižju poginulo je troje ukrajinskih civila. Ljudi za upravljačem odredili su samu benzinsku crpku kao područje napada, no softver u dronu je posve samostalno odabrao točnu točku u koju će se letjelica zabiti.
Sličnu tehnologiju Rusi ugrađuju i u seriju bespilotnih letjelica Geranj, nastalih na temeljima iranskog drona Shahed-136. Pojedini modeli Geranja opremljeni su sustavom za samonavođenje koji omogućuje računalu u letjelici da preuzme upravljanje u završnoj fazi leta, nakon što čovjek u početku označi metu.
Ukrajinski modularni čipovi i rojevi koji sami donose odluke
Ukrajina se s druge strane usmjerila na modularne komplete s umjetnom inteligencijom – čipove s ugrađenim softverom i kamerama koje može jednostavno montirati na razne tipove letjelica. Već su na bojište poslali dronove koji pomoću ugrađenog računala prepoznaju ciljeve i vode letjelicu do samog udara.
Jedan takav modul prati metu i samostalno navodi dron posljednjih 500 metara leta. Tvrtka koja proizvodi to računalo već nudi još naprednije verzije za koje tvrdi da pružaju veću, pa čak i potpunu samostalnost.
Kijev tvrdi da je već iskušao naprednije autonomne dronove u borbi. Bivši ministar obrane Mihajlo Fedorov izjavio je u srpnju da je Ukrajina na okupiranom Krimu upotrijebila dron koji je samostalno birao ciljeve bez ikakve radioveze s pilotom, dodavši da se taj model još ne proizvodi masovno.
Također se navodi da je Ukrajina prije dvije godine kod Bahmuta koristila navodno potpuno samostalne kvadrikoptere koji su ubijali ruske vojnike. Ipak, podaci da su te letjelice bile unaprijed programirane otvaraju pitanje jesu li mete odabirale same ili je to ranije učinio čovjek.
Strojevi otporni na ometanje brišu ljudski nadzor
Prednosti ovakvog oružja na ratištu su očite, iako ni Kijev ni Moskva najnaprednije sustave još ne koriste u masovnim razmjerima. Autonomni dronovi ne ovise o radiouređajima i vezama, što znači da neometano lete i napadaju čak i kada neprijatelj uključi najjače sustave za elektroničko ometanje. Zbog toga mogu gađati ciljeve duboko u neprijateljskom teritoriju.
Samostalno navođenje u zadnjim sekundama leta olakšava i pogađanje meta u pokretu, a kada bi vojske masovno uvele potpuno samostalne dronove, trebao bi im znatno manji broj vojnika za upravljanje.
No, ta tehnologija otvara golemi etički ponor. Najveća je opasnost što razvoj ovog oružja galopira brže nego što vojske uspijevaju uspostaviti pravila o ljudskom nadzoru. Prema propisima ukrajinskog ministarstva obrane, čovjek mora ostati uključen u donošenje borbenih odluka i osobno potvrditi metu u završnoj fazi napada.
Rusi pod "ljudskim nadzorom" misle nešto sasvim drugo
Ruska stajališta o kontroli naoružanja otkrivaju sasvim drukčiji pogled. Ruski dužnosnici pod "ljudskim nadzorom" podrazumijevaju tek mogućnost da čovjek podesi postavke sustava, isključi ga ili mu unaprijed ograniči vrste meta koje smije napadati. Međutim, Moskva nigdje ne uvjetuje da čovjek mora vidjeti i odobriti metu prije samog udara.
Koliko god sve to zvučalo zastrašujuće, sljedeći korak u ratovanju umjetnom inteligencijom još je opasniji: rojevi dronova koji će u skupinama od nekoliko letjelica do nekoliko tisuća njih međusobno komunicirati, loviti mete u čoporu i u hodu sami mijenjati ponašanje. U takvim uvjetima bilo kakav stvarni ljudski nadzor postaje praktički nemoguć.