Autonóm fegyverek

Már itt is van a Terminátor? - Önmagukat fejlesztő, gyilkos autonóm fegyverek

Tudomány

A mesterséges intelligencia segítségével önállóan döntő fegyverek nem csupán a jövő eszközei: már most is bevetésre készek. Sokan inkább betiltanák ezeket.

Nem pusztán a mozikba került új Terminátor-film (lásd Visszhang rovatunkat) váltott ki fokozott érdeklődést a gyilkos robotokként emlegetett autonóm fegyverek iránt. A precízen halálos autonóm fegyvereknek (Lethal Autonomous Weapons – LAWs) nevezett fegyvercsoport részben már létezik, zömmel azonban inkább fejlesztés alatt áll.

A legfrissebb katonai innovációkról általában csak jelentős időeltolódással értesül a civil nagyközönség, de várakozásainkat és félelmeinket olyan sci-fi-klasszikusok táplálhatták, mint például Philip K. Dick novellája, a Második változat (és a belőle készült Screamers – Az elhagyott bolygó c. film), amelyben felbukkan az önmagukat fejlesztő, gyilkos autonóm fegyverek ötlete.

Újítás a Vörös Hadseregben

Az autonóm fegyverek ősein már az első világháború alatt, majd a két világháború között is kísérleteztek. A terület úttörői a szovjetek voltak, a Vörös Hadsereg kebelén belül működő katonai innovációs részleg már a harmincas években kifejlesztette a személyzet nélküli, távirányítású páncélosokat (ún. teletankokat). Őket a németek követték: a második világháború végén a szövetségeseknek gyűlt meg a bajuk a robbanószerrel megpakolt, személyzet nélküli Goliath minitankokkal, míg a V-1 pulzáló sugárhajtóművel felszerelt szárnyas repülő(bomba) sok tekintetben a mai robotrepülőgépek ősének tekinthető.

A szövetségesek által elfogott Goliath-ok

A szövetségesek által elfogott Goliath-ok

 

Jogos felvetés, hogy ezek a gépek nem teljesítették az autonóm fegyverekkel szemben támasztott legfontosabb kritériumot, jelesül azt, hogy a beleprogramozott instrukcióknak megfelelően, pusztán mesterséges intelligenciájuk segítségével önállóan tudják megkeresni a célpontot, amit azután megpróbálnak elpusztítani, vagy legalábbis szembeszállni vele. Valójában az autonóm harci gépekkel kapcsolatos elvárások és a követelményeket tartalmazó definíciók is túlságosan szerteágazóak.

Nem is csoda, hiszen mérnöki szempontból autonómnak nevezünk minden olyan gépezetet, amely emberi közbeavatkozás nélkül képes működni, általában valamiféle automatika révén. Ebből a szempontból a köznyelvben taposóaknának nevezett telepített robbanóeszközök is autonómnak tekinthetők. A szigorúbb definíció szerint autonómnak számít az a fegyver (leegyszerűsítve „gyilkos robot”) vagy felfegyverzett rendszer, amely képes tanulni és viselkedésében is adaptálódni a változó (harci) környezethez, ráadásul képes önmagának tűzparancsot adni.

Amennyiben ennél alacsonyabbra tesszük a lécet, máris több fegyvert tekinthetünk autonómnak. Például Peter Asaro és Mark Gubrud tanulmányai szerint autonómnak tekinthető minden olyan harci rendszer, amely halálos erővel képes lesújtani emberi irányítás, döntés vagy a célpont emberi megerősítése nélkül. Mivel az autonóm fegyverzetet fejlesztő kormányzatok inkább a szigorúbb definíciókat pártolják, így ahhoz, hogy létrejöhessen egy nemzetközi megállapodás a „gyilkos robotok” korlátozásához, a legalapvetőbb konszenzus is hiányzik.

Véd is

Autonómnak tekinthető védelmi rendszerek már régóta működnek – és a gyilkos robotokkal szembeni gyanú általában nem ezeket lengi körül. Több ország is működtet olyan, radarokkal összekapcsolt védelmi hálózatokat, amelyek képesek a figyelmeztetés nélkül feltűnő, magukat nem azonosító repülő járművek, rakéták, lövedékek megsemmisítésére. A hadihajókon már a hetvenes évek óta működnek a közelről jövő csapás kivédésére alkalmas, radaralapú védelmi rendszerek (CIWS – Close-in Weapon System), de páncélosokra is telepítenek már ilyen autonóm védelmi rendszereket.

Az izraeli Vaskupola, vagyis a rövid ható­su­garú rakétatámadások és lövedékek kivédésére alkalmas mobilrendszer hellyel-közzel maga is autonómnak tekinthető. Nagyobb fokú autonómiával bírnak a harci drónok és az önvezetésű katonai járművek. Már léteznek olyan önvezetésű drónok (például a brit BAE Systems Taranis), amelyekre alapozva létre lehet hozni egy, a célpontot autonóm módon, önállóan azonosító légierőt, ez azonban hivatalosan csak emberi megerősítés révén fog csapást mérni.

Nem mástól vár tűzparancsra

Nem mástól vár tűzparancsra

Fotó: ttac21.net

A máris ígéretes (más szemszögből riasztó) innovációk csupán az első fecskék: a britek, az amerikaiak, az oroszok, az izraeliek, a kínaiak és még megannyi, komoly hadsereggel rendelkező ország katonai innovációjában immár kulcsfontosságú az autonóm támadó fegyverek kifejlesztése. Élénk reakciókat váltott ki, amikor 2017-ben az izraeli kancelláriaminiszter miniatűr, akár bogár méretű autonóm robotfegyverek kifejlesztéséről beszélt (többen azzal vádolták, hogy katonai titkokat szivárogtatott ki), míg az oroszok néhány éve nukleáris meghajtású, tengeralatti autonóm torpedó kifejlesztését jelentették be.

Pró és kontra

Az autonóm fegyverrendszerek hasznossága az ezeket bevető hadseregek szempontjából látszólag kétségbevonhatatlan: értékes emberi élőerőt kímélnek meg, sőt, bevetésük a tapasztalatok szerint jó hatással van a katonák moráljára (elvégre: ha már a gépek is velünk, akkor ki ellenünk?). A technológiailag fejlettebb haderők eddig jórészt kevésbé jól eleresztett ellenfelek ellen, helyi háborúkban vetették be az autonóm harci eszközöket – nagy kérdés, mi történik majd, ha a jövőben két high tech hadsereg csap össze, soraikban autonóm fegyverekkel és halálosztó robotokkal.

A fegyverrendszerek pártolói hajlamosak arra hivatkozni, hogy az autonóm módon, a mesterséges intelligencia segítségével, racionális mérlegelés nyomán döntő és tüzelő fegyverek bevetése kevesebb járulékos áldozattal járna, ezek ráadásul – így az érvelés – nagyobb hatékonysággal tudnának különbséget tenni civil és katona között. Emellett pontosabban célozhatnak, és nagyobb kockázatot is vállalnak. És egy robot aligha küzd majd egy háborús konfliktus után poszttraumás stressz szindrómával.

Az autonóm fegyverrendszerek harsány kritikusai szerint azonban az ilyen eszközök több gondot okoznak, mint amennyit megoldanak. Nem egyértelmű például, hogyan tesznek majd különbséget civil és katona között. Felvetődik az is, hogy ki lesz a felelős, ha az autonóm fegyverek hibáznak. A mesterséges intelligencia legfontosabb tulajdonsága, hogy feltörhető, és a meghekkelt robotharcosok akár bajtársaik és a polgári lakosság ellen fordulhatnak. Az is kérdéses, mi történik, ha a terroristák vagy „lator államok” kezébe kerülnek ilyen fegyverek.

false

 

Fotó: Uns

Elgondolkodtató szempont, hogy a robot irgalom nélkül öl, tehát nem képes megkegyelmezni az ellenfélnek (igaz, a robotok aligha követnek el olyan iszonytató kegyetlenségeket, amire az embe­rek által vívott háborúkban vetemedtek a hadviselő felek). Akadnak, akik az emberi méltóság szempontjából is problematikusnak látják, ha egy gép öl meg egy embert (erre azért joggal lehet rávágni, hogy semmivel sem különb, ha ember öl embert).

A halálosztó autonóm fegyverek betiltásáért még 2012-ben indult világméretű mozgalom (lásd interjúnkat), majd 2015-ben ezer, a mesterséges intelligenciával foglalkozó szakértő szignálta a LAWs betiltását követelő levelet (közöttük volt Stephen Hawking, Elon Musk, Steve Wozniak és Noam Chomsky is). Az utóbbi években már az ENSZ foglalkozik a terület szabályozásával: a 2019 márciusában megtartott találkozón a tagállamok többsége az ilyen futurisztikus fegyverrendszerek betiltása mellett foglalt állást. A legfontosabb LAWs-fejlesztőknek (pl. Ausztrália, Izrael, Oroszország, Nagy-Britannia és az Egyesült Államok) azonban eszük agában sincs visszafogni magukat.

(Nyitókép: jelenet az 1984-es Terminátor című filmből.)

Neked ajánljuk