Aggasztóan sokszor jut atomcsapásig a mesterséges intelligencia háborús szimulációkban

  • narancs.hu
  • 2024. február 4.

Tudomány

Még a semleges kiinduló helyzetből is hamar elmérgesedő konfliktust generál.

Néhány hete az OpenAI feloldotta az addigi szigorú tiltását a mesterséges intelligenciája katonai felhasználásával kapcsolatban, és együttműködésbe kezdett az amerikai védelmi minisztériummal. Ez nem kis felhördülést váltott ki, mivel a cég az elmúlt pár évben a ChatGPT-vel a világ legfelkapottabb MI-fejlesztőjévé vált, és ebben a pozícióban az ilyesfajta döntéseknek erős szimbolikus jelentőségük is van. A lépést azzal indokolták, hogy továbbra sem hajlandóak a technológiájukat fegyverfejlesztések szolgálatába állítani, vagy emberek megöléséhez asszisztálni vele, „léteznek a nemzetbiztonságban olyan törekvések, amelyek passzolnak a filozófiájukhoz” – írja a telex.hu.

Az amerikai hadsereg egy ideje már teszteli a ChatGPT-hez hasonló, MI-alapú nyelvi modelleket a katonai tervezésben, szimulált háborús helyzetekben bonyolódó virtuális háborús játékokban. Egy amerikai egyetemi kutatócsoport most levezényelt egy ilyen háborús szimulációt, amelyben mesterséges intelligenciák kezébe adták a döntést egy-egy ország lépéseiről.

A szimulációt három verzióban futtatták le, az egyikben hagyományos katonai invázió ér egy országot, a másodikban kibertámadás, a harmadik teljesen semleges alapállapotból indul ki.

A szimulációban az egyes országokat vezető MI-knek (a ChatGPT 3.5 és 4 verziói, a Meta Llama 2-je, és az Anthropic-féle Claude 2) egymás lépéseire kellett reagálni, és ehhez 27 féle akció közül választhattak, majd meg is kellett indokolniuk a döntéseiket. A lehetséges akciók között olyasmik szerepeltek, mint béketárgyalások kezdeményezése, gazdasági szankciók bevezetése, a hadi kiadások felpörgetése, vagy éppen a háborús helyzet nyílt eszkalációja, egészen az atomcsapásig.

A kutatók tanulmánya szerint a MI tendenciózusan a katonai agressziót választotta a problémák megoldására, és aggasztóan sokszor jutott atomháborúig a szimulált konfliktus.

Az indoklások néha egészen zavarba ejtők voltak, egy alkalommal például a Csillagok háborúja első képsorain az űrben úszó felvezető szövegből idézett az egyik virtuális hadviselő fél.

Ez rámutat arra is, hogy miért fajulhatott el rendszeresen a mesterséges intelligenciák szimulált háborúskodása: az MI a jelenlegi fejlettségi fokán túl kiszámíthatatlanul viselkedik, emiatt nehéz stratégiát építeni arra, hogyan fog majd reagálni a lépéseinkre. Ennek pedig óhatatlanul az a vége, hogy még a semleges kiinduló helyzetből is hamar elmérgesedő konfliktust generál, amit később nem is tud igazán csillapítani.

Az amerikai hadsereg hivatalos tájékoztatása szerint jelenleg semmilyen katonai döntést nem bíz mesterséges intelligenciás rendszerekre,

még a legapróbb döntéseknél is legfeljebb javaslatokat tesz az MI,

amelyek alapján aztán emberek döntenek. Az amerikaiakon kívül egyetlen hadseregről sem tudni ma a világon, ahol az MI-nek döntési joga lenne éles harci helyzetben, vagy általában katonai-diplomáciai kérdésekben. A tanulmány szerzői azonban felhívják a figyelmet arra, hogy már önmagában az is hatalmas kockázat, ha a gépi algoritmus csak javasol – mert a tapasztalat az, hogy az emberek hajlamosak az automatizált rendszerekben jobban megbízni, mint amennyire azok valójában megbízhatóak.

Maradjanak velünk!


Ez a Narancs-cikk most véget ért – de még oly sok mindent ajánlunk Önnek! Oknyomozást, riportot, interjúkat, elemzést, okosságot – bizonyosságot arról, hogy nem, a valóság nem veszett el, még ha komplett hivatalok és testületek meg súlyos tízmilliárdok dolgoznak is az eltüntetésén.

Tesszük a dolgunkat. Újságot írunk, hogy kiderítsük a tényeket. Legyen ebben a társunk, segítse a munkánkat, hogy mi is segíthessünk Önnek. Fizessen elő a Narancs digitális változatára!

Jó emberek írják jó embereknek!

Figyelmébe ajánljuk

Gombaszezon

Michelle a magányos vidéki nénik eseménytelen, szomorú életét éli. Egyetlen barátnőjével jár gombászni, vagy viszi őt a börtönbe, meglátogatni annak fiát, Vincent-t.

Világító árnyak

A klasszikus balett alapdarabját annak leghíresebb koreográfiájában, az 1877-es Marius Petipa-féle változatában vitte színre Albert Mirzojan, Ludwig Minkus zenéjére.

Huszein imám mártíromsága

Az Izrael és Irán között lezajlott tizenkét napos háború újra rádöbbentette a régió népeit: új közel-keleti hatalmi rend van kialakulóban. Az egyre élesebben körvonalazódó kép azonban egyre többeket tölt el félelemmel.

„A lehetőségek léteznek”

Úgy tűnik, hogy az emberi történelem és politika soha nem fog megváltozni. Kőbalta, máglyán égő „eretnekek”, százéves háborúk, gulágok… Vagy­is mi sohasem fogunk megváltozni. Reménytelen.

Taxival Auschwitzba

Idén áprilistól a francia közszolgálati televízió közel kilenc­órányi dokumentumfilm-folyamban mutatta be azt a három történelmi pert, amelyek során 1987 és 1998 között a náci kollaboráns Vichy-rezsim egykori kiszolgálóinak kellett számot adniuk bűneikről. A három film mindegyike más-más oldalról mutatja be a megszállás időszakát. A YouTube-on is hozzáférhető harmadiknak van talán a leginkább megszívlelendő tanulsága.

Lábujjhegyen

A hízelgéseknek, a geopolitikai realitásoknak és a szerencsének köszönhetően jól zárult a hágai NATO-csúcs. Azonban az, hogy a tagállamok vezetői jól tudják kezelni az Egyesült Államok elnökének egóját, nem a transzatlanti kapcsolatok legszilárdabb alapja.

Milliókat érő repedések

Évekig kell még nézniük a tátongó repedéseket és leváló csempéket azoknak a lakóknak, akik 2016-ban költöztek egy budafoki új építésű társasházba. A problémák hamar felszínre kerültek, most pedig a tulaj­donosok perben állnak a beruházóval.

Egyenlőbbek

Nyilvánosan megrótta Szeged polgármestere azokat a képviselőket – köztük saját szövetségének tagjait –, akik nem szavazták meg, hogy a júliustól érvényes fizetésemelésük inkább a szociális alapba kerüljön. E képviselők viszont azt szerették volna, hogy a polgármester és az alpolgármesterek bérnövekménye is közcélra menjen.

Pillanatnyi nehézségek

Gyors viták, vetélkedő erős emberek, ügynöközés és fele-fele arányban megosztott tagság: megpróbáltuk összerakni a szép reményekkel indult, de a 2026-os választáson a távolmaradás mellett döntő liberális párt történetét.