Aggasztóan sokszor jut atomcsapásig a mesterséges intelligencia háborús szimulációkban

  • narancs.hu
  • 2024. február 4.

Tudomány

Még a semleges kiinduló helyzetből is hamar elmérgesedő konfliktust generál.

Néhány hete az OpenAI feloldotta az addigi szigorú tiltását a mesterséges intelligenciája katonai felhasználásával kapcsolatban, és együttműködésbe kezdett az amerikai védelmi minisztériummal. Ez nem kis felhördülést váltott ki, mivel a cég az elmúlt pár évben a ChatGPT-vel a világ legfelkapottabb MI-fejlesztőjévé vált, és ebben a pozícióban az ilyesfajta döntéseknek erős szimbolikus jelentőségük is van. A lépést azzal indokolták, hogy továbbra sem hajlandóak a technológiájukat fegyverfejlesztések szolgálatába állítani, vagy emberek megöléséhez asszisztálni vele, „léteznek a nemzetbiztonságban olyan törekvések, amelyek passzolnak a filozófiájukhoz” – írja a telex.hu.

Az amerikai hadsereg egy ideje már teszteli a ChatGPT-hez hasonló, MI-alapú nyelvi modelleket a katonai tervezésben, szimulált háborús helyzetekben bonyolódó virtuális háborús játékokban. Egy amerikai egyetemi kutatócsoport most levezényelt egy ilyen háborús szimulációt, amelyben mesterséges intelligenciák kezébe adták a döntést egy-egy ország lépéseiről.

A szimulációt három verzióban futtatták le, az egyikben hagyományos katonai invázió ér egy országot, a másodikban kibertámadás, a harmadik teljesen semleges alapállapotból indul ki.

A szimulációban az egyes országokat vezető MI-knek (a ChatGPT 3.5 és 4 verziói, a Meta Llama 2-je, és az Anthropic-féle Claude 2) egymás lépéseire kellett reagálni, és ehhez 27 féle akció közül választhattak, majd meg is kellett indokolniuk a döntéseiket. A lehetséges akciók között olyasmik szerepeltek, mint béketárgyalások kezdeményezése, gazdasági szankciók bevezetése, a hadi kiadások felpörgetése, vagy éppen a háborús helyzet nyílt eszkalációja, egészen az atomcsapásig.

A kutatók tanulmánya szerint a MI tendenciózusan a katonai agressziót választotta a problémák megoldására, és aggasztóan sokszor jutott atomháborúig a szimulált konfliktus.

Az indoklások néha egészen zavarba ejtők voltak, egy alkalommal például a Csillagok háborúja első képsorain az űrben úszó felvezető szövegből idézett az egyik virtuális hadviselő fél.

Ez rámutat arra is, hogy miért fajulhatott el rendszeresen a mesterséges intelligenciák szimulált háborúskodása: az MI a jelenlegi fejlettségi fokán túl kiszámíthatatlanul viselkedik, emiatt nehéz stratégiát építeni arra, hogyan fog majd reagálni a lépéseinkre. Ennek pedig óhatatlanul az a vége, hogy még a semleges kiinduló helyzetből is hamar elmérgesedő konfliktust generál, amit később nem is tud igazán csillapítani.

Az amerikai hadsereg hivatalos tájékoztatása szerint jelenleg semmilyen katonai döntést nem bíz mesterséges intelligenciás rendszerekre,

még a legapróbb döntéseknél is legfeljebb javaslatokat tesz az MI,

amelyek alapján aztán emberek döntenek. Az amerikaiakon kívül egyetlen hadseregről sem tudni ma a világon, ahol az MI-nek döntési joga lenne éles harci helyzetben, vagy általában katonai-diplomáciai kérdésekben. A tanulmány szerzői azonban felhívják a figyelmet arra, hogy már önmagában az is hatalmas kockázat, ha a gépi algoritmus csak javasol – mert a tapasztalat az, hogy az emberek hajlamosak az automatizált rendszerekben jobban megbízni, mint amennyire azok valójában megbízhatóak.

Maradjanak velünk!


Ez a Narancs-cikk most véget ért – de még oly sok mindent ajánlunk Önnek! Oknyomozást, riportot, interjúkat, elemzést, okosságot – bizonyosságot arról, hogy nem, a valóság nem veszett el, még ha komplett hivatalok és testületek meg súlyos tízmilliárdok dolgoznak is az eltüntetésén.

Tesszük a dolgunkat. Újságot írunk, hogy kiderítsük a tényeket. Legyen ebben a társunk, segítse a munkánkat, hogy mi is segíthessünk Önnek. Fizessen elő a Narancs digitális változatára!

Jó emberek írják jó embereknek!

Figyelmébe ajánljuk

Hieronymus Bosch világa

  • - turcsányi -

Michael Connelly nem egy író, inkább egy regénygyár, rosszabb esetben áruvédjegy – az efféle státus persze nem oly ritka zsiráf manapság.

„Rodrigo”

A világ legnagyobb és legrangosabb színházi fesztiválja az avignoni. Jelentős társulatok seregszemléje, illetve már maga a fesztiválmeghívás jelentőssé tesz társulatokat. Aki a hivatalos programban van, az számít valakinek.

Félúton

Egykori nagymenő, aki a csúcsról lepottyanva már csak árnyéka önmagának; féktelen csodagyerek, akinek csak kemény munkára és iránymutatásra van szüksége, hogy azzá a sztárrá váljon, akit a végzete elrendelt neki – a sportfilmek talán legnagyobb kliséi ezek, a Stick pedig épp erre a kettőre épül.

Dinók a budoárban

Ötévesen, egy tollseprűtánccal indult Karácsonyi László (1976) művészi karrierje, diplomáját 2003-ban pedig egy lovagi páncélzatban védte meg. (A páncél maga volt a diplomamunkája.)

Léda a Titanicon

  • Molnár T. Eszter

Ki ne szeretné a Balatont? Főleg, ha csak a szépre emlékszik? Arra, hogy a vonat vidáman, sőt pontosan fut be a hűs állomásra, a papucs nem töri a lábat, a naptej megvéd a leégéstől, és van hely az árnyékban a kempingszéknek és a gumimatracnak.

Angyalszárnycsikorgás

Nagy luxus olyan kis kultúrának, mint a magyar, nem megbecsülni a legjobbjait. Márpedig Halasi Zoltán a kortárs magyar költészet szűk élmezőnyébe tartozik, ám a szakma mintha nem tartaná számon érdemeinek megfelelően, a nagyközönség számára pedig minden bizonnyal ismeretlen.

Miért hallgat Erdő Péter?

2025 júliusának egyik forró szerda éjjelén Konrád-Lampedúza Bence betanított kémia­tanár hazafelé ballagott Ráczboldogkőn, a Kistücsök névre hallgató alma materéből. Nem volt ittas egy cseppet sem, de megviselte a nehéz levegő, amikor szembejött vele egy kormányzati óriásplakát.