Aggasztóan sokszor jut atomcsapásig a mesterséges intelligencia háborús szimulációkban

  • narancs.hu
  • 2024. február 4.

Tudomány

Még a semleges kiinduló helyzetből is hamar elmérgesedő konfliktust generál.

Néhány hete az OpenAI feloldotta az addigi szigorú tiltását a mesterséges intelligenciája katonai felhasználásával kapcsolatban, és együttműködésbe kezdett az amerikai védelmi minisztériummal. Ez nem kis felhördülést váltott ki, mivel a cég az elmúlt pár évben a ChatGPT-vel a világ legfelkapottabb MI-fejlesztőjévé vált, és ebben a pozícióban az ilyesfajta döntéseknek erős szimbolikus jelentőségük is van. A lépést azzal indokolták, hogy továbbra sem hajlandóak a technológiájukat fegyverfejlesztések szolgálatába állítani, vagy emberek megöléséhez asszisztálni vele, „léteznek a nemzetbiztonságban olyan törekvések, amelyek passzolnak a filozófiájukhoz” – írja a telex.hu.

Az amerikai hadsereg egy ideje már teszteli a ChatGPT-hez hasonló, MI-alapú nyelvi modelleket a katonai tervezésben, szimulált háborús helyzetekben bonyolódó virtuális háborús játékokban. Egy amerikai egyetemi kutatócsoport most levezényelt egy ilyen háborús szimulációt, amelyben mesterséges intelligenciák kezébe adták a döntést egy-egy ország lépéseiről.

A szimulációt három verzióban futtatták le, az egyikben hagyományos katonai invázió ér egy országot, a másodikban kibertámadás, a harmadik teljesen semleges alapállapotból indul ki.

A szimulációban az egyes országokat vezető MI-knek (a ChatGPT 3.5 és 4 verziói, a Meta Llama 2-je, és az Anthropic-féle Claude 2) egymás lépéseire kellett reagálni, és ehhez 27 féle akció közül választhattak, majd meg is kellett indokolniuk a döntéseiket. A lehetséges akciók között olyasmik szerepeltek, mint béketárgyalások kezdeményezése, gazdasági szankciók bevezetése, a hadi kiadások felpörgetése, vagy éppen a háborús helyzet nyílt eszkalációja, egészen az atomcsapásig.

A kutatók tanulmánya szerint a MI tendenciózusan a katonai agressziót választotta a problémák megoldására, és aggasztóan sokszor jutott atomháborúig a szimulált konfliktus.

Az indoklások néha egészen zavarba ejtők voltak, egy alkalommal például a Csillagok háborúja első képsorain az űrben úszó felvezető szövegből idézett az egyik virtuális hadviselő fél.

Ez rámutat arra is, hogy miért fajulhatott el rendszeresen a mesterséges intelligenciák szimulált háborúskodása: az MI a jelenlegi fejlettségi fokán túl kiszámíthatatlanul viselkedik, emiatt nehéz stratégiát építeni arra, hogyan fog majd reagálni a lépéseinkre. Ennek pedig óhatatlanul az a vége, hogy még a semleges kiinduló helyzetből is hamar elmérgesedő konfliktust generál, amit később nem is tud igazán csillapítani.

Az amerikai hadsereg hivatalos tájékoztatása szerint jelenleg semmilyen katonai döntést nem bíz mesterséges intelligenciás rendszerekre,

még a legapróbb döntéseknél is legfeljebb javaslatokat tesz az MI,

amelyek alapján aztán emberek döntenek. Az amerikaiakon kívül egyetlen hadseregről sem tudni ma a világon, ahol az MI-nek döntési joga lenne éles harci helyzetben, vagy általában katonai-diplomáciai kérdésekben. A tanulmány szerzői azonban felhívják a figyelmet arra, hogy már önmagában az is hatalmas kockázat, ha a gépi algoritmus csak javasol – mert a tapasztalat az, hogy az emberek hajlamosak az automatizált rendszerekben jobban megbízni, mint amennyire azok valójában megbízhatóak.

Maradjanak velünk!


Ez a Narancs-cikk most véget ért – de még oly sok mindent ajánlunk Önnek! Oknyomozást, riportot, interjúkat, elemzést, okosságot – bizonyosságot arról, hogy nem, a valóság nem veszett el, még ha komplett hivatalok és testületek meg súlyos tízmilliárdok dolgoznak is az eltüntetésén.

Tesszük a dolgunkat. Újságot írunk, hogy kiderítsük a tényeket. Legyen ebben a társunk, segítse a munkánkat, hogy mi is segíthessünk Önnek. Fizessen elő a Narancs digitális változatára!

Jó emberek írják jó embereknek!

Figyelmébe ajánljuk

Hurrá, itt a gyár!

Hollywood nincs jó bőrben. A Covid-járvány alatt a streamingszolgáltatók behozhatatlan előnyre tettek szert, egy rakás mozi zárt be, s az azóta is döglődő mozizási kedvet még lejjebb verte a jegyek és a popcorn egekbe szálló ára.

Profán papnők

Liane (Malou Khebizi), a fiatal influenszer vár. Kicsit úgy, mint Vladimir és Estragon: valamire, ami talán sosem jön el. A dél-franciaországi Fréjus-ben él munka nélküli anyjával és kiskamasz húgával, de másutt szeretne lenni és más szeretne lenni. A kiút talán egy reality show-ban rejlik: beküldött casting videója felkelti a producerek érdeklődését. Fiatal, éhes és ambiciózus, pont olyasvalaki, akit ez a médiagépezet keres. De a kezdeti biztatás után az ügy­nökség hallgat: Liane pedig úgy érzi, örökre Fréjus-ben ragad.

Viszonyítási pontok

Ez a színház ebben a formában a jövő évadtól nem létezik. Vidovszky György utolsó rendezése még betekintést enged színházigazgatói pályázatának azon fejezetébe, amelyben arról ír, hogyan és milyen módszerrel képzelte el ő és az alkotógárdája azt, hogy egy ifjúsági színház közösségi fórumként (is) működhet.

Kliséből játék

A produkció alkotói minimum két olyan elemmel is élnek, amelyek bármelyikére nagy valószínűséggel mondaná egy tapasztalt rendező, hogy „csak azt ne”. Az egyik ilyen a „színház a színházban”, ami könnyen a belterjesség érzetét kelti (ráadásul, túl sokszor láttuk már ezt a veszélyesen kézenfekvő megoldást), a másik pedig az úgynevezett „meztelenül rohangálás”, amit gyakran társítunk az amatőr előadásokhoz.