Aggasztóan sokszor jut atomcsapásig a mesterséges intelligencia háborús szimulációkban

  • narancs.hu
  • 2024. február 4.

Tudomány

Még a semleges kiinduló helyzetből is hamar elmérgesedő konfliktust generál.

Néhány hete az OpenAI feloldotta az addigi szigorú tiltását a mesterséges intelligenciája katonai felhasználásával kapcsolatban, és együttműködésbe kezdett az amerikai védelmi minisztériummal. Ez nem kis felhördülést váltott ki, mivel a cég az elmúlt pár évben a ChatGPT-vel a világ legfelkapottabb MI-fejlesztőjévé vált, és ebben a pozícióban az ilyesfajta döntéseknek erős szimbolikus jelentőségük is van. A lépést azzal indokolták, hogy továbbra sem hajlandóak a technológiájukat fegyverfejlesztések szolgálatába állítani, vagy emberek megöléséhez asszisztálni vele, „léteznek a nemzetbiztonságban olyan törekvések, amelyek passzolnak a filozófiájukhoz” – írja a telex.hu.

Az amerikai hadsereg egy ideje már teszteli a ChatGPT-hez hasonló, MI-alapú nyelvi modelleket a katonai tervezésben, szimulált háborús helyzetekben bonyolódó virtuális háborús játékokban. Egy amerikai egyetemi kutatócsoport most levezényelt egy ilyen háborús szimulációt, amelyben mesterséges intelligenciák kezébe adták a döntést egy-egy ország lépéseiről.

A szimulációt három verzióban futtatták le, az egyikben hagyományos katonai invázió ér egy országot, a másodikban kibertámadás, a harmadik teljesen semleges alapállapotból indul ki.

A szimulációban az egyes országokat vezető MI-knek (a ChatGPT 3.5 és 4 verziói, a Meta Llama 2-je, és az Anthropic-féle Claude 2) egymás lépéseire kellett reagálni, és ehhez 27 féle akció közül választhattak, majd meg is kellett indokolniuk a döntéseiket. A lehetséges akciók között olyasmik szerepeltek, mint béketárgyalások kezdeményezése, gazdasági szankciók bevezetése, a hadi kiadások felpörgetése, vagy éppen a háborús helyzet nyílt eszkalációja, egészen az atomcsapásig.

A kutatók tanulmánya szerint a MI tendenciózusan a katonai agressziót választotta a problémák megoldására, és aggasztóan sokszor jutott atomháborúig a szimulált konfliktus.

Az indoklások néha egészen zavarba ejtők voltak, egy alkalommal például a Csillagok háborúja első képsorain az űrben úszó felvezető szövegből idézett az egyik virtuális hadviselő fél.

Ez rámutat arra is, hogy miért fajulhatott el rendszeresen a mesterséges intelligenciák szimulált háborúskodása: az MI a jelenlegi fejlettségi fokán túl kiszámíthatatlanul viselkedik, emiatt nehéz stratégiát építeni arra, hogyan fog majd reagálni a lépéseinkre. Ennek pedig óhatatlanul az a vége, hogy még a semleges kiinduló helyzetből is hamar elmérgesedő konfliktust generál, amit később nem is tud igazán csillapítani.

Az amerikai hadsereg hivatalos tájékoztatása szerint jelenleg semmilyen katonai döntést nem bíz mesterséges intelligenciás rendszerekre,

még a legapróbb döntéseknél is legfeljebb javaslatokat tesz az MI,

amelyek alapján aztán emberek döntenek. Az amerikaiakon kívül egyetlen hadseregről sem tudni ma a világon, ahol az MI-nek döntési joga lenne éles harci helyzetben, vagy általában katonai-diplomáciai kérdésekben. A tanulmány szerzői azonban felhívják a figyelmet arra, hogy már önmagában az is hatalmas kockázat, ha a gépi algoritmus csak javasol – mert a tapasztalat az, hogy az emberek hajlamosak az automatizált rendszerekben jobban megbízni, mint amennyire azok valójában megbízhatóak.

Maradjanak velünk!


Ez a Narancs-cikk most véget ért – de még oly sok mindent ajánlunk Önnek! Oknyomozást, riportot, interjúkat, elemzést, okosságot – bizonyosságot arról, hogy nem, a valóság nem veszett el, még ha komplett hivatalok és testületek meg súlyos tízmilliárdok dolgoznak is az eltüntetésén.

Tesszük a dolgunkat. Újságot írunk, hogy kiderítsük a tényeket. Legyen ebben a társunk, segítse a munkánkat, hogy mi is segíthessünk Önnek. Fizessen elő a Narancs digitális változatára!

Jó emberek írják jó embereknek!

Figyelmébe ajánljuk

Szemrevaló: Páva – Valódi vagyok?

  • SzSz

A társadalmi szerepek és identitások a pszichológia egyik legjobban kutatott területe. Mead szerint nincs is objektív valóság, azt az egyének maguk konstruálják; Goffman úgy véli, az egész világ egy színpad, ahol mind különböző szerepeket játsszunk; míg Stryker elmélete azt magyarázza, hogy minden ember ezernyi identitással rendelkezik, s azok hierarchiába rendeződnek.

Szemrevaló: A fény

  • - bzs -

Tom Tykwer csaknem háromórás eposza mintha egy másik korból időutazott volna napjainkba (Tykwer maga is a Babylon Berlint, a múlt század húszas éveit hagyta hátra).

Szemrevaló: Gépek tánca

Markológépekkel táncolni, az ám a valami! Amikor a kotrókanál kecsesen emelkedik a magasba, akkor olyan, mint egy daru – mármint a madár (lehet, hogy magyarul nem véletlenül hívják így az emelőszerkezetet?) –, „nyakát” nyújtogatja, „fejét” forgatja.

Le nem zárt akták

A művészi identitás és a láthatóság kérdéseit helyezi középpontba Pataki Luca első önálló kiállítása. Keszegh Ágnes kurátor koncepciója szerint a tárlat krimiként épül fel: a látogatónak fragmentumokból, nyomokból kell rekonstruálnia a történetet. Az anyag kísérlet a művészszerep radikális újragondolására, és az igazi kérdése az, hogy az alkotói késztetés ledarálható-e.

Ingyen Carlsberg

  • - turcsányi -

Valamikor a múlt század kilencvenes éveinek elején Bille August nemzetközi hírű svéd filmrendező rájött, hogy mégsem lenne jó, ha ő lenne a filmművészet második Ingmar Bergmanja, még akkor sem, ha az ügyért addig számos követ megmozgatott (Hódító Pelle Max von Sydow-val, 1987; Legjobb szándékok, egyenesen Bergman forgatókönyvéből, 1992).

Utánunk a robotok?

A Székesfehérváron tavasszal bemutatott színpadi átiratot Szikora János, a Vörösmarty Színház tizenhárom év után elköszönő igazgatója rendezte. A színház vezetésére kiírt, majd megismételt pályázat után ősztől már Dolhai Attila irányításával működő teátrum irányvonala minden bizonnyal változni fog, a társulat egy része is kicserélődött, így A Nibelung-lakópark egy korszak összegzésének, Szikora János búcsúelőadásának is tekinthető.

Túlélni a békét

Az előadás ismét azt bizonyította, hogy egy ideje a Miskolci Nemzeti Színházé a magyar nyelvű színjátszás egyik legerősebb társulata. Pedig a darab – annak ellenére, hogy színházi felkérésre született – egyáltalán nem kínálja magát könnyen a színrevitelre.

„Idő és hely hoz létre igazi közösséget”

A Freeszfe elnökeként teljesen az egyesület körüli teendők kötötték le Forgács Péter figyelmét, mostantól pedig a FREEDOM, az új otthonuk szellemiségének kialakítása a cél. Arról kérdeztük, mit terveznek az épülettel, mit jelent a szabadság, és egyáltalán, milyen iskola lesz itt.

A Bolsonaro-végjáték

Szeptember 11-én a brazil szövetségi legfelsőbb bíróság, a Supremo Tribunal Federal (STF) bűnösnek mondta ki a demokratikus rend elleni szövetkezésben és 27 év és 3 hónap szabadságvesztésre ítélte Jair Messias Bolsonarót, Brazília volt elnökét, aki 2019 és 2022 között töltötte be ezt a posztot.