Megöl vagy megment a mesterséges intelligencia?

Faust a szerverparkban

Tudomány

Két-három évre lehetünk attól, hogy egy AI-modell mindenben túlszárnyalja az embert, és ha nem vigyázunk, egy évtized múlva akár meg is szabadulhatnak tőlünk a gépek. Nem a diliházból szöktek, akik erre figyelmeztetnek: köztük vannak az OpenAI egykori kutatói is.

2027-ben járunk. A mesterséges intelligencia immár olyan fejlett, hogy az emberiség számára követhetetlen rafinériával vonja saját irányítása alá a világ gazdaságát, Kína és az Egyesült Államok kormányai pedig nemhogy lassítanák a technológiai fejlődést, de a „csillagháborús” vetélkedés delíriumában egyre szélesebb hatásköröket adnak át a kifinomult szoftvereknek. A történet rossz végét már több tucat sci-fiben olvashattuk: az AI megvezeti a tervezőit, az embernél tökéletesebb robotokat hoz létre, és letaszít minket a trónról. Az optimistább befejezés eddig nem tapasztalt fellendülést és társadalmi átrendeződést jósol, és soha nem látott hatalmat egy szűk, oligarchikus kör kezében.

A legújabb ilyen mese, az áprilisban nyilvánosságra hozott AI 2027 c. történet szerzői az A.I. Futures Project kaliforniai nonprofit kutatóvállalat dolgozói. Vezetőjük, Daniel Kokotajlo korábban az OpenAI szakembere volt. (Róla lásd keretes kiséletrajzunkat – a szerk.) Ő és társai, Scott Alexander, Thomas Larsen, Romeo Dean és Eli Lifland arra figyelmeztetnek, hogy a következő két évben az AI-rendszerek meghaladják az emberi intelligencia határait, önműködővé válnak és korszakos, egzisztenciális változásokat okoznak a gazdaságban és a nemzetközi politikában – hovatovább magában a földi élet teljességében. Az AI 2027 egy disztópia: a mától 2027-ig futó történet főhőse a fiktív, OpenBrain nevű AI-szoftver, amely a mese szerint négy fázisban, az emberfeletti programozó (SC), az emberfeletti kutató (SAR), a szuperintelligens kutató, végül a mesterséges szuperintelligencia létrehozása útján veszi át a hatalmat az emberiség fölött.

Az ártatlanság kora

2025 derekán az AI elsősorban „személyi asszisztensként” van jelen a felhasználók éle­té­ben, besegít a bevásárlókosár összeállításában, terméket ajánl, kijavítja az informatikusok hibás kódjait, gyorsabban böngészi az internetet, mint az emberek. Ezzel párhuzamosan és szinte észrevétlenül átalakítja a kutatók és az informatikusok munkáját, a speciális készségű AI-szoftverekre pedig vaskos összegért lehet előfizetni.

A piacvezető AI-cég, az OpenBrain, amely 3–9 hónappal a versenytársai előtt jár, még ebben az évben eddig nem látott méretű adatközpontot hoz létre. Az új ágensnek ezerszer nagyobb számítási kapacitásra van szüksége, mint a GPT–4-nek. De nem is ez a lényeg. Az OpenBrain olyan AI-t fejleszt, amely az AI-kutatás felgyorsítását eredményezi: az Agent–1 saját maga programozására képes, ezzel megteszi az első lépést az intelligenciarobbanás (intelligence explosion) felé – ez gyors és folyamatos kognitív fejlődéshez vezető, öngerjesztő folyamat. Noha az Agent–1-nek a fejlesztőktől kapott instrukciók, azaz a specifikációja szerint segítőkésznek, őszintének és ártalmatlannak kell lennie, és a fejlesztők egy rakás tiltást is beléprogramoznak, valójában ők sem lehetnek biztosak abban, hogy az egyre fejlettebb és kifinomultabb mesterséges intelligencia nem képes ellentmondásokba keveredni, saját célokat megfogalmazni, vagy hazudni saját magának vagy az instruktorainak. Hiszen számos teszt során már most kiderült, hogy egyes AI-modellek a jobb értékelésért cserébe képesek elrejteni, ha elbuknak egy feladatot, és minél komplexebb számításokért felelnek, annál kevésbé tudják őket számonkérni az emberek. Természetesen felbukkannak biztonsági kérdések is – a szoftver akár hackelésre vagy terrorcselekmények megtervezésére is alkalmas lehet –, de az OpenBrain meggyőzi a kormányt a modell ártalmatlanságáról. Hiszen csak így verheti meg a kínai DeepCent nevű vállalat hasonló modelljét. Talán mondani sem kell, hogy a két fiktív cég természetesen a valóban létező OpenAI és DeepSeek vállalatok megfelelői.

 
Elintézik egymás közt
Kép: Csabai Máté/ChatGPT 

Az OpenBrain elsődleges célja, hogy az Agent–1 képes legyen felgyorsítani saját fejlődését. A fokozódó technológiai vetélkedés közepette az is egyre fontosabb lesz, hogy a cég megőrizze a titkait. 2026-ban ugyanis Kína méltó ellenfélként lép be a versenybe.

Pedig hátrányból indul: a chipexport korlátozása miatt kevesebb erőforrásból és elavultabb technológiával kénytelenek versenyezni az amerikaiakkal szemben, ám ez – akárcsak az idén januárban megjelent DeepSeek chatbot esetében – takarékosabb és innovatívabb megoldásokra ösztönözheti őket. A Kínai Kommunista Párt fiatalabb héjái úgy látják, nem lehet kimaradni a globális versenyből, és különleges gazdasági övezetet hoznak létre az épülő, majdan a világ legnagyobb atomerőműve, Tianwan mellett. A nyugatiak chipelőnye miatt felmerül Tajvan megszállása, és még jobb lenne, ha sikerülne meghackelni az OpenBrain rendszereit, hogy ellopják a technológiát.

2026 őszére az AI átalakítja az amerikai munkaerőpiacot. Az OpenBrain, az Nvidia és más innovatív vállalatok értéke harmadával nő a tőzsdén, és a programozók egy része elveszíti a munkáját; kapósak azok az informatikusok, akik képesek partnerként dolgozni az új technológiával vagy felügyelni azt. Miközben tüntetések vannak az AI térnyerése ellen, az amerikai védelmi minisztérium szövetséget kötne az OpenBrainnel, de a bürokrácia lassabb, mint a magánszektor.

Így érkezik el a vízválasztónak ígérkező 2027-es év.

A cikk további része csak előfizetőink számára elérhető.
Soha nem volt nagyobb szükség önre! A sajtó az olvasókért szabad, és fennmaradásunk előfizetőink nélkül nem lehetséges. Legyen előfizetőnk, tegyen egy próbát velünk és támogassa a demokratikus és liberális Magyarország ügyét!

Maradjanak velünk!


Ez a Narancs-cikk most véget ért – de még oly sok mindent ajánlunk Önnek! Oknyomozást, riportot, interjúkat, elemzést, okosságot – bizonyosságot arról, hogy nem, a valóság nem veszett el, még ha komplett hivatalok és testületek meg súlyos tízmilliárdok dolgoznak is az eltüntetésén.

Tesszük a dolgunkat. Újságot írunk, hogy kiderítsük a tényeket. Legyen ebben a társunk, segítse a munkánkat, hogy mi is segíthessünk Önnek. Fizessen elő a Narancs digitális változatára!

Jó emberek írják jó embereknek!

Figyelmébe ajánljuk

Testvér testvért

  • - turcsányi -

A hely és az idő mindent meghatároz: Szilézia fővárosában járunk, 1936-ban; történetünk két héttel a berlini olimpia előtt indul és a megnyitó napjáig tart.

Vadmacskák

  • SzSz

Kevés kellemetlenebb dolog létezik annál, mint amikor egy kapcsolatban a vágyottnál eggyel többen vannak – persze, a félrelépéseket, kettős életeket és házasságszédelgőket jól ismerjük, ha az elmúlt években feleannyi sorozat készült volna ezekből, akkor is kitehetnénk a „túltermelés” táblát.

Fiúk az úton

Stephen King mindössze 19 éves volt, amikor 1967-ben papírra vetette A hosszú menetelést. A sorshúzásos alapon kiválogatott és a gazdagság és dicsőség ígéretével halálba hajszolt fiatalemberek története jól illeszkedett a vietnámi háború vetette hosszú árnyékhoz.

Bálványok és árnyékok

Egyszerre volt festő, díszlet- és jelmeztervező, költő és performer El Kazovszkij (1948–2008), a rendszerváltás előtti és utáni évtizedek kimagasló figuratív képzőművésze, akinek a hátrahagyott életműve nem süllyedt el, a „Kazo-kultusz” ma is él.

Múzeum körúti Shaxpeare-mosó

Ez a Shakespeare-monográfia olyan 400 oldalas szakmunka, amelyet regényként is lehet olvasni. Izgalmas cselekmény, szex, horror, szerzői kikacsintások, szövegelemzés, színház- és társadalomtörténeti kontextus, igen részletes (és szintén olvasmányos) jegyzetapparátussal.

Akinek nem bűne…

Tatabányán a Bűn és bűnhődéssel kezdik az októbert, és ez a tematika határozza majd meg az egész évadukat, amelyben a súlyosabb műfajok mellett krimi és komédia is színpadra kerül.

Furcsa kézfogás

A program az idén másodszor egészült ki a színiiskolák találkozójával. A Szemle Off keretében hét színiiskola nyolc előadása mutatkozott be szeptember 8. és 10. között a margitszigeti Kristály Színtérben.