magyarnarancs.hu: Nagy vihart kavaró könyve, Az AI birodalma egyik legfontosabb állítása, hogy az általános mesterséges intelligencia (AGI) iránt vallásos vagy szektás rajongással viseltetnek az OpenAI vállalat dolgozói. A mesterséges intelligenciát mindenki fontos találmánynak tartja – de mit látnak bele ők, amit mi nem?
Karen Hao: A Szilícium-völgy mérnökei számára az az AI, amely képeket és szöveget generál, nem a végső cél. Olyan eszközt akarnak létrehozni, amelyet ők „AI-istenségnek” neveznek, vagy legalábbis istenként beszélnek róla. Olyan általános intelligenciát, amely többre képes, mint az ember, sőt, vannak, akik szerint új „fajként” az emberiség örökébe léphet. Maguk a fejlesztők is elismerik, hogy a hit mozgatja őket, hisznek abban, hogy a munkájuk kataklizmát okoz. Számukra a jelenlegi AI-modellek csupán lépcsőfokok egy „szent cél” felé.
Azért nevezem kvázi-vallásos érzületnek azt, amit az OpenAI mérnökei és a Szilícium-völgy különböző szereplői, befektetői és informatikusai között tapasztaltam, mert a nézeteik nem tudományos alapokon nyugszanak.
Olyan óriási hatást gyakorolnak a világra, hogy szükségük van egy stabil hitre, ha úgy tetszik, vallásra, amelyben megkapaszkodhatnak. Miközben semmiféle bizonyíték nincs arra, hogy valóban létrehozhatunk az emberi képességeket elérő vagy meghaladó MI-rendszereket. Részben azért, mert valójában nem tudjuk pontosan, mi az emberi intelligencia. Hát hogyan is tudnánk lemásolni, és hogyan jelenthetnénk ki, hogy „felülmúl” bennünket?
magyarnarancs.hu: Ön soha nem került ennek a hitnek a bűvkörébe?
KH: Még azelőtt dolgoztam a techiparban, hogy ez a láz fellobbant volna. Hazudnék, ha azt mondanám, hogy tíz évvel ezelőtt nem ragadott magával a kor technológiai optimizmusa. Azt hittük, hogy minden, amit építünk, csakis jót tehet a világnak, és előbb-utóbb minden problémára megoldást találunk. Ma már nem hiszek ebben. A technológia nélkülözhetetlen összetevő, de csak egy a sok közül, társadalmi, politikai és ökológiai változásokra van szükségünk, a kapitalizmus elöregedett keretein túl más gazdasági ösztönzőkre. Úgy látom, veszélyes az a hiedelem, hogy a technológiai fejlődés mindent megold, több kárt okoz, mint hasznot.
magyarnarancs.hu: A könyve nem tűnteti fel jó fényben az OpenAI vezérigazgatóját, Sam Altmant. Bámulatos manipulátornak írja le, aki nem is céget, hanem szektát vezet. Ennyire veszélyes embernek tartja?
KH: Nem ő veszélyes, hanem az az erőcentrum, amelynek a csúcsán ül – a világ leggyorsabban fejlődő cége, amelyet szinte ellensúly és ellenőrzés nélkül egy szűk kör irányít. Az OpenAI, amely a ChatGPT-t piacra dobta, milliók életére van hatással, és életünk számos területét átalakítja. De nem Altmannel van bajom, hiszen ő sem tökéletes, de végső soron senki sem az. Sam Altman nem gonosz ember, de végtelenül karizmatikus, manipulatív, és nagyon ügyes abban, hogy megszerezze a szükséges hatalmat magának. Nem az jelent kiutat, ha lecseréljük másra, hanem az, hogy lebontjuk azt a birodalmat, amely akár sosem látott hatalmat koncentrálhat egy új technológiai vívmány, valamint az adataink és a tudásunk összegyűjtésével.
magyarnarancs.hu: Miért van szüksége Sam Altmannek arra, hogy Trumphoz közeledjen? A Szilícium-völgy vállalkozói eddig nem törődtek vele, mi folyik Washingtonban, ám az elnök hivatalba lépésekor rögtön ott voltak az oldalán.
KH: Úgy vélem, sokkal könnyebb Trump támogatását megnyerni maguknak, mint egy másik elnökét. Sam Altman óriási üzleteket köt a Közel-Keleten Trump támogatásával. Lehet, hogy nélküle is nyélbe ütötte volna ezeket, de az elnök jelenléte meggyorsította a folyamatot. Ugyan, miért ne használná ki a lehetőséget? Mindenki tudja, hogy Trump három évig lesz elnök – hacsak nem történik valami földcsuszamlás az amerikai politikában –, és ezt az időablakot ki kell használni. Az OpenAI célja is az, hogy elérje a „too big to fail” státuszt, akkorára nőjön, hogy sem a politikában, sem a gazdaságban ne lehessen megkerülni.
magyarnarancs.hu: Lehet, hogy a Szilícium-völgyben technológiai utópiáról álmodnak, de a mesterséges intelligencia találmánya régen látott technológiai pesszimizmusban találja az emberiség többi részét. Kevesen hiszik, hogy Kaliforna vívmányai, a közösségi média vagy az okostelefonok boldogabbá és szabadabbá tettek volna minket. Ön is tapasztalja ezt az ellentétet?
KH: Igen, nagyon is. De bármilyen messze járok Kaliforniától, az emberek azt a narratívát ismétlik, amit a Szilícium-völgyben találtak ki. A Facebook és a többi közösségimédia-felület elterjedése sok helyen társadalmi és politikai instabilitáshoz vezetett, mégis azt hallom, hogy ez a jövő, és a haladásnak nem lehet gátat szabni. A Szilícium-völgy rendkívül sikeres abban, hogy magát kizárólagos szakértelemként, a jövő birtokosaként állítsa be. A kritikusokat gyakran azzal utasítják el, hogy „nem értik a technológiát”, és nekem újságíróként is számtalanszor mondták ezt. De sok más ember, akit ezzel az érvvel támadnak, tényleg elbizonytalanodik: úgy érzik, talán tényleg nem értik, mi történik, és így nincs joguk kimondani, amit tapasztalnak. Én azt szeretném elmondani minden embernek, hogy amit átélnek, az az igazi valóság. Nem az, amit a techcégek mondanak nekik. Az egyik személyes küldetésem elmondani az embereknek, hogy higgyenek a saját tapasztalataiknak, a saját mindennapi valóságuknak. Azok sokkal többet mondanak, mint a Szilícium-völgyben gyártott narratívák. Ha valaki egy technológia árnyoldalait, visszásságot tapasztalja, azt nem elhallgatni, hanem dokumentálni, kimondani kell, és szembeszállni vele. Csak akkor juthatunk el olyan technológiákhoz, amelyek valóban a javunkat szolgálják.
A cikk további része csak előfizetőink számára elérhető.
Soha nem volt nagyobb szükség önre! A sajtó az olvasókért szabad, és fennmaradásunk előfizetőink nélkül nem lehetséges. Legyen előfizetőnk, tegyen egy próbát velünk és támogassa a demokratikus és liberális Magyarország ügyét!
