Interjú

„200 milliárd szómennyiség fölött tartunk”

Prószéky Gábor nyelvész, programtervező matematikus a mesterséges intelligenciáról, a ChatGPT-ről és a régi szótárakról

Tudomány

Hogyan működnek a nagy számítógépes nyelvi modellek, a GPT-k, és mit jelent az, hogy immár párbeszédbe is lehet egy ilyennel kerülni? Mire jók ezek a modellek, illetve mire nem, és milyen messze vagyunk a valódi mesterséges intelligenciától (MI)? Kell-e félnünk tőle, és hogyan kerülhetjük el a csapdáit? A magyar fejlesztésű modell, a PULI GPTrio kutatócsoportjának vezetőjét faggattuk.

Magyar Narancs: Pár hete egy, a mesterséges intelligencia (MI) oktatásban betöltött szerepéről szóló pódiumbeszélgetésen azt mondta, „lehet, hogy mi vagyunk az utolsó generáció, amelyik a valósat és a virtuálisat még meg tudja különböztetni”. Laikusként ennek hallatán disztópikus filmekre, a Szárnyas fejvadászra, a Mátrixra, A szigetre és hasonlókra asszociálok – mire gondolt pontosabban?

Prószéky Gábor: Kezdjük kicsit messzebbről. Az MI fogalma az ötvenes–hatvanas években, vagy­is akkor született meg, amikor még azt hitték, hogy tényleg lesz mesterséges intelligencia – de most azt mondanám, hogy nincs. Mert az MI mindig csak egy metszetet mutat a világból, legutóbb például, a ChatGPT-vel a nyelvit mutatta meg. És mivel nyelvileg olyan dolgokat produkál, amilyeneket eddig az emberen kívül más nem, a közvélemény felruházza olyan tulajdonságokkal is, amelyek nincsenek benne. Sokan azt feltételezik, hogy „ő” okos, és tudja, hogy milyen a világ. Persze ez nincs így. Egyes robotok összeraknak egy Mercedest a gyárban, mások nyelveket fordítanak, a humanoid robotok pedig lenyűgöznek minket azzal, hogy hasonlítanak ránk. De minden, ember által jelenleg fejlesztett készülékre elmondható, hogy noha az intelligenciának egy szeletében erős utánzási képességgel bírnak, nem komplexek. Az igazi MI az intelligencia totális modellezése lenne. Nem mondom, hogy nem lesz egyszer ilyen, de nagyon távol vagyunk még tőle.

MN: Ha elfogadjuk, hogy 2022. november 30. történelmi pillanat volt, ön hogyan írná le az utókor számára?

PG: A nagy nyelvi modellen (GPT3) ekkor egy olyan betanítást végzett el az OpenAI cég, amelynek eredményeként mi emberek dialógushelyzetbe kerültünk egy masinával. Az alapmodell még bármit tudott mondani, de mint a vízfolyás: nem lehetett megállítani. A ChatGPT-t viszont arra tanították be, hogy kérdésre ne hasonló kérdést mondjon, hanem konkrétan válaszolja meg, és aztán hagyja is abba.

MN: Közönséges halandóként mit érdemes tudnunk az alapmodellről?

PG: Kétféle alapmodellről szokás beszélni: az enkóderről és a dekóderről, amilyen a GPT3 is. Az enkóder lényege, hogy ha kitakarok egy szót a szövegből, megmondja, mi volt ott. A dekóder pedig képes megmondani, hogy egy szövegrész után legnagyobb valószínűséggel mi lesz a következő szó, aztán mi lesz az azt követő, és így rakja ki a teljes szöveget. Ez a valószínűség olyan sok százezernyi, sőt milliónyi korábbi szónak az együtteséből áll elő, hogy végül koherens szöveget kapok. Ennyit tud az alapmodell. Ezután rengeteg ember bevonásával elkezdték tovább „tanítgatni” a szoftvert. Ám ez a munka már messze nem automatikus: a gép az embertől tanul, konkrétan az pofozgatja jobbra, balra, hogy ez jó, ez nem jó… Ennek a munkának köszönhető, hogy a ChatGPT olyan eszköz lett, amellyel lehet beszélgetni.

A rendszer a szöveget annak a mintának a segítségével állítja össze, amelyet indulásként megadok neki: ezzel már beszorítom egy szűkebb világba. Ezt a kezdő szöveget promptnak nevezzük. A nyelvi-logikai lépéseket levezetve a rendszer kiad egy szöveget – de neki fogalma sincs róla, miről van szó. Az emberi agy nem attól tud egy nyelvet, mert sok leírt szöveget olvasott, hanem mert látunk, hallunk, érzünk, milliárd inger ér minket, amelyeket mind beépítünk, és amelyekről így nyelvi úton is számot tudunk adni. A ChatGPT-nek viszont csak nyelvi inputja van, méghozzá betűk formájában, így csak nyelvi választ tud adni, nem pedig világismeretit.

MN: Pedig említette a konferencián, hogy ha kellő mennyiségű adatot táplálunk a rendszerbe, akkor már kulturálisan is „elég okos” tud lenni.

PG: Két dologról van szó, amikor nyelvi adatokat táplálunk egy gépbe. Az egyik az a készség, hogy egyáltalán azon a nyelven képes legyen reagálni, tehát legyen elég mintája a rákövetkezés nyelvi formáira, magyarán a ragozásra, szórendre és a többi. A másik, hogy azok a szövegek, amelyeket megtanítunk a gépnek, valamilyen módon aztán tartalmilag is leképeződnek. Amikor tehát leírunk szituációkat, amelyek egy adott kultúrában megjelennek, például a teljes magyar webet feldolgozzuk, akkor rengeteg olyan elem lesz benne, amelyek a mi világunkban lényegesek, függetlenül attól, hogy mivel értünk egyet és mivel nem. Ha viszont Amerikában felépítenek egy rendszert, amihez hozzáadnak valamennyi magyar szót, akkor az a rendszer lehet, hogy „tud” magyarul, de magyar vonatkozású témákról nem lehet vele beszélgetni, hiszen a háttere nincs meg hozzá. Nyelvileg úgy viselkedik, mintha tudna válaszolni, de sokszor zöldségeket beszél, szép szóval élve: hallucinál. Például, ha megkérdezném tőle, hogy miről beszélgetett Dusza Erika és Prószéky Gábor 2023 júliusában, annyit látna, hogy ezek bizonyára nevek, és kitalálna hozzá dolgokat valami egészen furcsa asszociáció mentén. Míg ha elolvassa a maga által írt interjút, akkor már kezdi sejteni, miről van szó. A ChatGPT nem kárhoztatható azért, mert rosszul tud valamit, mivel valójában nem „tud” semmit sehogy: egyszerűen csak ezek a valószínűségek jöttek ki a megtanult szövegeiből. Ráadásul nem is determinisztikusan: valahányszor újra kérdezem ugyanazt, mindig valami más választ kapok, még ha sokszor hasonlót is. Az ember dolga az, hogy ezek közül kiválassza a neki leginkább tetszőt. Nagyon szeretném azt gondolni, hogy semmi értelme arról beszélni, tud-e műfordítást a ChatGPT, mert szerintem sosem fog tudni. Utánozni, azt tud.

A cikk további része csak előfizetőink számára elérhető.
Soha nem volt nagyobb szükség önre! A sajtó az olvasókért szabad, és fennmaradásunk előfizetőink nélkül nem lehetséges. Legyen előfizetőnk, tegyen egy próbát velünk és támogassa a demokratikus és liberális Magyarország ügyét!

Neked ajánljuk

„Boldog békeévek”

A több mint kétszáz műtárgyat felvonultató kiállítás fókuszában a szecessziós plakátművészet és reklámgrafika áll, a magyar művészetnek az az aranykora, amikor összhangba került a nyugati művészeti törekvésekkel, radikálisan modernizálva a kiegyezést követő évtizedek (fél)feudalista, konzervatív, a historizmus béklyóiba zárt világát.

Nem tud úgy tenni, mintha…

„Hányan ülnek most a szobáikban egyedül? Miért vannak ott, és mióta? Meddig lehet ezt kibírni?” – olvastuk a Katona József Színház 2022-ben bemutatott (nemrég a műsorról levett) Melancholy Rooms című, Zenés magány nyolc hangra alcímű darabjának színlapján.

Nyolcadik himnusz az elmúlásról

Egy rövid kijelentő mondattal el lehetne intézni: Willie Nelson új albuma csendes, bölcs és szerethető. Akik kedvelik a countryzene állócsillagának könnyen felismerhető hangját, szomorkás dalait, fonott hajával és fejkendőkkel keretezett lázadó imázsát, tudhatják, hogy sokkal többről van szó, mint egyszeri csodáról vagy véletlen szerencséről.

Szobáról szobára

Füstös terembe érkezünk, a DJ (Kókai Tünde) keveri az elektronikus zenét – mintha egy rave buliba csöppennénk. A placc különböző pontjain két-két stúdiós ácsorog, a párok egyikének kezében színes zászló. Hatféle színű karszalagot osztanak el a nézők között. Üt az óra, a lila csapattal elhagyjuk a stúdiót, a szín­skála többi viselője a szélrózsa más-más irányába vándorol.

Séta a Holdon

A miniszterelnök május 9-i tihanyi beszédével akkora lehetőséget kínált fel Magyar Péternek a látványos politikai reagálásra, hogy az még a Holdról is látszott.

Elengedték őket

Ukrajna belső, háború sújtotta vagy veszélyeztette területeiről rengetegen menekültek Kárpátaljára, főleg a városokba, az ottani magyar közösség emiatt szinte láthatatlanná vált sok helyen. A napi gondok mellett a magyar kormány hülyeségeire senkinek nincs ideje figyelni.

Egyszerű világpolgár, hídépítő

  • Mártonffy Marcell

Észak-amerikai pápára senki sem számított. Íratlan szabály volt – állítják bennfentesek –, hogy jezsuita és amerikai szóba sem jöhet. A szilárd alapelv egyik fele 2013-ban, másik fele 2025. május 8-án dőlt meg. A Chicago környékéről származó Robert Francis Prevost bíboros a megbízható szakértők listáján sem szerepelt a legesélyesebbek között. A fehér füst azonban meglepően hamar előgomolygott a Sixtus-kápolna ideiglenes kéményéből.