Mire jó és mire nem a mesterséges intelligencia?

Tudomány

A „mesterséges intelligencia” összefoglaló néven ismert számítógépes programok szélsebes terjedése számos etikai, jogi és ismeretelméleti problémával szembesíthet minket. Ha nem vigyáz az emberiség, az MI kihúzhatja a lába alól a valóság talaját. Van, ahol már be is perelték.

Kedves Olvasónk!

Ez a cikk a Magyar Narancs 2023. március 9-i számában jelent meg. Most ezt az írást ebből a lapszámunkból széles körben, ingyenesen is hozzáférhetővé tesszük.

Részben azért, mert fontosnak tartjuk, hogy minél többen megismerkedjenek a tartalmával, részben pedig azért, hogy megmutassuk, érdemes a Narancsot megvásárolni is, hiszen minden számban hasonlóan érdekes cikkeket találhatnak – és a lap immár digitálisan is előfizethető, cikkei számítógépen, okostelefonon és tableten is olvashatóak.

magyarnarancs.hu-n emellett a továbbiakban sem csak fizetőfal mögötti tartalmakat találnak, így mindig érdemes benézni hozzánk. 

Visszavárjuk!

A szerk.

A képgeneráló algoritmusok meg tudják festeni a századik Mondriant vagy a kétszázadik Jackson Pollockot. Azt a kérdést viszont nem illik feszegetni, hogy képesek-e első önálló alkotásra. Hiszen a válasz: nem. Az alkotás szó ugyanis akaratlagosságot feltételez, a teremtő képzelet bevonását. És a „mesterséges intelligencia” – az idézőjel indoklása mindjárt jön – a koncepcionális művészethez sem ért: nem fog cápát tartósítani formalinban vagy banánt ragasztani szigszalaggal a galéria falára.

Ha viszont a fentiekre nem képes – antropomorfizálva a szoftvert: „nem jut semmi eredeti az eszébe” –, akkor mire jó? Vagy inkább: mi az, amire korlátok közt ugyan, de jó? Az erről szóló vitát az újabb kép- és szöveggeneráló megoldások tovább fogják élezni. Dollárban is nagy számok állnak szemben emberi vagy szakmai érdekekkel. Az ütközet kimenetele nem egyértelmű – de kis botlás is elég lehet ahhoz, hogy ne polgári perbe húzzák be az MI-cégeket, hanem büntetőperben kelljen helyt állniuk.

Jó, ha tudatában vagyunk: a „mesterséges intelligencia” csupán gyűjtőfogalom, fantázianév, mint a fagyiban a hupikék törpikék.

„Az” MI – a határozott névelős, az egyetlen – nem létezik: sok, hasonló technológiára épülő, eltérő adatbázisokon tanított szoftver van csupán, amelyek különböző célokra alkalmasak.

A mesterséges intelligencia fejlesztése jórészt statisztikai jellegű munka. Elképzelhetetlenül sok szöveget, képet, zenét adunk egy rendszernek – melyiknek mit, attól függően, hogy mire akarjuk használni –, az pedig feldolgozza ezt. Majd fordítunk a csövön – a porszívóból porfújó lesz –, és azt a parancsot adjuk, hogy olyan kimenetet produkáljon, ami egy adott szövegnek megfelel. Ezt a mintát, a rövid bemeneti szöveget nevezik promptnak. Ám ha a tanítási adatbázisunk a Kis Növényhatározó illusztrációi voltak, akkor a szoftver semmilyen körülmények között nem fogja nekünk lerajzolni a Lánchidat. A program lenyűgöző pontossággal ír olyan szöveget, amely statisztikai alapon megfelel nekünk. Van azonban ezzel némi gond.

Tünde szemed mit lát, Legolas?

Az egyes felhasználási területeket eddig jobbára külön tárgyaltuk. Az első vitákat a képgeneráló megoldások váltották ki: a kérdés ekkor az volt, hogy lehet-e egyenlőségjelet tenni a mesterségbeli tudás nélkül alkotó, az MI-nek jól felparaméterezett parancsokat adó ember és a valóban rajzolni, festeni, grafikát készíteni tudó művész közé. Azaz: az MI-s rajzolóprogram vajon eszköz csupán, mint az ecset vagy a festékszóró, vagy valami forradalmian mást hozó jószág? (Lásd korábbi cikkünket: Nem létező táj, nem létező ecsettel, Magyar Narancs, 2022. szeptember 22.)

És bár erről azóta sincs egyetértés, időközben újabb, súlyosabb, s nemrégiben csoportos perben kicsúcsosodó kérdés merült fel. Néhány művész ugyanis azzal állt elő, hogy ha az ő – internetről szüretelt – képeikkel (is) tanították a programot, akkor az megsérti a szerzői jogaikat. Az interneten bőséggel található szabadon felhasználható és alakítható alkotás – a Creative Commons Nevezd meg! licence pont erre való –, de az eredeti alkotó megnevezése mindenképpen kötelező.

E megfontolásból kiindulva indult per a Stable Diffusion képgeneráló programot használó három cég ellen; a felperesek a GitHub hasonló, a megnevezési kötelmet ugyancsak megszegő MI-s megoldását is perelik épp. (A GitHub a Microsoft érdekeltségébe tartozó cég, amely nyílt forráskódú szoftverfejlesztéseknek biztosít platformot.) Ők úgy vélik, a Stable Diffusion nem önálló alkotást, hanem kollázst hoz létre, még ha ezt csúcstechnológiás eszközökkel teszi is. A per szépsége, hogy a tanítási adatbázis óriási, ötmilliárd képet tartalmaz. A kereset szerint a jogszerűtlenül felhasznált képekből végtelen mennyiségű olyan képet tud generálni a rendszer, amely az emberi művészek piacát rontja. Azaz: a szomszéd gyékényen a művészektől lopott terméket árulják a techcégek, és néha nyilatkoznak egyet, hogy ez a jövő.

A Stable Diffusion és társai helyzetét rontja, hogy eredetileg olyan parancs is volt a programban, hogy egy adott alkotó stílusában generáljon új képeket; ezt azóta többnyire letiltották. Azt pedig Emad Mostaque, a Stable Diffusion mögött álló Stability AI nevű cég vezérigazgatója nyilatkozta korábban, hogy a jövő MI-s modelljeit olyan adatokon tanítják majd, amelyek a generált anyagokat jogszerűen felhasználhatóvá teszik – azaz eddig valóban a szerzői jogokat figyelmen kívül hagyva „szüreteltek” az internetről.

 
Így fest a mesterséges ecset: David J alkotása

Órákat adok, veszek

De plágiumvád már írott szöveg esetében is felmerült, például a GitHubbal és programozó automatájával szemben. Panaszkodik az egyetemi, tudományos szféra is, hogy az egyetemisták a ChatGPT szöveggenerálóval íratják meg a beadandókat. Egy külföldi egyetemen óraadó ismerősöm szerint a jobban sikerült gépi szövegek és az átlagos elsőéves esszéi közel azonos szintűek. Az e problémára adott első válasz természetesen a tiltás volt – az oktatók érthető módon nem a számítógép által kiköpött válaszokat szeretnék értékelni.

Annál is inkább, mivel a mesterséges intelligenciának mondott technológia alapvetően nagy adatbázison végzett statisztikai műveletekből áll. Azaz kétszáz Jókai-elemzés után előállítja a kétszázegyediket, ami az összes többi átlaga lesz: új gondolatok nélkül, hiszen kognitív folyamatok nem zajlanak. Máshol megírt megállapítások újraszövegezve persze előfordulhatnak benne. Mint ahogy arra is van példa, hogy a szoftver egyszerűen plagizál, mert még az információk átszövegezését is megspórolja, és csak összemásolgatja a mondatokat. Ezt a CNET hírportál tapasztalta meg, amely szöveggenerátorral íratott cikkeket az újságba.

Az MI által keletkeztetett problémára természetesen született már MI-s megoldás is.

Van olyan program, amely – a programozó ígérete szerint – kiszűri a szövegek közül a szöveggenerátorral írottakat. Nagyobb gond, ha valaki másra is használhatónak gondolja a ChatGPT szoftvert, mint szövegek előállítására – holott a célja pusztán ez. (Ráadásul a ChatGPT egyelőre csak laborkísérlet, még ha szabadon hozzáférhető is.) A gép az állítások igazságtartalmát nem tudja és nem hivatott elbírálni; azaz olyan témákban, amelyekben nincs konszenzus, kockázatos megkérdezni az MI-s megoldást. (Kivéve, ha a válaszadó rendszert olyan tekintetben is karbantartják, hogy a sok forrásból leszűrt, de hamis „igazságok” ne szerepeljenek nagy súllyal benne. Hiszen ha valaki azt kérdezi, hogy autizmust okoz-e az MMR-oltás, arra a tudományos konszenzus szerint egy válasz van: nem.) A szövegek generálása vagy egy írott szöveg összefoglalása – mindkettőre remek automatizmusok vannak – egészen más kompetencia, mint a platóni jó válasz megadása. Elvégre akkor, amikor azt próbáljuk megállapítani, hogy mi az igazság, nem technológiai, hanem filozófiai kérdéssel szembesülünk. A tudományos módszer ismerete szükséges ahhoz, hogy az egymást váltó paradigmák, a csak adott feltételrendszer között működőképes modellek világában tudjunk gondolkodni. Ez persze nem nagy ügy, aki figyelt a középiskolában, emlékezhet arra, hogyan írják felül egymást a tudományos elméletek. És azzal is tisztában lehetünk, hogy nem minden kérdésre van egyetlen jó válasz: van; amikor az ember annak fényében tart valamit jónak, hogy milyen értékeket vall. És ez a kérdés akkor is felmerül, ha nem politikai pártot vagy életfilozófiát keresünk, hanem mosógépet vagy mobiltelefont. A „legjobb” nem létezik: azt, hogy mire van szükségünk, sok paraméter alapján határozzuk meg. Ezek között pedig ott lehet a színe is, vagy az, hogy kapható-e a sarki boltban.

A jövőt ettől még főzik

A fenti aggályoktól függetlenül a jövőképek csatája zavartalanuk zajlik. A Google-t váratlanul érte a ChatGPT sikere, nem is volt hasonló tudású, bemutatható szoftvere készen; de hamarosan jön a Google MI-je, amely a csevegős felületen kérdésekre válaszol majd. A sajtó végtelen számban és árnyalatban gyártotta le azokat a cikkeket – mintha csak ChatGPT-t használt volna mindenki –, amelyek szerint a robotok most aztán már tényleg elveszik valakiknek a munkáját. A legjobb, amit tehetünk az ép eszünk megőrzéséért, ha mindig figyelembe vesszük, hogy milyen módszerrel, milyen adatbázisból és milyen jogi környezetben gyárt anyagot az MI-s szoftver. És persze az sem árt, ha minden olyan állítást, amit jövőkutatók, technológusok és techcégek szakemberei tesznek, erős fenntartással kezelünk. Igen, ezt a cikket is.

Maradjanak velünk!


Ez a Narancs-cikk most véget ért – de még oly sok mindent ajánlunk Önnek! Oknyomozást, riportot, interjúkat, elemzést, okosságot – bizonyosságot arról, hogy nem, a valóság nem veszett el, még ha komplett hivatalok és testületek meg súlyos tízmilliárdok dolgoznak is az eltüntetésén.

Tesszük a dolgunkat. Újságot írunk, hogy kiderítsük a tényeket. Legyen ebben a társunk, segítse a munkánkat, hogy mi is segíthessünk Önnek. Fizessen elő a Narancs digitális változatára!

Jó emberek írják jó embereknek!

Figyelmébe ajánljuk

Vörösben

Bohumil Hrabal novelláit Balassa Eszter, a társulattal sokat dolgozó dramaturg az Európa Kiadónál nemrégiben újra megjelent Véres történetek és legendák című gyűjteményes kötet alapján dolgozta át. Vörös a zokni, a nyakkendő, de még a hajszalag is – véres drámára jöttünk –, mégsem sorolható a horror műfajába Soós Attila rendezése. Fekete humorban gazdag sztorik elevenednek meg, groteszk stílusban feltárva a kisemberek mindennapos küzdelmeit.

Magánügyek, közügyek

A félhomályos színpadon egy női alak ül az íróasztalnál, mögötte vörös fényben füst gomolyog. Létezik egy színházi mondás: ahol egy előadásban füstgép vagy stroboszkóp jelenik meg, ott véget ér a minőség. Ám ez az előadás egy holokauszthoz kapcsolódó történetet mond el, a felszálló füstnek így óhatatlanul pluszjelentése is van. Teátrálisnak teátrális, végül is színházban vagyunk.

Szintén zenész

  • - turcsányi -

Nyilván nincs új a nap alatt, mindenesetre a síkhülye gyerekrabló történetét láttuk már kétszer, s éppenséggel olvashattuk is volna, ha Evan Hunter (a számos álnéven alkotó Salvatore Albert Lombinót Ed McBainként ismerjük jobban) 1959-ben publikált regénye megjelenik magyarul, de nem jelent meg, noha a szerző távolról sem alulreprezentált alakja a magyar könyvkiadásnak, beleértve a komcsit is).

Patchwork művészportrékból

A Fuga leghátsó, ámde igen nagy méretű termében látható a művész 2012 óta futó sorozatának (Ember Embernek Embere) majdnem teljes összegzése. A magángyűjtőktől is visszakölcsönzött alkotásokkal együtt a kiállításon 34 mű szerepel – sajátos, „bogis” művészportrék a nemzetközi művészszcéna volt és jelenlegi nagyjairól. S bár G. Horváth mindenekelőtt festő, a művészi Pantheonjában szerepet kapnak szobrászok, fotósok, konceptuális alkotók és performerek is.

Delejező monstrum

Egy magyar regény, amelyben alig van valami magyar. Bartók Imre legújabb – nem is könnyű összeszámolni, hányadik – könyvének főszereplője a harmincas évei elején járó francia Damien Lazard, aki két év alatt szinte a semmiből robban be a nemzetközi profi sakkvilág szűk elitjébe, üstökösszerű felemelkedése már a világbajnok kihívóját sejteti.

Hatvanpuszta két hintája

Hatvanpuszta két hintáját nem Hatvanpusztán, hanem Budajenőn lengeti a szél egy takaros portán, vagyis egy takaros porta előtt, ez még nem eldöntött száz százalékig.

Két akol

Magyar Péter azt mondta a 444 élő műsorában, hogy egy válságban lévő országban a választási törvény módosítása nem fér bele az 50 legfontosabb kérdésbe. Amennyiben jövőre ők győznek, az éppen annak a bizonyítéka lesz, hogy még ebben az egyfordulós rendszerben, ilyen „gusztustalan állami propaganda” mellett is lehetséges felülmúlni az uralkodó pártot.

„Saját félelmeink rossz utakra visznek”

Kevés helye van kritikának Izraellel szemben a zsidó közösségben. De vajon mi történik a porba rombolt Gázában, és miben különbözik az arab kultúra az európaitól? A Hunyadi téri Ábrahám sátra zsinagóga vezetője egyenesen beszél ezekről a kérdésekről.

Szenes Zoltán volt vezérkari főnök: A NATO-nak át kell vennie a drónvédelemmel kapcsolatos ukrán tapasztalatokat

A NATO alapvetően jól reagált az orosz csali drónok lengyelországi berepülésére, de az eset rávilágít arra, hogy a szövetség még nem készült fel a dróntámadásokra. A NATO-t politikai széttagoltsága is hátrányba hozza az orosz hibrid hadviselés elleni védekezésben – erről is beszélt nekünk a védelmi szövetség déli parancsnokság volt logisztikai főnöke.

„Előbb lövetem le magam, mint hogy letérdeljek”

Az elmúlt fél évben háromszor is országos hír lett Szolnok ellenzéki – MSZP-s – polgármesterének fellépéséből, egy tömegverekedés után például Pintér Sándor belügyminisztertől kért rendőröket a közbiztonság javításáért. Fideszes elődje örökségéről, Szolnok helyzetéről és a nagypolitikáról kérdeztük a 43 éves városvezetőt.