Mérő László: Maga itt a tánctanár?

Ne a mesterséges intelligenciától féljünk!

  • Mérő László
  • 2015. június 21.

Egotrip

Több mint 25 évvel ezelőtt első könyvem, az Észjárások első kiadásában írásba adtam életem egyik legnagyobb tévedését, miszerint a mesterséges intelligencia (MI), a számítógép sohasem fogja legyőzni az embert sakkban.
false

Alábecsültem a számítógépek fejlődési lehetőségeit, és ami még fontosabb, durván túlbecsültem azt, hogy a sakkozáshoz mennyire szükséges valóban emberi gondolkodás. Mennyire igaz Kaszparov könyvének a címe: Hogyan utánozza az élet a sakkot? Kaszparov meg van győződve arról, hogy a sakk maga az élet, sőt annál még több is, de a mesterséges intelligencia eddigi fejlődése éppen azt bizonyította be, hogy ezt csak a sakkban nagyon elmélyült emberek látják így, valójában távolról sem ez a helyzet.

Korábban is győzött már le a számítógép olyan szellemi sportágakat, amelyekről azt gondoltuk, hogy az emberi gondolkodás csúcsteljesítményeit igénylik – ilyen volt pél­dául a fejszámolás. Az 1960-as években Pataki Ferenc fejszámoló művész még minden számítógépet legyőzött sokjegyű számok összeszorzásában – ma már erre akkor sem lenne esélye, ha nem 95 éves lenne, hanem 25. A számítógépnek ez a diadala nem rázta meg különösebben az emberiséget, ahogy az sem, hogy a legegyszerűbb autó is legyőz minden embert tízezer méteres síkfutásban. Ettől még mi, emberek egymás ellen nyugodtan versenyzünk sakkban is és futásban is.

Bár a gó játékra még máig is érvényes, amit 25 éve írtam a sakkról, ma már biztos vagyok benne, hogy előbb-utóbb erre a játékra is születnek olyan programok, amelyek minden embert legyőznek. A lelkem mélyén ugyan továbbra is azt remélem, hogy ilyen programok sohasem fognak születni, de a gó is csak egy véges játék, amelyben a puszta számítási kapacitás növekedése előbb-utóbb minden bizonnyal eredményez majd olyan programokat, amelyek ellen az ember tehetetlen. A gó sem maga az élet, bár sokkal közelebb van hozzá, mint a sakk, sokkal nehezebben adja meg magát a puszta nyers erőnek, a számítási kapacitás és sebesség növekedésének.

Ebben a konkrét kérdésben egyértelműen tévedtem, és az Észjárások könyvet többször is átírtam úgy, hogy összhangban legyen a mesterséges intelligencia pillanatnyi eredményeivel, mígnem végül teljesen kihagytam belőle minden mesterséges intelligenciával foglalkozó részt. A kognitív pszichológiával kapcsolatos gondolatokat ma is így tanítják szerte a világban, a mesterséges intelligencia fejlődése viszont egyelőre semmivel sem vitt közelebb azokhoz a kérdésekhez, amelyek pszichológiai hátterét máig sem értjük pontosan.

A mai világverő sakkprogramokból semmit sem tudtunk meg arról, hogy mit is jelent valamit emberi értelemben megérteni. Ezek a programok kevesebbet értenek a sakkból, mint egy harmadosztályú sakkozó, csupán csak számolni tudnak hatalmas állapotterekben nagyon pontosan és gyorsan. Az algoritmusok is fejlődtek valamelyest, de azok legfeljebb csak annyit, hogy néhány nagyságrenddel gyorsabban tudjuk végrehajtani nagyjából ugyanazokat a számításokat, amelyekre a negyven évvel ezelőtti sakkprogramok is épültek. A számítógépek folyamatos gyorsulása következtében ezek az algoritmusok néhány évvel közelebb hozzák a gó legyőzését is, de semmivel sem hozzák közelebb az emberi gondolkodás megértését.

Az agytudomány fejlődése sem vitt ehhez közelebb. Az talán valóban elérhető lesz valamikor (bár szerintem az sem a közeli jövőben), hogy egy emberi agy szerkezetét, neurális kapcsolatait egy az egyben feltöltjük egy számítógépbe, de ez még egyáltalán nem garantálja egy mesterséges intelligencia létrehozását, mivel egyelőre fogalmunk sincs, hogyan indítsuk el ezt a hardvert a gondolkodó lénnyé válás útján. Ha netán sikerül is, az így feltöltött emberi aggyal gondolkodó gép továbbra is csak egy gép lesz, még ha szuperintelligensre sikerül is.

Egy ember akkor sem gép, ha szuperintelligens. Az alapvető különbség: egy géptől azt várjuk el, hogy azt csinálja, amire készítettük, és ha nem azt csinálja, akkor minden lelkiismeret-furdalás nélkül semmisítjük meg. Ha Polgár Judittal találkoznék, és sakkozni hívnám, egyáltalán nem lepődnék meg, ha azt válaszolná, hogy most nincs kedvem sakkozni, beszélgessünk inkább a költészetről. Ha az autóm azt válaszolná a slusszkulcs elforgatására, hogy semmi kedvem elvinni téged a köröszt­anyádhoz, beszélgessünk inkább, azonnal vinném a szerelőhöz, és ha az nem tudja megjavítani, akkor megsemmisíteném, vagy alkatrészenként értékesíteném, mert nekem így nem kell. Holott ezzel éppen azt bizonyítaná, hogy valóban intelligens, emberi értelemben.

Nem látom, hogy ezt a kontrollt a gépeink felett mitől veszíthetnénk el – még akkor is, ha valóban sikerül emberi értelemben intelligens gépeket létrehoznunk. Csak rajtunk múlik, hogy mindig legyen rajtuk egy kikapcs gomb, és mindig fogunk tudni gondoskodni arról, hogy ez ­ellen a gomb ellen ne tudjanak védekezni. Mi építjük őket akkor is, ha bizonyos feladatokban már ma is sokkal értelmesebbek nálunk.

Ezzel együtt a veszély mégis valós. A televízión is van kikapcs gomb, mégis sokan nem képesek azt megnyomni akkor sem, ha halálosan unják az összes műsort. Nem a mesterséges intelligencia fejlődésétől kell hát félnünk, hanem saját magunktól.

Számomra a mesterséges intelligencia bármiféle fejlődésénél sokkal félelmetesebb az, hogy időről időre olyan természetes intelligenciákat ültetünk a saját fejünkre, amelyek lopnak, csalnak, átvernek. Méghozzá ezt demokratikus választások útján tesszük, saját jószántunkból. Talán ezért érdemes mégiscsak foglalkoznunk azzal, hogy mi történhet, ha a mesterséges intelligenciákról kiderül, hogy valójában ártanak nekünk, rossz szándékúak, ellenünk dolgoznak.

Ha egy ilyen hátborzongató, de valódi, tényleges fenyegetést nem jelentő helyzetet komolyan végiggondolunk, abból talán jobban megérthetjük, hogy miképpen kerülhetjük el saját rossz választásainkat, mint bármiféle absztrakt politikai filozófiából. Valójában klasszikus politikai filozófiai fogalmakról, a fékekről és ellensúlyokról beszélek; csak így talán jobban érthető, miért kell a hatalmat, a legjobb indulatú, legintelligensebb hatalmat is keményen korlátozni, még akkor is, ha nem mesterséges, hanem természetes intelligenciák gyakorolják.

Figyelmébe ajánljuk

A saját határain túl

Justin Vernon egyszemélyes vállalkozásaként indult a Bon Iver, miután a zenész 2006-ban három hónapot töltött teljesen egyedül egy faházban, a világtól elzárva, egy nyugat-wisconsini faluban.

Az űr az úr

Az 1969-ben indult Hawkwind mindig a mainstream csatornák radarja alatt maradt, pedig hatása évtizedek óta megkérdőjelezhetetlen.

Pincebogarak lázadása

  • - turcsányi -

Jussi Adler-Olsen immár tíz kötetnél járó Q-ügyosztályi ciklusa a skandináv krimik népmesei vonulatába tartozik. Nem a skandináv krimik feltétlen sajátja az ilyesmi, minden szak­ágnak, műfajnak és alműfajnak van népmesei tagozata, amelyben az alsó kutyák egy csoportozata tengernyi szívás után a végére csak odasóz egy nagyot a hatalomnak, az efeletti boldogságtól remélvén boldogtalansága jobbra fordulását – hiába.

Luxusszivacsok

A Molnár Ani Galéria 2024-ben megnyitott új kiállítótere elsősorban hazai, fiatal, női alkotókra fókuszál, Benczúr viszont már a kilencvenes évek közepétől jelen van a művészeti szcénában, sőt már 1997-ben szerepelt a 2. Manifestán, illetve 1999-ben (más művészekkel) együtt a Velencei Biennálé magyar pavilonjában.

Égen, földön, vízen

Mesék a mesében: mitikus hősök, mágikus világ, megszemélyesített természet, a szó szoros értelmében varázslatos nyelv. A világ végén, tajtékos vizeken és ég alatt, regei időben mozognak a hősök, egy falu lakói.

Visszaszámlálás

A Ne csak nézd! című pályázatot a Free­szfe, az Örkény Színház, a Trafó és a Jurányi közösen hirdették meg abból a célból, hogy független alkotóknak adjanak lehetőséget új előadások létrehozására, a Freeszfére járó hallgatóknak pedig a megmutatkozásra. Tematikus megkötés nem volt, csak annyiban, hogy a társulatoknak társadalmilag fontos témákat kellett feldolgozniuk. A nyertesek közül a KV Társulat pályamunkáját az Örkény Színház fogadta be.

Levél egy távoli galaxisból

Mészáros Lőrinc olyan, mint a milói Vénusz. De már nem sokáig. Ő sem valódi, s róla is hiányzik ez-az (nem, a ruha pont nem). De semmi vész, a hiány pótlása folyamatban van, valahogy úgy kell elképzelni, mint a diósgyőri vár felújítását, felépítik vasbetonból, amit lecsupáltak a századok. Mészáros Lőrincnek a története hiányos, az nem lett rendesen kitalálva.

A gólem

Kicsit sok oka van Karoł Nawrocki győzelmének a lengyel elnökválasztás június 1-jei, második fordulójában ahhoz, hogy meg lehessen igazán érteni, mi történt itt. Kezdjük mindjárt azzal a tulajdonképpen technikai jellegűvel, hogy az ellenfele, Rafał Trzaskowski eléggé elfuserált, se íze, se bűze kampányt vitt.

„Mint a pókháló”

Diplomáját – az SZFE szétverése miatt – az Emergency Exit program keretein belül Ludwigsburgban kapta meg. Legutóbbi rendezése, a Katona József Színházban nemrég bemutatott 2031 a kultúra helyzetével és a hatalmi visszaélések természetével foglalkozik. Ehhez kapcsolódva toxikus maszkulinitásról, a #metoo hatásairól és az empátiadeficites helyzetekről beszélgettünk vele.

Nem a pénz számít

Mérföldkőhöz érkezett az Európai Unió az orosz energiahordozókhoz fűződő viszonya tekintetében: május elején az Európai Bizottság bejelentette, hogy legkésőbb 2027 végéig minden uniós tagállamnak le kell válnia az orosz olajról, földgázról és nukleáris fűtőanyagról. Ha ez megvalósul, az energiaellátás megszűnik politikai fegyverként működni az oroszok kezében. A kérdés az, hogy Magyar­ország és Szlovákia hajlandó lesz-e ebben együttműködni – az elmúlt években tanúsított magatartásuk ugyanis ennek éppen az ellenkezőjét sugallja.

„A kínai tudás”

Az európai autóipart most épp Trump vámjai fenyegetik, de a romlása nem ma kezdődött. Hanem mikor? A kínaiak miatt kong a lélekharang? Vagy az Európai Unió zöld szemüveges bürokratái a tettesek? Netán a vásárlók a hibásak, különösen az európaiak, akik nem akarnak drága pénzért benzingőzt szívni az ablakuk alatt? A globális autópiac gyakorlati szakemberét kérdeztük.