Mérő László: Maga itt a tánctanár?

Ne a mesterséges intelligenciától féljünk!

szerző
Mérő László
publikálva
2015/23. (06. 04.)
Twitter megosztások száma
Google +1
Egyéb megosztás

Több mint 25 évvel ezelőtt első könyvem, az Észjárások első kiadásában írásba adtam életem egyik legnagyobb tévedését, miszerint a mesterséges intelligencia (MI), a számítógép sohasem fogja legyőzni az embert sakkban.

false

Alábecsültem a számítógépek fejlődési lehetőségeit, és ami még fontosabb, durván túlbecsültem azt, hogy a sakkozáshoz mennyire szükséges valóban emberi gondolkodás. Mennyire igaz Kaszparov könyvének a címe: Hogyan utánozza az élet a sakkot? Kaszparov meg van győződve arról, hogy a sakk maga az élet, sőt annál még több is, de a mesterséges intelligencia eddigi fejlődése éppen azt bizonyította be, hogy ezt csak a sakkban nagyon elmélyült emberek látják így, valójában távolról sem ez a helyzet.

Korábban is győzött már le a számítógép olyan szellemi sportágakat, amelyekről azt gondoltuk, hogy az emberi gondolkodás csúcsteljesítményeit igénylik – ilyen volt pél­dául a fejszámolás. Az 1960-as években Pataki Ferenc fejszámoló művész még minden számítógépet legyőzött sokjegyű számok összeszorzásában – ma már erre akkor sem lenne esélye, ha nem 95 éves lenne, hanem 25. A számítógépnek ez a diadala nem rázta meg különösebben az emberiséget, ahogy az sem, hogy a legegyszerűbb autó is legyőz minden embert tízezer méteres síkfutásban. Ettől még mi, emberek egymás ellen nyugodtan versenyzünk sakkban is és futásban is.

Bár a gó játékra még máig is érvényes, amit 25 éve írtam a sakkról, ma már biztos vagyok benne, hogy előbb-utóbb erre a játékra is születnek olyan programok, amelyek minden embert legyőznek. A lelkem mélyén ugyan továbbra is azt remélem, hogy ilyen programok sohasem fognak születni, de a gó is csak egy véges játék, amelyben a puszta számítási kapacitás növekedése előbb-utóbb minden bizonnyal eredményez majd olyan programokat, amelyek ellen az ember tehetetlen. A gó sem maga az élet, bár sokkal közelebb van hozzá, mint a sakk, sokkal nehezebben adja meg magát a puszta nyers erőnek, a számítási kapacitás és sebesség növekedésének.

Ebben a konkrét kérdésben egyértelműen tévedtem, és az Észjárások könyvet többször is átírtam úgy, hogy összhangban legyen a mesterséges intelligencia pillanatnyi eredményeivel, mígnem végül teljesen kihagytam belőle minden mesterséges intelligenciával foglalkozó részt. A kognitív pszichológiával kapcsolatos gondolatokat ma is így tanítják szerte a világban, a mesterséges intelligencia fejlődése viszont egyelőre semmivel sem vitt közelebb azokhoz a kérdésekhez, amelyek pszichológiai hátterét máig sem értjük pontosan.

A mai világverő sakkprogramokból semmit sem tudtunk meg arról, hogy mit is jelent valamit emberi értelemben megérteni. Ezek a programok kevesebbet értenek a sakkból, mint egy harmadosztályú sakkozó, csupán csak számolni tudnak hatalmas állapotterekben nagyon pontosan és gyorsan. Az algoritmusok is fejlődtek valamelyest, de azok legfeljebb csak annyit, hogy néhány nagyságrenddel gyorsabban tudjuk végrehajtani nagyjából ugyanazokat a számításokat, amelyekre a negyven évvel ezelőtti sakkprogramok is épültek. A számítógépek folyamatos gyorsulása következtében ezek az algoritmusok néhány évvel közelebb hozzák a gó legyőzését is, de semmivel sem hozzák közelebb az emberi gondolkodás megértését.

Az agytudomány fejlődése sem vitt ehhez közelebb. Az talán valóban elérhető lesz valamikor (bár szerintem az sem a közeli jövőben), hogy egy emberi agy szerkezetét, neurális kapcsolatait egy az egyben feltöltjük egy számítógépbe, de ez még egyáltalán nem garantálja egy mesterséges intelligencia létrehozását, mivel egyelőre fogalmunk sincs, hogyan indítsuk el ezt a hardvert a gondolkodó lénnyé válás útján. Ha netán sikerül is, az így feltöltött emberi aggyal gondolkodó gép továbbra is csak egy gép lesz, még ha szuperintelligensre sikerül is.

Egy ember akkor sem gép, ha szuperintelligens. Az alapvető különbség: egy géptől azt várjuk el, hogy azt csinálja, amire készítettük, és ha nem azt csinálja, akkor minden lelkiismeret-furdalás nélkül semmisítjük meg. Ha Polgár Judittal találkoznék, és sakkozni hívnám, egyáltalán nem lepődnék meg, ha azt válaszolná, hogy most nincs kedvem sakkozni, beszélgessünk inkább a költészetről. Ha az autóm azt válaszolná a slusszkulcs elforgatására, hogy semmi kedvem elvinni téged a köröszt­anyádhoz, beszélgessünk inkább, azonnal vinném a szerelőhöz, és ha az nem tudja megjavítani, akkor megsemmisíteném, vagy alkatrészenként értékesíteném, mert nekem így nem kell. Holott ezzel éppen azt bizonyítaná, hogy valóban intelligens, emberi értelemben.

Nem látom, hogy ezt a kontrollt a gépeink felett mitől veszíthetnénk el – még akkor is, ha valóban sikerül emberi értelemben intelligens gépeket létrehoznunk. Csak rajtunk múlik, hogy mindig legyen rajtuk egy kikapcs gomb, és mindig fogunk tudni gondoskodni arról, hogy ez ­ellen a gomb ellen ne tudjanak védekezni. Mi építjük őket akkor is, ha bizonyos feladatokban már ma is sokkal értelmesebbek nálunk.

Mai programok
Ezzel együtt a veszély mégis valós. A televízión is van kikapcs gomb, mégis sokan nem képesek azt megnyomni akkor sem, ha halálosan unják az összes műsort. Nem a mesterséges intelligencia fejlődésétől kell hát félnünk, hanem saját magunktól.

Számomra a mesterséges intelligencia bármiféle fejlődésénél sokkal félelmetesebb az, hogy időről időre olyan természetes intelligenciákat ültetünk a saját fejünkre, amelyek lopnak, csalnak, átvernek. Méghozzá ezt demokratikus választások útján tesszük, saját jószántunkból. Talán ezért érdemes mégiscsak foglalkoznunk azzal, hogy mi történhet, ha a mesterséges intelligenciákról kiderül, hogy valójában ártanak nekünk, rossz szándékúak, ellenünk dolgoznak.

Ha egy ilyen hátborzongató, de valódi, tényleges fenyegetést nem jelentő helyzetet komolyan végiggondolunk, abból talán jobban megérthetjük, hogy miképpen kerülhetjük el saját rossz választásainkat, mint bármiféle absztrakt politikai filozófiából. Valójában klasszikus politikai filozófiai fogalmakról, a fékekről és ellensúlyokról beszélek; csak így talán jobban érthető, miért kell a hatalmat, a legjobb indulatú, legintelligensebb hatalmat is keményen korlátozni, még akkor is, ha nem mesterséges, hanem természetes intelligenciák gyakorolják.

szerző
Mérő László
publikálva
2015/23. (06. 04.)
Twitter megosztások száma
Google +1
Egyéb megosztás
Ezt már olvasta?

Kommentek

Rendezés:
  1. 8
    yoyo
    2015. június 23., kedd 17:04
    bensomo:

    igen, az általad leírt már egy differenciáltabb ügy a deep blue-hoz képest (ami tényleg csak attól volt sikeres, hogy nem 4-5, hanem vagy 28 lépés mélységig elemezte ki a lépések várható következményeit).
    De: az is tévedés, hogy az emberi gondolkodás leegyszerűsíthető bevitt (megtanult) adatok felidézésére, és korábbi tapasztalatok sokasága, valamint tanult műveletek alapján meghozott döntésekre.
    Ez egy protokoll szerint dolgozó - vagyis NEM GONDOLKODÓ munkás modellje. Ebben a modellben egyetlen olyan elem sincs, ami ismert szituációra hozott új megoldást, vagy váratlan, új helyzetre adott eredeti választ jelentene. Ilyet a szupergépek nem tudhatnak, mivel protokoll szerint működnek.
    És nyilván már vannak zeneművet, festményt (kívánt stílusban, adott művész modorában) generáló programok, akár költemény is létrehozható, de ezek csupán művek illúziói, amit egy megírt algoritmus bizonyos előre bevitt sémák, képletek, sablonok sokasága alapján kiad. Ami viszont nyilvánvalóan nincs meg ezek mögött a mű művek mögött, az emberi médium, a csatorna, amin egy ember élményei, érzései, sejtései közvetítenek.
    És sok okostojás fog majd azzal jönni, hogy mi a baj a gép komponálta művekkel, ha jó, sőt, egész biztosan lesz, akit egy teszten be lehet csapni, és szerző nélkül elé tett versek közül a gép által kreáltat magasabbra értékeli, mint nagy költők művét, de talán érthető, amire gondolok, ha azt mondom, választhatsz egy (langyos vízzel megtöltött) guminő és egy valóságos ember között. (jó, a guminő és közted várhatóan nem lesznek nézeteltérések).
  2. 7
    grrr
    2015. június 23., kedd 12:52
    Rejtélyes és megmagyarázhatatlan vonzódásaim egyike Neumann Jánoshoz kapcsolódik akinek a Számológép és az agy című könyvét még boldogult ifjúkoromban elolvastam, ha szabad ezt a szót használnom.

    Az olvasás ugyanis annyiból állt, hogy az elején még felfogtam, Neumann a számológépet és az emberi agyat próbálta meg összekombinálni fogalmam sincs milyen sikerrel, mivel pár oldal után a szerző felszárnyalt a felsőbb matematika világába és innen kezdve én már csak a kötőszavakat értettem.

    Mégis vonzódtam a könyvhöz és Neumann Jánoshoz, ki tudja miért.

    Ha figyelembe vesszük, hogy kora gyermekkoromtól fogva rémálmaimban egy csonka gúla üldözött azzal a perverz óhajtással miszerint számítsam ki a területét, vagy a térfogatát vagy mijét, még érthetetlenebbnek tűnik az egész.

  3. 6
    bensomo
    2015. június 23., kedd 11:15
    Éppen most olvastam egy cikket, amely szabadon asszociáló neurális hálókról szól. Ezeket a mesterséges intelligenciákat lényegében arra trenírozzák, hogy felismerjék, mi látható egy fotón. Miután az "oktatás" során nagy mennyiségű képpel megetették a neurális hálót, feje tetejére állítják az egészet és kvázi az output-ot használják inputként. Így is beadnak neki egy fehér zajos képet és azt mondják, hogy keress rajta madarat, vagy banánt, stb. A teljes folyamat ennél persze bonyolultabb, de a lényeg, hogy a gép a felhő fodraiban, a tenger hullámai között és hegyek lankáin felismerni vél az eddig tanultaknak megfelelő formákat, állatokat, járműveket, épületeket. A slusszpoén hogy az neurális hálózatban megjelenő absztrakció bizonyos szintjéről ki is nyerhetőek azok a képek, amelyek az asszociációról tanúskodnak. Az eredménytől leesett az állam, mert ezek a gépek tulajdonképpen szürrealista festők.

    A cikk itt található:
    http://googleresearch.blogspot.hu/2015/06/inceptionism-going-deeper-into-neural.html

    Ez azért merőben más, mint a számítási kapacitás minden határon túl növelése. Persze erre is mondhatjuk, hogy csak azokat a formákat ismeri fel, amelyeket már korábban megmutattak neki, csakhogy ezzel mi, emberek is így vagyunk.

    Hogy ki lehet-e kapcsolni egy gépet, az itt teljesen indifferens szerintem. Hiszen egy embert is fejbe lehet lőni!


    http://googleresearch.blogspot.hu/2015/06/inceptionism-going-deeper-into-neural.html
  4. 5
    vilsi
    2015. június 23., kedd 08:37

    MINDENTUDÁS - SEMMITTUDÁS! A TUDOMÁNY A MULTIK TERMÉKE!

    Ne engedjük, hogy a multik fölvásárolják az egyetemeket és a professzorokat!
    CSAK AZOKAT AZ ELŐADÓKAT HÍVJÁK MEG,
    AKIK A MULTIK PARADIGMÁIT KÉPVISELIK.
    MÁR RÉG NEM A TERMÉSZETET KUTATJÁK, HANEM AZ EMBER MŰ-VILÁGÁT.

    Vízi E. Szilveszter: Nézzék meg, mennyi a neurotikus a metróban.
    SZEA: Nem a természetes reakciókat kell gyógyszerezni,
    hanem egészséges életkörülményeket kell teremteni.
    Nyíri Kristóf: Mobiltelefon, a mindentudó.
    SZEA: Ami a maroktelefonból megtudható, az egy csomó értéktelen kacat.
    Csak azért gyűlt össze, mert lehet tárolni.
    A t u d o m á n y n a k v é g e
    A tudomány közmegegyezés, a paradigmákat a multik határozzák meg. Ez a tudomány már nem az embert szolgálja.
    Felkent papjai, a megélhetési kutatók elektronikus ketyeréket reklámoznak tudományos előadás címen.
    Azon, amit a tudóstársadalom egyik fele kiagyal, a másik fele kotlik és fordítva.
    Ismereteinket elektronikus jelekből szerezzük, tele a fejünk technikai adatokkal,
    de nem tudunk enni, nem tudunk közlekedni, levelet írni, táncolni, élelmet termelni, önmagunkat szórakoztatni -
    mindezt megrendeljük a beszállítóinktól és tátogunk, mint a hal, ha egyszer megszakad az ellátás.
    - Minden föl van fedezve, jelentéktelen részletkutatás folyik.
    - A tudomány egy problémát megold, kettőt generál. A mérleg átbillent.
    - Képtelen viták eldöntésére génkezelt élelmek, adalékok, maroktelefon, környezetkemikáliák, sugárzások, fölmelegedés, stb. kockázata esetében
    - Egyetlen fontos kérdésre sem adott választ, életünk értelmének keresésében, pálya- és párválasztásnál hiába fordulunk a tudományhoz.
    - Az űrutazásban 40, az energetikában 50 éve semmi.
    - Minél nagyobb a ciklotron, annál több a részecske.
    - Megszületett a gyorsnyomtató, meghalt az írás.
    A régi tudások hordozói, akik az élethez értenek, kihalnak és nemsokára csupa számítógépes szaladgál itt. Nem szabad, hogy az unoka többet tudjon, mint a nagyapa. Nem is tud: az ő tudása nem esszenciális. Régen a falu öregjeit kérdezték, ma a számítógépeseket. Vesztünkre: ha majd minden számítógépet az utcára dobnak, mert azt nem lehet megenni, akkor derül majd ki, mihez kell érteni: élelmet és meleget termelni. A világot nem új találmányokkal, hanem szociális szövetségekkel, belátással és mértéktartással lehet megtartani. Hol az a találmány, ami a belátást és a szolidaritást fejleszti? Nézzünk csak szét a konyhánkban, milyen gép kellene még? A polgár
    10 000 kacatjával olyan boldogtalan, mint azelőtt. Semmilyen gyár nem tudja gyártani, amire valójában szüksége van: bizalomra, elismertségre, meghittségre, barátságra, otthonra, szeretetre.

    Az ember fékezze meg az eszét és fedezze föl a szívét! - Az értelmiségi munka megvetendő!

    Tudománykritikusok: K.R. Popper, C.F.Weizsäcker, E. Chargaff, Thomas Kuhn, P. Feyerabend, H.-P. Dürr; akikkel beszéltünk: R. Jungk, Peter Kafka, K. Meyer-Abich.
    A Szelíd Energia Ösvény 10 állomása megmutatja, mennyi technika elfogadható.

    Bp, 2003

    (Elképesztő volt a technikai és személyi fölhajtás ezeken a rendezvényeken:
    műszakiak, biztonságiak, vendéglátók, tudományos celebek, újságírók nyüzsögnek;
    a gyönyörű lágymányosi nagyelőadóban ismételten építik-bontják a tévé-technikákat –
    elfelejtették állandóra beépíteni… /A tévéadásokat később egy rátarti,
    kotnyeles riporter kisajátítja, főszereplőjévé teszi magát; közpénzünkön gyógytornát,
    orvosi leleteket, génanalízist rendel meg/.
    Ez a nagy csinnadratta keltett gyanút, no, meg az óriáscégek reklámplakátjai.
    A 2003-as tüntetés a Mindentudás Egyeteme ellen tudománykritikus,
    tiltakozik a tudomány kiárusítása ellen, amennyiben a multik kisajátítják azt.
    A kutatásokat ők pénzelik és pozitivista módon az jön ki, amit ők akarnak.
    A Mtud Egyeteme lelepleződik: nem más, mint a tudománybabona szentesítése és a multik reklámrendezvénye.)
  5. 4
    Ian Uriel
    2015. június 22., hétfő 06:25
    Maradjunk inkabb a Termeszetes Intelligencianal es az ERZELMI Agynal!
    http://www.sciencedaily.com/releases/2015/06/150618104153.htm
  6. 3
    Ian Uriel
    2015. június 22., hétfő 06:22
    Mara
  7. 2
    Ian Uriel
    2015. június 22., hétfő 06:14
    Akkor mitől?!Ray Kurzweill mar Ember es Gep szimbiozusrol beszel 2029-ben!Amikor gepi programok toltik be az Agyadba az infokat!S a most kialakulo Felhő alapulo szolgaltatasok közvetlen kapcsolatba kerülnek az agyaddal!Mi törtenik ha egy hibbant AI programozo a softver virusokhoz hasonlot indit el a Felhőben!Ez veszelyesebb lesz mint az AIDS!Ez a Computer Aquirited Integrated Design System lesz!Magyarul a Szamitogep Felhojen keresztul terjesztett Softveres AIDS ami csak az emberek gondolkodasat allitja le ha az AI atveszi az iranyitast a gepektol!
    Van egy magyar kozmondas:
    Jobb felni mint Megijedni!

    R.Kurzweil bacsit a 150 fajta Vitamin tabblettajaval pedig kuldjuk vissza az anyukaja hasaba-amikor kitalalta ezt az őrületet arrol hogyan lehet a Amitogepeket es az emberi Agyat közvetlenul összekapcsolni a Felhővel!
    S ezt az egeszet egy AI-mesterseges Intelligencia rendszer ellenőrizze!

    UI:Ha ez az őrület megvalosul az a pillanat lesz az Emberi Civillizacio Vege!
    1 azaz 1masodperc alatt az AI alapu gepek atveszik az iranyitast a tobbmilliard ember Agya felett!Ez lesz az a Szep UJ vilag amit Huxley 50 -60 evvel ezelott BE-josolt!

    AI?!Thx-NO! Akkor mitől?!Ray Kurzweill mar Ember es Gep szimbiozusrol beszel 2029-ben!Amikor gepi programok toltik be az Agyadba az infokat!S a most kialakulo Felhő alapulo szolgaltatasok közvetlen kapcsolatba kerülnek az agyaddal!Mi törtenik ha egy hibbant AI programozo a softver virusokhoz hasonlot indit el a Felhőben!Ez veszelyesebb lesz mint az AIDS!Ez a Computer Aquirited Integrated Design System lesz!Magyarul a Szamitogep Felhojen keresztul terjesztett Softveres AIDS ami csak az emberek gondolkodasat allitja le ha az AI atveszi az iranyitast a gepektol!
    Van egy magyar kozmondas:
    Jobb felni mint Megijedni!

    R.Kurzweil bacsit a 150 fajta Vitamin tabblettajaval pedig kuldjuk vissza az anyukaja hasaba-amikor kitalalta ezt az őrületet arrol hogyan lehet a Amitogepeket es az emberi Agyat közvetlenul összekapcsolni a Felhővel!
    S ezt az egeszet egy AI-mesterseges Intelligencia rendszer ellenőrizze!

    UI:Ha ez az őrület megvalosul az a pillanat lesz az Emberi Civillizacio Vege!
    1 azaz 1masodperc alatt az AI alapu gepek atveszik az iranyitast a tobbmilliard ember Agya felett!Ez lesz az a Szep UJ vilag amit Huxley 50 -60 evvel ezelott BE-josolt!

    AI?!Thx-NO!
  8. 1
    yoyo
    2015. június 21., 21:46
    A szperintelligens ember nem gép.
    Sőt. Minél intelligensebb valaki, annál kevésbe gép.
    Rejtely, miért nem megy belátni, a sok művelet gyors elvégzése nem intelligencia.
    A bazi gyors sakk gép, önmagában hülye mint a segg, es soha egyetlen eredeti, intuitív, kreatív lépése nem lesz, olyan meg különösen nem, amivel o maga is tisztában lenne, amire rácsodálkozna.

    A gépi "intelligencia" olyan, mint egy jól beidomított vadaszkutya, rohan, megkeresi, oda hozza es a gazdi lába elé teszi a kilőtt vadkacsat.

    Minden alkalommal, amikor a gépek lázadásáról hablatyolnak, nem fogjak fel, hogy onreflexio, entudat, önkritika, belátás es hasonlók nélkül csak szupergyors számológépek elott zuhannak hasra.

    Nem mondom, elkövetkezhet valami áttörés, ami alapjaiban új helyzetet teremt, de addig csak síkbuta ízek végzik szolgamod a rajuk szabott feladatot, a bennük levő információhoz pedig annyi közük van, mint bitonsagi őrnek a szefben levő milliárdokhoz.

Komment írásához vagy regisztrálj

Legfrissebb Narancs

Honvédkórház – 2018
Emberi alatti állapotok
Devizahitelesek
Válság után, válság előtt
Interjúk
Zsiday Viktor, Bárdos Deák Ági
Tartalomjegyzék Legfrissebb Narancs

Kis-magyarország

még több Kis-Magyarország...

Politika

még több Politika...

Narancs

Blog

még több cikk