| ||
Alábecsültem a számítógépek fejlődési lehetőségeit, és ami még fontosabb, durván túlbecsültem azt, hogy a sakkozáshoz mennyire szükséges valóban emberi gondolkodás. Mennyire igaz Kaszparov könyvének a címe: Hogyan utánozza az élet a sakkot? Kaszparov meg van győződve arról, hogy a sakk maga az élet, sőt annál még több is, de a mesterséges intelligencia eddigi fejlődése éppen azt bizonyította be, hogy ezt csak a sakkban nagyon elmélyült emberek látják így, valójában távolról sem ez a helyzet.
Korábban is győzött már le a számítógép olyan szellemi sportágakat, amelyekről azt gondoltuk, hogy az emberi gondolkodás csúcsteljesítményeit igénylik – ilyen volt például a fejszámolás. Az 1960-as években Pataki Ferenc fejszámoló művész még minden számítógépet legyőzött sokjegyű számok összeszorzásában – ma már erre akkor sem lenne esélye, ha nem 95 éves lenne, hanem 25. A számítógépnek ez a diadala nem rázta meg különösebben az emberiséget, ahogy az sem, hogy a legegyszerűbb autó is legyőz minden embert tízezer méteres síkfutásban. Ettől még mi, emberek egymás ellen nyugodtan versenyzünk sakkban is és futásban is.
Bár a gó játékra még máig is érvényes, amit 25 éve írtam a sakkról, ma már biztos vagyok benne, hogy előbb-utóbb erre a játékra is születnek olyan programok, amelyek minden embert legyőznek. A lelkem mélyén ugyan továbbra is azt remélem, hogy ilyen programok sohasem fognak születni, de a gó is csak egy véges játék, amelyben a puszta számítási kapacitás növekedése előbb-utóbb minden bizonnyal eredményez majd olyan programokat, amelyek ellen az ember tehetetlen. A gó sem maga az élet, bár sokkal közelebb van hozzá, mint a sakk, sokkal nehezebben adja meg magát a puszta nyers erőnek, a számítási kapacitás és sebesség növekedésének.
Ebben a konkrét kérdésben egyértelműen tévedtem, és az Észjárások könyvet többször is átírtam úgy, hogy összhangban legyen a mesterséges intelligencia pillanatnyi eredményeivel, mígnem végül teljesen kihagytam belőle minden mesterséges intelligenciával foglalkozó részt. A kognitív pszichológiával kapcsolatos gondolatokat ma is így tanítják szerte a világban, a mesterséges intelligencia fejlődése viszont egyelőre semmivel sem vitt közelebb azokhoz a kérdésekhez, amelyek pszichológiai hátterét máig sem értjük pontosan.
A mai világverő sakkprogramokból semmit sem tudtunk meg arról, hogy mit is jelent valamit emberi értelemben megérteni. Ezek a programok kevesebbet értenek a sakkból, mint egy harmadosztályú sakkozó, csupán csak számolni tudnak hatalmas állapotterekben nagyon pontosan és gyorsan. Az algoritmusok is fejlődtek valamelyest, de azok legfeljebb csak annyit, hogy néhány nagyságrenddel gyorsabban tudjuk végrehajtani nagyjából ugyanazokat a számításokat, amelyekre a negyven évvel ezelőtti sakkprogramok is épültek. A számítógépek folyamatos gyorsulása következtében ezek az algoritmusok néhány évvel közelebb hozzák a gó legyőzését is, de semmivel sem hozzák közelebb az emberi gondolkodás megértését.
Az agytudomány fejlődése sem vitt ehhez közelebb. Az talán valóban elérhető lesz valamikor (bár szerintem az sem a közeli jövőben), hogy egy emberi agy szerkezetét, neurális kapcsolatait egy az egyben feltöltjük egy számítógépbe, de ez még egyáltalán nem garantálja egy mesterséges intelligencia létrehozását, mivel egyelőre fogalmunk sincs, hogyan indítsuk el ezt a hardvert a gondolkodó lénnyé válás útján. Ha netán sikerül is, az így feltöltött emberi aggyal gondolkodó gép továbbra is csak egy gép lesz, még ha szuperintelligensre sikerül is.
Egy ember akkor sem gép, ha szuperintelligens. Az alapvető különbség: egy géptől azt várjuk el, hogy azt csinálja, amire készítettük, és ha nem azt csinálja, akkor minden lelkiismeret-furdalás nélkül semmisítjük meg. Ha Polgár Judittal találkoznék, és sakkozni hívnám, egyáltalán nem lepődnék meg, ha azt válaszolná, hogy most nincs kedvem sakkozni, beszélgessünk inkább a költészetről. Ha az autóm azt válaszolná a slusszkulcs elforgatására, hogy semmi kedvem elvinni téged a körösztanyádhoz, beszélgessünk inkább, azonnal vinném a szerelőhöz, és ha az nem tudja megjavítani, akkor megsemmisíteném, vagy alkatrészenként értékesíteném, mert nekem így nem kell. Holott ezzel éppen azt bizonyítaná, hogy valóban intelligens, emberi értelemben.
Nem látom, hogy ezt a kontrollt a gépeink felett mitől veszíthetnénk el – még akkor is, ha valóban sikerül emberi értelemben intelligens gépeket létrehoznunk. Csak rajtunk múlik, hogy mindig legyen rajtuk egy kikapcs gomb, és mindig fogunk tudni gondoskodni arról, hogy ez ellen a gomb ellen ne tudjanak védekezni. Mi építjük őket akkor is, ha bizonyos feladatokban már ma is sokkal értelmesebbek nálunk.
Ezzel együtt a veszély mégis valós. A televízión is van kikapcs gomb, mégis sokan nem képesek azt megnyomni akkor sem, ha halálosan unják az összes műsort. Nem a mesterséges intelligencia fejlődésétől kell hát félnünk, hanem saját magunktól.
Számomra a mesterséges intelligencia bármiféle fejlődésénél sokkal félelmetesebb az, hogy időről időre olyan természetes intelligenciákat ültetünk a saját fejünkre, amelyek lopnak, csalnak, átvernek. Méghozzá ezt demokratikus választások útján tesszük, saját jószántunkból. Talán ezért érdemes mégiscsak foglalkoznunk azzal, hogy mi történhet, ha a mesterséges intelligenciákról kiderül, hogy valójában ártanak nekünk, rossz szándékúak, ellenünk dolgoznak.
Ha egy ilyen hátborzongató, de valódi, tényleges fenyegetést nem jelentő helyzetet komolyan végiggondolunk, abból talán jobban megérthetjük, hogy miképpen kerülhetjük el saját rossz választásainkat, mint bármiféle absztrakt politikai filozófiából. Valójában klasszikus politikai filozófiai fogalmakról, a fékekről és ellensúlyokról beszélek; csak így talán jobban érthető, miért kell a hatalmat, a legjobb indulatú, legintelligensebb hatalmat is keményen korlátozni, még akkor is, ha nem mesterséges, hanem természetes intelligenciák gyakorolják.
