Már bánja élete munkáját, otthagyta a Google-t az AI-szakértő

  • narancs.hu
  • 2023. május 1.

Tudomány

Geoffrey Hinton már régóta felhívta a figyelmet az AI körüli etikai kérdésekre, különösen a katonai célokra való használatra.

Tíz év után távozik a Google-től a 75 éves Geoffrey Hinton, a mélytanulás úttörője, aki a modern mesterséges intelligencia középpontjában álló legfontosabb technikákat fejlesztette ki – írja a a 444 a New York Times cikkére hivatkozva.

A lap szerint Hintonnak új félelmei vannak a technológiával kapcsolatban, aminek bevezetésében segített, és nyíltan szeretne beszélni róluk.

A kognitív pszichológus és informatikus Hinton, aki szerdán élőben fog beszélni az MIT Technology Review-nak az EmTech Digitalnál a lemondása utáni első interjújában, Yann Lecunnal és Yoshua Bengióval közösen kapta a 2018-as Turing-díjat, ami a számítástechnika Nobel-díjának megfelelője.

Geoff óriási mértékben járul hozzá az AI-hez. Nem mondta nekem, hogy ki akar lépni a Google-ból, de nem vagyok meglepve” 

 

– mondja Lecun, a Meta vezető mesterséges intelligencia-tudósa.

Hinton 2013 óta osztotta meg az idejét a Torontói Egyetem és a Google között, amikor is a technológiai óriás felvásárolta a Hinton AI-val foglalkozó DNNresearch nevű startupját. Hinton cége a kutatócsoportjából nőtt ki, ami akkoriban a képfelismerő gépi tanulással úttörő munkát végzett. A Google ezt a technológiát használta a fotókeresés és egyebek javítására.

Hinton már régóta felhívta a figyelmet az AI körüli etikai kérdésekre, különösen a katonai célokra való használatra. Azt mondta, az egyik oka annak, hogy karrierje nagy részét Kanadában tölti, az az, hogy könnyebb olyan kutatási finanszírozást szerezni, ami nem kapcsolódik az Egyesült Államok Védelmi Minisztériumához.

Jeff Dean, a Google vezető tudósa azt mondta: „Az AI-elveket elsőként közzétevő vállalatok egyikeként továbbra is elkötelezettek vagyunk az AI felelős megközelítése mellett. Folyamatosan tanuljuk megérteni a felmerülő kockázatokat, miközben bátran újítunk.”

Hinton leginkább a backpropagation nevű algoritmusáról ismert, amit először két kollégájával vetett fel az 1980-as években. A technika, ami lehetővé teszi a mesterséges neurális hálózatok tanulását, ma már szinte minden gépi tanulási modell alapját képezi. Dióhéjban ez egy módja annak, hogy a mesterséges neuronok közötti kapcsolatokat újra és újra módosítsuk, amíg egy neurális hálózat meg nem hozza a kívánt kimenetet. Hinton úgy vélte, hogy a backpropagation utánozza a biológiai agy tanulását.

Most viszont hivatalosan is csatlakozott a kritikusok egyre növekvő kórusához, akik szerint ezek a cégek veszélyt jelentenek az emberiségre az agresszív versengésükkel, hogy létrehozzák az általános mesterséges intelligenciát olyan népszerű chatbotok, mint a ChatGPT technológiája alapjára építő termékek létrehozása.

Hinton azt mondta, felmondása után már szabadon beszélhet az AI kockázatairól. Azt mondta, egy része már bánja élete munkáját.

„A szokásos kifogással vigasztalom magam: ha én nem tettem volna, akkor valaki más megtette volna”

– mondta Hinton egy hosszas interjú során a múlt héten torontói otthonának ebédlőjében.

Lapunk pár hete írt arról, hogy mire jó és mire nem a mesterséges intellgencia, a 444 cikkében pedig Max Tegmark, az MIT fizikaprofesszora az általános mesterséges intelligencia kockázataira figyelmeztetve Hintonra is hivatkozott, aki nemrég azt mondta: „A közelmúltig azt hittem, 20-50 év múlva lesz AGI. És most azt gondolom, hogy ez 20 év vagy kevesebb, lehet, hogy csak 5 év.”

Maradjanak velünk!


Ez a Narancs-cikk most véget ért – de még oly sok mindent ajánlunk Önnek! Oknyomozást, riportot, interjúkat, elemzést, okosságot – bizonyosságot arról, hogy nem, a valóság nem veszett el, még ha komplett hivatalok és testületek meg súlyos tízmilliárdok dolgoznak is az eltüntetésén.

Tesszük a dolgunkat. Újságot írunk, hogy kiderítsük a tényeket. Legyen ebben a társunk, segítse a munkánkat, hogy mi is segíthessünk Önnek. Fizessen elő a Narancs digitális változatára!

Jó emberek írják jó embereknek!

Figyelmébe ajánljuk

Hieronymus Bosch világa

  • - turcsányi -

Michael Connelly nem egy író, inkább egy regénygyár, rosszabb esetben áruvédjegy – az efféle státus persze nem oly ritka zsiráf manapság.

„Rodrigo”

A világ legnagyobb és legrangosabb színházi fesztiválja az avignoni. Jelentős társulatok seregszemléje, illetve már maga a fesztiválmeghívás jelentőssé tesz társulatokat. Aki a hivatalos programban van, az számít valakinek.

Félúton

Egykori nagymenő, aki a csúcsról lepottyanva már csak árnyéka önmagának; féktelen csodagyerek, akinek csak kemény munkára és iránymutatásra van szüksége, hogy azzá a sztárrá váljon, akit a végzete elrendelt neki – a sportfilmek talán legnagyobb kliséi ezek, a Stick pedig épp erre a kettőre épül.

Dinók a budoárban

Ötévesen, egy tollseprűtánccal indult Karácsonyi László (1976) művészi karrierje, diplomáját 2003-ban pedig egy lovagi páncélzatban védte meg. (A páncél maga volt a diplomamunkája.)

Léda a Titanicon

  • Molnár T. Eszter

Ki ne szeretné a Balatont? Főleg, ha csak a szépre emlékszik? Arra, hogy a vonat vidáman, sőt pontosan fut be a hűs állomásra, a papucs nem töri a lábat, a naptej megvéd a leégéstől, és van hely az árnyékban a kempingszéknek és a gumimatracnak.

Angyalszárnycsikorgás

Nagy luxus olyan kis kultúrának, mint a magyar, nem megbecsülni a legjobbjait. Márpedig Halasi Zoltán a kortárs magyar költészet szűk élmezőnyébe tartozik, ám a szakma mintha nem tartaná számon érdemeinek megfelelően, a nagyközönség számára pedig minden bizonnyal ismeretlen.

Miért hallgat Erdő Péter?

2025 júliusának egyik forró szerda éjjelén Konrád-Lampedúza Bence betanított kémia­tanár hazafelé ballagott Ráczboldogkőn, a Kistücsök névre hallgató alma materéből. Nem volt ittas egy cseppet sem, de megviselte a nehéz levegő, amikor szembejött vele egy kormányzati óriásplakát. 

Kinek a bűne?

A kormánypárti média azzal igyekszik lejáratni egy Tisza párti önkéntest, hogy korábban pornófilmekben szerepelt. A kampány morális természetű, a nőt bűnösnek és erkölcstelennek állítja be, s persze ezt vetíti rá a pártra is.