Már bánja élete munkáját, otthagyta a Google-t az AI-szakértő

  • narancs.hu
  • 2023. május 1.

Tudomány

Geoffrey Hinton már régóta felhívta a figyelmet az AI körüli etikai kérdésekre, különösen a katonai célokra való használatra.

Tíz év után távozik a Google-től a 75 éves Geoffrey Hinton, a mélytanulás úttörője, aki a modern mesterséges intelligencia középpontjában álló legfontosabb technikákat fejlesztette ki – írja a a 444 a New York Times cikkére hivatkozva.

A lap szerint Hintonnak új félelmei vannak a technológiával kapcsolatban, aminek bevezetésében segített, és nyíltan szeretne beszélni róluk.

A kognitív pszichológus és informatikus Hinton, aki szerdán élőben fog beszélni az MIT Technology Review-nak az EmTech Digitalnál a lemondása utáni első interjújában, Yann Lecunnal és Yoshua Bengióval közösen kapta a 2018-as Turing-díjat, ami a számítástechnika Nobel-díjának megfelelője.

Geoff óriási mértékben járul hozzá az AI-hez. Nem mondta nekem, hogy ki akar lépni a Google-ból, de nem vagyok meglepve” 

 

– mondja Lecun, a Meta vezető mesterséges intelligencia-tudósa.

Hinton 2013 óta osztotta meg az idejét a Torontói Egyetem és a Google között, amikor is a technológiai óriás felvásárolta a Hinton AI-val foglalkozó DNNresearch nevű startupját. Hinton cége a kutatócsoportjából nőtt ki, ami akkoriban a képfelismerő gépi tanulással úttörő munkát végzett. A Google ezt a technológiát használta a fotókeresés és egyebek javítására.

Hinton már régóta felhívta a figyelmet az AI körüli etikai kérdésekre, különösen a katonai célokra való használatra. Azt mondta, az egyik oka annak, hogy karrierje nagy részét Kanadában tölti, az az, hogy könnyebb olyan kutatási finanszírozást szerezni, ami nem kapcsolódik az Egyesült Államok Védelmi Minisztériumához.

Jeff Dean, a Google vezető tudósa azt mondta: „Az AI-elveket elsőként közzétevő vállalatok egyikeként továbbra is elkötelezettek vagyunk az AI felelős megközelítése mellett. Folyamatosan tanuljuk megérteni a felmerülő kockázatokat, miközben bátran újítunk.”

Hinton leginkább a backpropagation nevű algoritmusáról ismert, amit először két kollégájával vetett fel az 1980-as években. A technika, ami lehetővé teszi a mesterséges neurális hálózatok tanulását, ma már szinte minden gépi tanulási modell alapját képezi. Dióhéjban ez egy módja annak, hogy a mesterséges neuronok közötti kapcsolatokat újra és újra módosítsuk, amíg egy neurális hálózat meg nem hozza a kívánt kimenetet. Hinton úgy vélte, hogy a backpropagation utánozza a biológiai agy tanulását.

Most viszont hivatalosan is csatlakozott a kritikusok egyre növekvő kórusához, akik szerint ezek a cégek veszélyt jelentenek az emberiségre az agresszív versengésükkel, hogy létrehozzák az általános mesterséges intelligenciát olyan népszerű chatbotok, mint a ChatGPT technológiája alapjára építő termékek létrehozása.

Hinton azt mondta, felmondása után már szabadon beszélhet az AI kockázatairól. Azt mondta, egy része már bánja élete munkáját.

„A szokásos kifogással vigasztalom magam: ha én nem tettem volna, akkor valaki más megtette volna”

– mondta Hinton egy hosszas interjú során a múlt héten torontói otthonának ebédlőjében.

Lapunk pár hete írt arról, hogy mire jó és mire nem a mesterséges intellgencia, a 444 cikkében pedig Max Tegmark, az MIT fizikaprofesszora az általános mesterséges intelligencia kockázataira figyelmeztetve Hintonra is hivatkozott, aki nemrég azt mondta: „A közelmúltig azt hittem, 20-50 év múlva lesz AGI. És most azt gondolom, hogy ez 20 év vagy kevesebb, lehet, hogy csak 5 év.”

Maradjanak velünk!


Ez a Narancs-cikk most véget ért – de még oly sok mindent ajánlunk Önnek! Oknyomozást, riportot, interjúkat, elemzést, okosságot – bizonyosságot arról, hogy nem, a valóság nem veszett el, még ha komplett hivatalok és testületek meg súlyos tízmilliárdok dolgoznak is az eltüntetésén.

Tesszük a dolgunkat. Újságot írunk, hogy kiderítsük a tényeket. Legyen ebben a társunk, segítse a munkánkat, hogy mi is segíthessünk Önnek. Fizessen elő a Narancs digitális változatára!

Jó emberek írják jó embereknek!

Figyelmébe ajánljuk

Ungvári Tamás: A dandyt elfogadom

  • Urfi Péter

Teljesen legális, belügyi bárcával vártak a legszebb lányok – dicsekedett az író, fordító majd' tíz évvel ezelőtt, amikor egy fotó történetét is alaposan körbejárta Urfi Péter kérdésére. Idézzük fel az Ungvári Tamással készült interjút egy 2016-os lapszámból!

A kutya mellett

A filmművészetben a Baran című, egyszerre realista és költői remekmű (Madzsid Madzsidi) jóvoltából csodálkozhatott rá a világ először az iráni afgán menekültek sorsára.

Iszony

Kegyetlen, utálatos film Veronika Franz és Severin Fiala legújabb munkája (ők a felelősek a 2014-es, hasonlóan bársonyos Jó éjt, anyu! című horrorért).