Tíz év után távozik a Google-től a 75 éves Geoffrey Hinton, a mélytanulás úttörője, aki a modern mesterséges intelligencia középpontjában álló legfontosabb technikákat fejlesztette ki – írja a a 444 a New York Times cikkére hivatkozva.
A lap szerint Hintonnak új félelmei vannak a technológiával kapcsolatban, aminek bevezetésében segített, és nyíltan szeretne beszélni róluk.
A kognitív pszichológus és informatikus Hinton, aki szerdán élőben fog beszélni az MIT Technology Review-nak az EmTech Digitalnál a lemondása utáni első interjújában, Yann Lecunnal és Yoshua Bengióval közösen kapta a 2018-as Turing-díjat, ami a számítástechnika Nobel-díjának megfelelője.
Geoff óriási mértékben járul hozzá az AI-hez. Nem mondta nekem, hogy ki akar lépni a Google-ból, de nem vagyok meglepve”
– mondja Lecun, a Meta vezető mesterséges intelligencia-tudósa.
Hinton 2013 óta osztotta meg az idejét a Torontói Egyetem és a Google között, amikor is a technológiai óriás felvásárolta a Hinton AI-val foglalkozó DNNresearch nevű startupját. Hinton cége a kutatócsoportjából nőtt ki, ami akkoriban a képfelismerő gépi tanulással úttörő munkát végzett. A Google ezt a technológiát használta a fotókeresés és egyebek javítására.
Hinton már régóta felhívta a figyelmet az AI körüli etikai kérdésekre, különösen a katonai célokra való használatra. Azt mondta, az egyik oka annak, hogy karrierje nagy részét Kanadában tölti, az az, hogy könnyebb olyan kutatási finanszírozást szerezni, ami nem kapcsolódik az Egyesült Államok Védelmi Minisztériumához.
Jeff Dean, a Google vezető tudósa azt mondta: „Az AI-elveket elsőként közzétevő vállalatok egyikeként továbbra is elkötelezettek vagyunk az AI felelős megközelítése mellett. Folyamatosan tanuljuk megérteni a felmerülő kockázatokat, miközben bátran újítunk.”
Hinton leginkább a backpropagation nevű algoritmusáról ismert, amit először két kollégájával vetett fel az 1980-as években. A technika, ami lehetővé teszi a mesterséges neurális hálózatok tanulását, ma már szinte minden gépi tanulási modell alapját képezi. Dióhéjban ez egy módja annak, hogy a mesterséges neuronok közötti kapcsolatokat újra és újra módosítsuk, amíg egy neurális hálózat meg nem hozza a kívánt kimenetet. Hinton úgy vélte, hogy a backpropagation utánozza a biológiai agy tanulását.
Most viszont hivatalosan is csatlakozott a kritikusok egyre növekvő kórusához, akik szerint ezek a cégek veszélyt jelentenek az emberiségre az agresszív versengésükkel, hogy létrehozzák az általános mesterséges intelligenciát olyan népszerű chatbotok, mint a ChatGPT technológiája alapjára építő termékek létrehozása.
Hinton azt mondta, felmondása után már szabadon beszélhet az AI kockázatairól. Azt mondta, egy része már bánja élete munkáját.
„A szokásos kifogással vigasztalom magam: ha én nem tettem volna, akkor valaki más megtette volna”
– mondta Hinton egy hosszas interjú során a múlt héten torontói otthonának ebédlőjében.
Lapunk pár hete írt arról, hogy mire jó és mire nem a mesterséges intellgencia, a 444 cikkében pedig Max Tegmark, az MIT fizikaprofesszora az általános mesterséges intelligencia kockázataira figyelmeztetve Hintonra is hivatkozott, aki nemrég azt mondta: „A közelmúltig azt hittem, 20-50 év múlva lesz AGI. És most azt gondolom, hogy ez 20 év vagy kevesebb, lehet, hogy csak 5 év.”
