„Ne légy gonosz, ha látsz valamit, ami szerinted nincs rendben, tedd szóvá!” A Google utoljára tavaly szeptemberben frissített magatartási kódexében ugyan szerepel még ez a szépen hangzó felszólítás, de kívülről úgy tűnik, mintha a cég harcban állna saját magával. Ezt látszik alátámasztani egy tavaly decemberi ügy is: egy szakcikk engedélyezése körüli, cégen belüli kavarodásban a Google kirúgta a mesterséges intelligencia etika kutatócsoportjának vezetőjét, Timnit Gebrut, majd idén februárban leépítették a Gebru elleni diszkriminációra bizonyítékokat gyűjtő Margaret Mitchellt, az etikus MI kutatócsoport másik vezetőjét is. A Google ezek után újraszervezést jelentett be, amire érthető módon szükség is van, ha egy negyedév alatt két vezetőtől is megszabadultak.
Eltérőek a beszámolók arról, hogy mi vezetett Gebru kirúgásához. Az etiópiai származású fekete kutató elmondása szerint a főnöke váratlanul közölte vele, hogy a cikke nem üti meg a Google publikálási mércéjét – állítólag azt hiányolta a cikkből, hogy milyen kutatások vannak a Gebru által problémásnak jelölt jelenségek megoldására, a hibák kivédésére. Mivel ezt Gebru indokolatlan packázásnak érezte, feltételekhez kötötte, hogy a cégnél maradjon. A Google ezeknek nem kívánt eleget tenni, s felmondásként értékelte Gebru megnyilatkozását.
Mitchell kirúgásának a története egyszerűbb, ő Timnit Gebru hátrányos megkülönböztetésére keresett bizonyítékokat a céges levelezésben. A Google arra hivatkozva küldte el, hogy a céges levelezés automata átfésülése tilos. A cég mesterséges intelligenciáért felelős vezetője, Jeff Dean által aláírt hivatalos közlemény szerint a Google továbbra is fontosnak tartja a mesterséges intelligencia kritikus szemléletét.
Nincs konszenzus
Ezen a ponton logikus lenne feltenni a kérdést, hogy akkor most ki a hunyó? Dean? Gebru? A Google és más MI-nagyfelhasználó cégek? Nincs egyszerű válasz, a bonyolult válasz ellenben filozófiai természetű. A mesterséges intelligencia kutatása ingoványos terület, meglepő módon azonban nagy problémái jellemzően nem technológiai jellegűek. Meg tudjuk mondani a számítógépnek, hogy mit csináljon, és azt a technológia korlátai között végre is hajtja. A gondok ott kezdődnek, ha nem tudjuk megmondani, hogy mit kellene csinálnia, vagy amikor egy MI-t használó céggel szemben több, egymásnak ellentmondó elvárás fogalmazódik meg.
Ez egy remek cikk a nyomtatott Magyar Narancsból, amely online is elérhető.
Ha szeretné elolvasni, kérjük, fizessen elő lapunk digitális kiadására, vagy ha már előfizető, lépjen be!
A Magyar Narancs független, szabad politikai és kulturális hetilap. Nézzen be hozzánk minden nap: hírszolgáltatásunk ingyenesen hozzáférhető. Támogassa a független sajtót! Olvassa a Magyar Narancsot!
