„Ne légy gonosz, ha látsz valamit, ami szerinted nincs rendben, tedd szóvá!” A Google utoljára tavaly szeptemberben frissített magatartási kódexében ugyan szerepel még ez a szépen hangzó felszólítás, de kívülről úgy tűnik, mintha a cég harcban állna saját magával. Ezt látszik alátámasztani egy tavaly decemberi ügy is: egy szakcikk engedélyezése körüli, cégen belüli kavarodásban a Google kirúgta a mesterséges intelligencia etika kutatócsoportjának vezetőjét, Timnit Gebrut, majd idén februárban leépítették a Gebru elleni diszkriminációra bizonyítékokat gyűjtő Margaret Mitchellt, az etikus MI kutatócsoport másik vezetőjét is. A Google ezek után újraszervezést jelentett be, amire érthető módon szükség is van, ha egy negyedév alatt két vezetőtől is megszabadultak.
Eltérőek a beszámolók arról, hogy mi vezetett Gebru kirúgásához. Az etiópiai származású fekete kutató elmondása szerint a főnöke váratlanul közölte vele, hogy a cikke nem üti meg a Google publikálási mércéjét – állítólag azt hiányolta a cikkből, hogy milyen kutatások vannak a Gebru által problémásnak jelölt jelenségek megoldására, a hibák kivédésére. Mivel ezt Gebru indokolatlan packázásnak érezte, feltételekhez kötötte, hogy a cégnél maradjon. A Google ezeknek nem kívánt eleget tenni, s felmondásként értékelte Gebru megnyilatkozását.
Mitchell kirúgásának a története egyszerűbb, ő Timnit Gebru hátrányos megkülönböztetésére keresett bizonyítékokat a céges levelezésben. A Google arra hivatkozva küldte el, hogy a céges levelezés automata átfésülése tilos. A cég mesterséges intelligenciáért felelős vezetője, Jeff Dean által aláírt hivatalos közlemény szerint a Google továbbra is fontosnak tartja a mesterséges intelligencia kritikus szemléletét.
Nincs konszenzus
Ezen a ponton logikus lenne feltenni a kérdést, hogy akkor most ki a hunyó? Dean? Gebru? A Google és más MI-nagyfelhasználó cégek? Nincs egyszerű válasz, a bonyolult válasz ellenben filozófiai természetű. A mesterséges intelligencia kutatása ingoványos terület, meglepő módon azonban nagy problémái jellemzően nem technológiai jellegűek. Meg tudjuk mondani a számítógépnek, hogy mit csináljon, és azt a technológia korlátai között végre is hajtja. A gondok ott kezdődnek, ha nem tudjuk megmondani, hogy mit kellene csinálnia, vagy amikor egy MI-t használó céggel szemben több, egymásnak ellentmondó elvárás fogalmazódik meg.
A cikk további része csak előfizetőink számára elérhető.
Ha szeretné elolvasni, legyen ön is a Magyar Narancs előfizetője, vagy ha már előfizetett, jelentkezzen be!
