Emberek százaira hozott frászt az Amazon mesterséges intelligenciája
4704257330_a28ac298c1_o.jpg

Emberek százaira hozott frászt az Amazon mesterséges intelligenciája

Évtizedek horrorfilmjei kondicionálták arra az embereket, hogy legalábbis aggódjanak, ha nyugtalanító kacajokat hallanak az amúgy üres lakásban.

“As I was going up the stair
I met a man who wasn’t there!
He wasn’t there again today,
Oh how I wish he’d go away!”

Évtizedek horrorfilmjei kondicionálták arra az embereket, hogy legalábbis aggódjanak, ha nyugtalanító kacajokat hallanak az amúgy üres lakásban. Ott lehet a késes fickó a Sikolyból, egy gonosz bohóc, bármi. Jobb nem is tudni. Szerencsére a valóságban ritkán szólalnak meg véletlenszerű hangok a semmiből. Azaz eddig ritkán szólaltak meg, mert most az Amazon hangvezérelt asszisztenseinek furcsa hibája emberek százaira hozta rá a frászt.

A történet nem túl bonyolult: az elmúlt pár napban az Alexa-rendszerre épített eszközök időnként ijesztő nevetésben törtek ki. A kütyük tulajdonosai a lábon kihordott szívroham után a Twitteren és a Facebookon kezdtek panaszkodni, az asszisztenseket gyártó Amazon így tudta meg, hogy valami nincs rendben. Azt viszont egyelőre nem lehet tudni, hogy mi is okozta a hibát.

A nevetést szándékosan is ki lehet váltani az asszisztensekből az „Alexa laugh” paranccsal. A cég ezt változtatja meg a hosszabb „Alexa, can you laugh?” parancsra. Az Amazon szerint így kisebb lesz az esélye annak, hogy egy hangsort véletlenül kacagást kérő parancsnak hallanak az asszisztensek. Megváltozik a válasz is. A jövőben előbb egymondatnyi szövegben megerősíti, hogy tud nevetni, csak utána jön az ijesztő kacaj. A megoldási kísérlet azt sugallja, hogy a készülékek valami hangot érthettek félre. A panaszkodók egy része viszont egyedül volt otthon, amikor rájuk nevetett az alexás eszközük.

Ha kérik, nem figyel

Az Amazon asszisztenséről a közelmúltban kiderült, hogy lehet arra utasítani, hogy ne figyeljen. A cég a Superbowl szünetében leadott reklámjába kódolt bele egy olyan, az emberi fül számára nem hallható parancsot, amely megakadályozta az asszisztenseket abban, hogy felébredjenek a nevükre. Így ki lehetett mondani a termék nevét a reklámban anélkül, hogy felébresztik az összes egységet.

Azt viszont már független kutatásokból tudjuk, hogy ellenséges mintákkal meg lehet zavarni a felismerő rendszereket. Elég egy réteg, előre kiszámolt, az emberi érzékelés számára nem is feltűnő zajt beiktatni ahhoz, hogy a képfelismerő által addig pandának látott állatból hirtelen gibbon legyen a mesterséges intelligencia számára. Ugyanez működik a hangfelismerés esetében is. Egy jó ötlet és pár vicces kedvű hekker kell csak, hogy újra a frászt hozza az emberekre az Alexa.

Másvalaki Problémája – kövesse a Magyar Narancs technológiai-társadalmi kérdésekkel foglalkozó blogját!

Másvalaki Problémája – Magyar Narancs

Nem látod, pedig ott van, és téged is érint. A Magyar Narancs új, technológiai-társadalmi kérdésekkel foglalkozó blogja.

Neked ajánljuk