Miért futott zátonyra az Apple gyermekvédelmi rendszere?

Titkok nyitja

Lélek

Szeptember elején az Apple úgy döntött, mégsem indítja el a gyermekek szexuális kizsákmányolását rögzítő anyagokat felismerő rendszerét. Az iPhone-okon futó, mesterséges intelligencia alapúnak mondott funkció automatikusan szűrte volna a fotókat, amelyeket a tulajdonos a felhőbe feltölt.

A kilencvenes évek elején az Egyesült Államokban megjelentek olyan civil kézben lévő titkosító eszközök (például a PGP), amelyeket nem lehet értelmes idő alatt feltörni. Az ilyen kódokat is ki lehet kezdeni, ha az összetevők valamelyike (a véletlenszám-generátor, vagy a kód minősége) gyenge, de ideális esetben csak végtelenül sok idő alatt fejthetők meg.

Az amerikai kormány természetesen ellenezte, hogy civil kézben legyenek ilyen eszközök, hiszen ezek megnehezítették a megfigyelést. A privát szférához és az erős kódoláshoz való jogért harcoló aktivisták azonban nem adták könnyen magukat. A kormány azzal érvelt, hogy négy nagy bűnözői csoport ellen van szükség arra, hogy minden titkosítás lehallgatható legyen. Ezeket a csoportokat (pedofilok, drogkereskedők, pénzmosók, terroristák) csúfolták az aktivisták az információs apokalipszis négy lovasának. A négy lovas a mai napig kedvelt példa, hiszen nehéz lenne azzal vitatkozni, hogy a terroristák vagy a pedofil bűnelkövetők ellen minden módon fel kell lépni. Ezt az érvelést dobta be az Apple is a szűrőeszköze érdekében. Az első kritikák hatására azonban, egy héttel a funkció bejelentése után már egy erőtlenebb szűrési módról kommunikáltak. Az iMessage üzenőplatformon a szülőknek külön kellett volna beállítaniuk, hogy a 12 éves vagy annál fiatalabb gyermekük ne küldhessen képeket magáról és ne kaphasson szexuális tartalmú fotókat chaten. A CSAM (child sexual abuse material – a gyermekek szexuális kizsákmányolását rögzítő anyagok) detekciós megoldás pedig csak az iCloudba feltöltendő képeket nézte volna át egy ismert CSAM-adatbázis képeivel összevetve. Ezt az adatbázist a forró drótot és egyéb segítő szolgáltatásokat is üzemeltető amerikai National Center for Missing and Exploited Children (NCMEC) gondozza, épp azzal a céllal, hogy szűrőrendszereket lehessen rá építeni.

Safer Internet Day

 
Csak ne a gyerek előtt!
Fotó: Europress Fotóügynökség

Két tűz között

Az Apple-szűrő ügye hamar eljutott oda, hogy a cég szembekerült a privát szféra fontosságát hangsúlyozó saját marketingüzeneteivel. De nemcsak a jogvédőktől és a magán­szférájuk sértetlenségéért aggódó felhasználóktól kaptak erős visszajelzéseket. A NeuralHash nevű algoritmussal elsőként találkozó kiberbiztonsági kutatók is gyorsan előálltak a maguk fenntartásaival.

Az Apple rendszere hashekkel dolgozik. Ezek olyan rövidebb adatcsomagok, amelyek nagyjából pontosan azonosítanak egy-egy fájlt. A hash úgy készül, hogy egy törőkódon átvezetik a fájlt, ez a törőkód pedig előállít belőle egy szabványos hosszúságú azonosítót. Így tárolják például minden komolyan vehető szolgáltatásban a jelszavakat. Az oldal adatbázisában csak a jelszó hashelt változata van meg, a felhasználó tudja a jelszót magát, azonosításkor pedig a felhasználó által bevitt adatot ugyanazzal a törőkóddal dolgozzák fel, majd az eredményt összehasonlítják a tárolt adattal. Ez azért jó, mert így a szolgáltatótól a jelszót nem lehet ellopni. Az Apple NeuralHash nevű rendszere fejlettebb ennél: nem érzékeny arra, hogy a fájlt átméretezték-e, levágtak-e belőle pár pixelnyit vagy elforgatták-e. Azonos vagy nagyon hasonló hasheket ad ugyanannak a képnek a változataira. Így nem lehet átverni azzal, hogy például a képeken el­enyészően keveset kicsinyítenek, ami egy hagyományos törőkód (ilyen az MD5 például) esetében már más hash értéket eredményezne. A NeuralHash azonban nem tökéletes: a rendszert tesztelgetni kezdő információbiztonsági kutatók nagyon hamar találtak olyan ütközéseket, amelyek esetén két eltérő fájlhoz ugyanolyan értéket gyárt le az algoritmus.

A cikk további része csak előfizetőink számára elérhető.
Soha nem volt nagyobb szükség önre! A sajtó az olvasókért szabad, és fennmaradásunk előfizetőink nélkül nem lehetséges. Legyen előfizetőnk, tegyen egy próbát velünk és támogassa a demokratikus és liberális Magyarország ügyét!

Neked ajánljuk

Jancsics Dávid korrupciókutató: Az Orbán család vagy a Matolcsy-klán működése új jelenség

Jancsics Dávid a Leukémia zenekar gitárosaként a hazai underground zenetörténethez is hozzátette a magáét, majd szociológusként az Egyesült Államokba ment, azóta a San Diego-i egyetem professzora. A magyarországi korrupcióról szóló doktori disszertációját átdolgozva idén magyarul is kiadták A korrupció szociológiája címmel. Erről beszélgettünk.

Újabb mérföldkő

  • Harci Andor

Mi lett volna, ha 1969-ben, az amougies-i fesztiválon Frank Zappa épp másfelé bolyong, s nem jelentkezik be fellépőnek a színpadon tartózkodó Pink Floyd tagjai mellé?

Vándormozi

  • - turcsányi -

John Maclean nem kapkodja el, az előző filmje, a Slow West (A nyugat útján) 2015-ben jött ki.

Mi, angyalok

Egyesével bukkannak elő a lelátó hátsó részét határoló cserjésből a zenekar tagjai (Tara Khozein – ének, Bartek Zsolt klarinét, szaxofon, Darázs Ádám – gitár, Kertész Endre – cselló) és a táncos pár (Juhász Kata és Déri András).

Új válaszok

A művészet nem verseny, de mégiscsak biennálék, pályázatok, díjak és elismerések rendezik a sorokat. Minden országnak van egy-egy rangos, referenciaként szolgáló díja.

Mintha a földön állva…

Összegyűjtött és új verseket tartalmazó kötete, a 2018-ban megjelent A Vak Remény a költő teljes életművét átfogó könyv volt, ám az új versek jelenlétét is kiemelő alcím a lírai opus folyamatosan „történő” állapotára mutat, arra, hogy még korántsem egy megállapodott vagy kevésbé dinamikus költői nyelvről van szó.