Miért futott zátonyra az Apple gyermekvédelmi rendszere?

Titkok nyitja

Lélek

Szeptember elején az Apple úgy döntött, mégsem indítja el a gyermekek szexuális kizsákmányolását rögzítő anyagokat felismerő rendszerét. Az iPhone-okon futó, mesterséges intelligencia alapúnak mondott funkció automatikusan szűrte volna a fotókat, amelyeket a tulajdonos a felhőbe feltölt.

A kilencvenes évek elején az Egyesült Államokban megjelentek olyan civil kézben lévő titkosító eszközök (például a PGP), amelyeket nem lehet értelmes idő alatt feltörni. Az ilyen kódokat is ki lehet kezdeni, ha az összetevők valamelyike (a véletlenszám-generátor, vagy a kód minősége) gyenge, de ideális esetben csak végtelenül sok idő alatt fejthetők meg.

Az amerikai kormány természetesen ellenezte, hogy civil kézben legyenek ilyen eszközök, hiszen ezek megnehezítették a megfigyelést. A privát szférához és az erős kódoláshoz való jogért harcoló aktivisták azonban nem adták könnyen magukat. A kormány azzal érvelt, hogy négy nagy bűnözői csoport ellen van szükség arra, hogy minden titkosítás lehallgatható legyen. Ezeket a csoportokat (pedofilok, drogkereskedők, pénzmosók, terroristák) csúfolták az aktivisták az információs apokalipszis négy lovasának. A négy lovas a mai napig kedvelt példa, hiszen nehéz lenne azzal vitatkozni, hogy a terroristák vagy a pedofil bűnelkövetők ellen minden módon fel kell lépni. Ezt az érvelést dobta be az Apple is a szűrőeszköze érdekében. Az első kritikák hatására azonban, egy héttel a funkció bejelentése után már egy erőtlenebb szűrési módról kommunikáltak. Az iMessage üzenőplatformon a szülőknek külön kellett volna beállítaniuk, hogy a 12 éves vagy annál fiatalabb gyermekük ne küldhessen képeket magáról és ne kaphasson szexuális tartalmú fotókat chaten. A CSAM (child sexual abuse material – a gyermekek szexuális kizsákmányolását rögzítő anyagok) detekciós megoldás pedig csak az iCloudba feltöltendő képeket nézte volna át egy ismert CSAM-adatbázis képeivel összevetve. Ezt az adatbázist a forró drótot és egyéb segítő szolgáltatásokat is üzemeltető amerikai National Center for Missing and Exploited Children (NCMEC) gondozza, épp azzal a céllal, hogy szűrőrendszereket lehessen rá építeni.

Safer Internet Day

 
Csak ne a gyerek előtt!
Fotó: Europress Fotóügynökség

Két tűz között

Az Apple-szűrő ügye hamar eljutott oda, hogy a cég szembekerült a privát szféra fontosságát hangsúlyozó saját marketingüzeneteivel. De nemcsak a jogvédőktől és a magán­szférájuk sértetlenségéért aggódó felhasználóktól kaptak erős visszajelzéseket. A NeuralHash nevű algoritmussal elsőként találkozó kiberbiztonsági kutatók is gyorsan előálltak a maguk fenntartásaival.

Az Apple rendszere hashekkel dolgozik. Ezek olyan rövidebb adatcsomagok, amelyek nagyjából pontosan azonosítanak egy-egy fájlt. A hash úgy készül, hogy egy törőkódon átvezetik a fájlt, ez a törőkód pedig előállít belőle egy szabványos hosszúságú azonosítót. Így tárolják például minden komolyan vehető szolgáltatásban a jelszavakat. Az oldal adatbázisában csak a jelszó hashelt változata van meg, a felhasználó tudja a jelszót magát, azonosításkor pedig a felhasználó által bevitt adatot ugyanazzal a törőkóddal dolgozzák fel, majd az eredményt összehasonlítják a tárolt adattal. Ez azért jó, mert így a szolgáltatótól a jelszót nem lehet ellopni. Az Apple NeuralHash nevű rendszere fejlettebb ennél: nem érzékeny arra, hogy a fájlt átméretezték-e, levágtak-e belőle pár pixelnyit vagy elforgatták-e. Azonos vagy nagyon hasonló hasheket ad ugyanannak a képnek a változataira. Így nem lehet átverni azzal, hogy például a képeken el­enyészően keveset kicsinyítenek, ami egy hagyományos törőkód (ilyen az MD5 például) esetében már más hash értéket eredményezne. A NeuralHash azonban nem tökéletes: a rendszert tesztelgetni kezdő információbiztonsági kutatók nagyon hamar találtak olyan ütközéseket, amelyek esetén két eltérő fájlhoz ugyanolyan értéket gyárt le az algoritmus.

A cikk további része csak előfizetőink számára elérhető.
Soha nem volt nagyobb szükség önre! A sajtó az olvasókért szabad, és fennmaradásunk előfizetőink nélkül nem lehetséges. Legyen előfizetőnk, tegyen egy próbát velünk és támogassa a demokratikus és liberális Magyarország ügyét!

Neked ajánljuk

Jens Lekman: Songs for Other People’s Weddings

„Ha valaha szükséged lenne egy idegenre, hogy énekeljen az esküvődön, akkor szólj nekem” énekelte Jens Lekman az első lemezén. A több mint két évtizede megjelent dal persze nem egy apróhirdetés akart lenni eredetileg, hanem az énekes legkedvesebb témájáról, az elérhetetlen szerelemről szólt.

Péterfy-Novák Éva: A Nevers-vágás

A szerző olyannyira nem bízik az olvasóiban, hogy már az első novella előtt, a mottó vagy az ajánlás helyén elmagyarázza, hogyan kell értelmezni a kötet címét, noha a könyv második felében elhelyezett címadó novella elég egyértelműen kifejti, hogy miről is van szó.

Mocskos játszma

  • SzSz

Shane Black farzsebében több mint harminc éve ott lapul a Play Dirty cím – anno a Halálos fegyver folytatásának szánta. Az eredeti forgatókönyv minden bennfentes szerint zseniális volt, sötétebb, mocskosabb, mint a zsarupáros meséje, ám épp ezért a stúdió, a producer és Richard Donner rendező is elutasította. Black viszont szeret ötleteket újrahasznosítani – ennek belátásához elég csak ránézni filmográfiájára –, így amikor jött a lehetőség, hogy Donald E. Westlake Parker-könyveiből készítsen filmet, gyorsan előkapta a régi címet.

33 változat Haydn-koponyára

Négy év után újra, ugyanott, ugyanazon alkotók közreműködésével mutatták be Esterházy Péter darabját; Kovács D. Dániel rendező a korábbitól alig különböző verziót hozott létre. A 2021-es premiert az író halála után közvetlenül tartották meg, így azt a veszteség drámaisága hatotta át, most viszont új szemszögből lehet(ne) megnézni Haydn koponyáját, és rajta keresztül az egyik legönironikusabb magyar szerzőt.

Suede: Antidepressants

A Brett Anderson vezette Suede nem nagyon tud hibázni a visszatérése óta. A 2010-es években készítettek egy ún. színes albumtrilógiát (Bloodsports, 2013; Night Thoughts, 2016; The Blue Hour, 2018), jelen évtizedben pedig megkezdtek egy újabb, ezúttal fekete-fehér háromrészes sorozatot. Ennek első része volt az Autofiction négy évvel ezelőtt, amelyet a tagok a Suede punklemezének neveztek.

Az elveszett busz

  • - ts -

A katasztrófafilmről okkal gondolhatnánk, hogy rövid idő adatott neki. Fénykorát a hetvenes években élte, de rögtön ki is fáradt, s a kilencvenes évekre már kicsit cikivé is vált. Utána pedig már csak a fejlődő filmkészítési technikák gyakorló pályáján jutott neki szerep.