Miért futott zátonyra az Apple gyermekvédelmi rendszere?

Titkok nyitja

Lélek

Szeptember elején az Apple úgy döntött, mégsem indítja el a gyermekek szexuális kizsákmányolását rögzítő anyagokat felismerő rendszerét. Az iPhone-okon futó, mesterséges intelligencia alapúnak mondott funkció automatikusan szűrte volna a fotókat, amelyeket a tulajdonos a felhőbe feltölt.

A kilencvenes évek elején az Egyesült Államokban megjelentek olyan civil kézben lévő titkosító eszközök (például a PGP), amelyeket nem lehet értelmes idő alatt feltörni. Az ilyen kódokat is ki lehet kezdeni, ha az összetevők valamelyike (a véletlenszám-generátor, vagy a kód minősége) gyenge, de ideális esetben csak végtelenül sok idő alatt fejthetők meg.

Az amerikai kormány természetesen ellenezte, hogy civil kézben legyenek ilyen eszközök, hiszen ezek megnehezítették a megfigyelést. A privát szférához és az erős kódoláshoz való jogért harcoló aktivisták azonban nem adták könnyen magukat. A kormány azzal érvelt, hogy négy nagy bűnözői csoport ellen van szükség arra, hogy minden titkosítás lehallgatható legyen. Ezeket a csoportokat (pedofilok, drogkereskedők, pénzmosók, terroristák) csúfolták az aktivisták az információs apokalipszis négy lovasának. A négy lovas a mai napig kedvelt példa, hiszen nehéz lenne azzal vitatkozni, hogy a terroristák vagy a pedofil bűnelkövetők ellen minden módon fel kell lépni. Ezt az érvelést dobta be az Apple is a szűrőeszköze érdekében. Az első kritikák hatására azonban, egy héttel a funkció bejelentése után már egy erőtlenebb szűrési módról kommunikáltak. Az iMessage üzenőplatformon a szülőknek külön kellett volna beállítaniuk, hogy a 12 éves vagy annál fiatalabb gyermekük ne küldhessen képeket magáról és ne kaphasson szexuális tartalmú fotókat chaten. A CSAM (child sexual abuse material – a gyermekek szexuális kizsákmányolását rögzítő anyagok) detekciós megoldás pedig csak az iCloudba feltöltendő képeket nézte volna át egy ismert CSAM-adatbázis képeivel összevetve. Ezt az adatbázist a forró drótot és egyéb segítő szolgáltatásokat is üzemeltető amerikai National Center for Missing and Exploited Children (NCMEC) gondozza, épp azzal a céllal, hogy szűrőrendszereket lehessen rá építeni.

Safer Internet Day

 
Csak ne a gyerek előtt!
Fotó: Europress Fotóügynökség

Két tűz között

Az Apple-szűrő ügye hamar eljutott oda, hogy a cég szembekerült a privát szféra fontosságát hangsúlyozó saját marketingüzeneteivel. De nemcsak a jogvédőktől és a magán­szférájuk sértetlenségéért aggódó felhasználóktól kaptak erős visszajelzéseket. A NeuralHash nevű algoritmussal elsőként találkozó kiberbiztonsági kutatók is gyorsan előálltak a maguk fenntartásaival.

Az Apple rendszere hashekkel dolgozik. Ezek olyan rövidebb adatcsomagok, amelyek nagyjából pontosan azonosítanak egy-egy fájlt. A hash úgy készül, hogy egy törőkódon átvezetik a fájlt, ez a törőkód pedig előállít belőle egy szabványos hosszúságú azonosítót. Így tárolják például minden komolyan vehető szolgáltatásban a jelszavakat. Az oldal adatbázisában csak a jelszó hashelt változata van meg, a felhasználó tudja a jelszót magát, azonosításkor pedig a felhasználó által bevitt adatot ugyanazzal a törőkóddal dolgozzák fel, majd az eredményt összehasonlítják a tárolt adattal. Ez azért jó, mert így a szolgáltatótól a jelszót nem lehet ellopni. Az Apple NeuralHash nevű rendszere fejlettebb ennél: nem érzékeny arra, hogy a fájlt átméretezték-e, levágtak-e belőle pár pixelnyit vagy elforgatták-e. Azonos vagy nagyon hasonló hasheket ad ugyanannak a képnek a változataira. Így nem lehet átverni azzal, hogy például a képeken el­enyészően keveset kicsinyítenek, ami egy hagyományos törőkód (ilyen az MD5 például) esetében már más hash értéket eredményezne. A NeuralHash azonban nem tökéletes: a rendszert tesztelgetni kezdő információbiztonsági kutatók nagyon hamar találtak olyan ütközéseket, amelyek esetén két eltérő fájlhoz ugyanolyan értéket gyárt le az algoritmus.

A cikk további része csak előfizetőink számára elérhető.
Soha nem volt nagyobb szükség önre! A sajtó az olvasókért szabad, és fennmaradásunk előfizetőink nélkül nem lehetséges. Legyen előfizetőnk, tegyen egy próbát velünk és támogassa a demokratikus és liberális Magyarország ügyét!

Neked ajánljuk

A Fidesz házhoz megy

Megfelelő helyre kilopott adatbázis, telefonálgató propagandisták, aktivisták otthonát látogató Németh Balázs. Amit a Fidesz most csinál, régen a Kurucinfó munkája volt.

Mint az itatós

Szinte hihetetlen, de akad még olyan nagy múltú, híres szimfonikus zenekar, amely korábban soha nem járt Budapesten: közéjük tartozott a Tokiói Filharmonikus Zenekar is, holott erős magyar kötődésük van, hiszen Kovács János 1992 óta szerepel náluk vendégkarmesterként.

Minden meg akar ölni

  • SzSz

Andriivka aprócska falu Kelet-Ukrajnában, Donyeck megyében; 2014 óta a vitatott – értsd: az ENSZ tagországai közül egyedül Oroszország, Szíria és Észak-Korea által elismert – Donyecki Népköztársaság része.

S most reménykedünk

„Az élet távolról nézve komédia, közelről nézve tragédia” – az Arisztotelész szellemét megidéző mondást egyként tulajdonítják Charlie Chaplinnek, illetve Buster Keatonnek.

A szürkeség ragyogása

Különös élmény néhány napon belül látni két Molière-darabot a Pesti Színházban. A huszonöt éve bemutatott Képzelt beteg egy rosszul öregedő „klasszikus”, a Madame Tartuffe pedig egy kortárs átirat, amelynek első ránézésre a névegyezésen túl nem sok köze van a francia szerzőhöz. Ez utóbbi egyáltalán nem baj, még akár erény is lehet.