Nezbytné zlo? Apple mohl detekovat obrázky zneužívání dětí ve fotogalerii uživatelů

Apple oznámil příchod nových funkcí ID fotografie v systému iOS, který bude používat hashovací algoritmy, aby odpovídal obsahu fotografií v galerii uživatelů se známými prvky zneužívání dětí. Zařízení poté nahraje sadu otisků prstů představujících nezákonný obsah a poté porovná každou fotografii v galerii uživatele s tímto seznamem.

Jako taková tato funkce zní skvěle, ale ve skutečnosti také představuje skutečný problém, protože jak si mnozí z nás dokážeme představit, toto mohlo by to způsobit mnoho konfliktů, zejména s „falešnými pozitivy“ a soudě podle množství negativních recenzí společnosti Apple nemusí být tato iniciativa nejlepší v boji proti pedofilii a dětské pornografii.

Společnost Apple potvrdila v příspěvku na blogu, že skenovací technologie je součástí nové řady systémů ochrany dětí, které se „budou časem vyvíjet a vyvíjet“. Funkce bude vydán jako součást iOS 15, jehož spuštění je naplánováno na příští měsíc.

„Tato průkopnická nová technologie umožňuje společnosti Apple poskytovat cenné a použitelné informace Národnímu centru pro pohřešované a zneužívané děti a donucovacím orgánům o šíření známých materiálů týkajících se sexuálního zneužívání dětí,“ uvedla společnost.

Systém, tzv neuralMatch, proaktivně upozorní tým vyšetřovatelů lidí pokud si myslíte, že jsou detekovány nelegální obrázky kdo bude kontaktovat policii, pokud bude možné materiál ověřit. Systém neuralMatch, který byl vyškolen s 200.000 XNUMX snímky z Národního centra pro pohřešované a zneužívané děti, bude poprvé nasazen ve Spojených státech. Fotografie budou hašovány a porovnány s databází známých obrázků sexuálního zneužívání dětí.

Podle vysvětlení Applu každá fotka nahraná na iCloud v USA získá „bezpečnostní bonus“ označující, zda je podezřelý či nikoli. Jakmile je tedy určitý počet fotografií označen jako podezřelý, Apple povolí dešifrování všech podezřelých fotografií a pokud se budou zdát nezákonné, předá je příslušným orgánům.

„Apple vidí fotografie uživatelů pouze tehdy, pokud mají ve svém účtu iCloud Photos sbírku známých CSAM,“ uvedla společnost ve snaze ujistit uživatele, že jejich data jsou důvěrná.

Je třeba poznamenat, že neuralMatch představuje nejnovější pokus společnosti Apple o kompromis mezi vlastním příslibem ochrany soukromí zákazníků a požadavky vlád., donucovacích orgánů a aktivistů v oblasti bezpečnosti dětí za zvýšenou pomoc při vyšetřování trestných činů, včetně terorismu a dětské pornografie. Napětí mezi technologickými společnostmi, jako jsou Apple a Facebook, které se ve svých produktech a službách zasazovaly o stále větší využívání šifrování, a vymáhání práva se od roku 2016 teprve zesílilo.

Matthew Green, profesor a kryptograf z Univerzity Johna Hopkinse, se ve středu večer podělil o své obavy ze systému na Twitteru. „Tento druh nástroje může být přínosem pro vyhledávání dětské pornografie v telefonech lidí,“ řekl Green.

„Ale představte si, co by to mohlo udělat v rukou autoritářské vlády,“ zeptal se. To znepokojuje bezpečnostní výzkumníky, kteří varují, že by to mohlo otevřít dveře monitorování osobních zařízení milionů lidí. Výzkumní pracovníci v oblasti bezpečnosti, kteří podporují úsilí společnosti Apple o řešení problémů se zneužíváním dětí, se obávají, že by společnost mohla umožnit vládám po celém světě usilovat o přístup k osobním údajům svých občanů, což je potenciálně daleko za hranicí původního záměru.

Precedent vytvořený společností Apple by také mohl zvýšit tlak na další technologické společnosti, aby používaly podobné techniky. „Vlády to budou vyžadovat po každém,“ řekl Green.

Cloudové systémy ukládání fotografií a weby sociálních médií již hledají obrázky zneužívání dětí. Apple například používá techniky hashování při nahrávání fotografií do iCloud Photos. Všechny fotografie nahrané do iCloud Photos pro zálohování a synchronizaci nejsou uloženy v šifrování typu end-to-end. Fotografie jsou uloženy v šifrované podobě na farmách Apple, ale dešifrovací klíče jsou také ve vlastnictví společnosti Apple. To znamená, že policie může Apple předvolat a zobrazit všechny fotografie nahrané uživatelem.

zdroj: https://www.apple.com