Apple은 지난 주, 디바이스를 보호하는 암호화에 대한 미국내의 2개의 백도어를 발표했습니다. iMessages를 감시합니다.13세 미만 또는 13세 미만에게 전송된 사진에 나체가 포함된 것으로 보이는 경우 사용자에게 이의 제기를 통해 부모에게 통보될 수 있습니다. 두 번째는 애플이 휴대전화 카메라 롤상의 모든 이미지를 스캔하고 이미 알려진 성적 학대 화상과 유사할 경우 용의자로서 플래그를 세웁니다 iCloud 계정에 충분한 수의 의심스러운 이미지가 백업되어 있으면 그것들은 복호화되고 검사됩니다. 애플이 위법하다고 판단할 경우 사용자는 관계당국에 보고됩니다.
아동 성적 학대 이미지 유통에 관한 행동은 이미지의 공유와 가해자의 강력한 소추를 막기 위한 효과적인 메커니즘 모두 정치적 우선순위를 가져야 합니다. 그러나, Apple이 제안한 대책은, 이 문제에 대처할 수 없고, 주의 감시를 큰폭으로 확대하기 위한 아키텍쳐를 제공하고 있습니다.
역사적으로 고객의 기기를 스캔해서 범죄의 증거를 찾는다는 아이디어는 중국에서 왔습니다. 2008년 국내에서 판매되는 모든 PC에 Green Dam 시스템이 설치가 되었을 때 도입이 되었습니다. 포르노 필터로 그려져 있었는데, 그 주된 목적은 파룬궁이나 달라이 라마 등의 문구를 찾는 것이었습니다. 또, 유저의 컴퓨터를 리모트 테이크 오버의 영향을 받기 쉽게 했습니다. 13년 후, 중국의 테크놀로지 기업은 Apple을 포함해 주에 완전히 종속되게 되었습니다.Apple은 중국 고객의 iCloud 데이터를 모두 국유 기업이 운영하는 데이터 센터에 보관하고 있습니다.
사진을 스캔하는 것은 스케일로 어려워요. 먼저 프로그램이 기존의 잘못된 이미지의 정확한 복사만 차단할 경우 사람들은 그 이미지를 약간 편집할 수 있습니다. 별로 숙련되지 않은 사람은 밖에 나가서 새로운 이미지를 만들지도 모릅니다 성적 학대 이미지의 경우는 새로운 범죄를 의미합니다 그래서 검열관은 블록 리스트에 있는 것과 같은 화상에 플래그를 세우는 소프트웨어를 원합니다 다만 잘못된 알람이 있고 전화기에서 실행되는 것과 같은 종류의 소규모 시스템에서는 에러율이 5%까지 높아질 수 있습니다매일 촬영되는 아이폰10bn의 사진에 이 에러율을 적용하면 5%의 오경보율은 2차 스크리닝을 위해 5개의 oom 이미지가 전송되는 것을 의미합니다.
이것을 방지하기 위해서, Apple은, 전화기의 프라이머리 스크리닝으로 의심스러운 이미지의 특정의 문턱값(아마 10 개)이 검출되었을 경우에만 동작합니다. 카메라 롤에 추가된 각 사진은 검사되고 iCloud에 백업되면 의심스러운지 여부를 나타내는 암호화된 "안전 바우처"가 첨부됩니다. 암호화는 10 이상의 바우처가 안전하지 않다고 표시되면 Apple이 이미지를 복호화할 수 있도록 설계되었습니다. 부정하게 보일 경우 사용자가 보고되고 계정이 잠깁니다.
Apple이 제안하고 있는 것과 같은 기계 학습 시스템의 약점으로서 잘 알려져 있는 것은 사진을 미세 조정하기 쉽고 분류가 잘못되어 있는 것입니다 장난꾸러기는 고양이의 사진을 미세 조정하고 전화로 학대라고 마크하는 한편 진짜 학대 화상을 파는 갱은 고양이를 어떻게 검열을 통과시킬까를 생각합니다 그러나 화상은 문제의 일부에 지나지 않습니다 흥미롭게도 Apple은 적어도 2018년 이후 온라인 학대의 주요 매체에 대해 불법 이미지의 출처를 추적하는 방법에 대해서는 아무 말도 하지 않았습니다
그러나 기술적인 질문이 어려울 경우 정책적인 질문은 훨씬 어렵습니다 지금까지 민주주의 국가들은 정부에 의한 감시를 특정 목적에 한정하는 경우와 특정인을 대상으로 하는 경우의 두 가지 상황에서 허용해 왔습니다 특수 목적의 감시 예로는, 스피드 카메라나 지폐의 복사를 정지하는 복사기 소프트웨어 등이 있습니다. 특정의 인물을 대상으로 하는 경우는, 통상, 영장등의 서류가 필요합니다. Apple 시스템은 이러한 첫 번째 유형처럼 보이지만 일단 휴대전화, Mac, 심지어 시계에 내장되어 있으면 보안과 사생활 메커니즘을 회피하는 방법으로 정부가 요구하는 것은 무엇이든, 혹은 누구나 검사할 수 있습니다.
이러한 염려는 추상적이지 않습니다. 독재국가에만 국한된 것은 아닙니다. 호주 정부는 아프가니스탄에서 호주군이 민간인을 살해한 사진을 둘러싸고 언론인을 기소하겠다고 위협한 전쟁 범죄의 이미지는 국가보안법의 대상이라고 주장했고, 장관은 기업들에게 기존의 감시 시스템을 다른 이미지로 재훈련할 것을 강제할 수 있습니다 Apple이 제안하고 있는 스누핑의 범위를 대폭 확대하고 있습니다.
EU는, 테크놀로지 기업이 위법한 화상을 요구해 통신을 스캔 하는 것을 허가하는 법률을 갱신한 바로 직후에, 새로운 아동 보호 이니셔티브가 「그룹」에까지 확대해, 기업에 텍스트의 스캔도 의무화 합니다고 발표했습니다. 또, 영국에서는, 수사권법에 의해, 대신이 기업에 대해, 가능한 한 감청을 지원하기 위한 제도의 정비를 명할 수 있습니다. 당신의 아이폰은 조용히 실종된 아이를 찾고 있을지도 모르지만, 경찰의 '최중요 지명 수배자'도 찾고 있을지도 모릅니다.