감시는 안전이 아니다: 영국의 최신 개인정보 위협에 관한 성명 [pdf]

• 영국에서 판매되거나 사용되는 모든 기기의 모든 콘텐츠를 나체 추정 기준으로 스캔하라는 요구는 아동 보호가 아니라 모든 사람의 개인정보와 소통권을 위험하게 만드는 조치
• 연령 확인과 콘텐츠 스캔을 결합해 모든 영국 거주자에게 나이 증명이나 전체 콘텐츠 스캔을 요구하는 방식은 기본적 소통권 행사에 위험한 조건을 붙이는 구조
• 대규모 감시와 검열 역량은 일단 만들어지면 좁은 범위에 머물지 않고, 영국과 해외에서 위협 또는 유해 콘텐츠로 간주되는 대상을 검열·감시하는 도구로 확대
• 온디바이스 실행 약속도 충분한 보호 장치가 아니며, 스캔 범위는 오늘의 나체 탐지에서 내일의 정치적 발언으로 바뀔 수 있는 정부 재량에 놓이는 구조
• 실제 아동 안전은 충분한 교육 재정, 탄탄한 사회 서비스, AI 기술과 플랫폼에 대한 의미 있는 안전장치에 달려 있으며, 기본값으로 켜지는 보이지 않는 감시 인프라는 그 대안이 아님

핵심 입장

• 아동은 안전하게 보호받고 양육받아야 하며, 감시와 예산 삭감, 은폐의 대상이 되어서는 안 되는 존재
• 아동을 포함한 모든 사람에게 개인정보 보호라는 인권이 있으며, 영국 정부의 요구는 이 권리를 침해하는 방향
• 영국 정부의 요구는 영국에서 판매되거나 사용되는 모든 기기의 모든 콘텐츠를 나체 추정 기준으로 스캔하도록 하는 조치
  • 이 방식은 연령 확인과 콘텐츠 스캔의 결합
  • 아동을 보호하지 못하고 모두를 위험하게 만드는 조치
  • Apple, Google, Microsoft의 시장 지배력과 개인 정보 통제력을 강화하는 결과

제안된 조치와 위험

• 모든 영국 거주자가 기본적 의사소통 권리를 행사하기 위해 나이를 증명하거나 모든 콘텐츠 스캔을 받아야 하는 구조는 위험한 제안
• 대규모 감시와 검열 역량은 시작한 이들의 약속이 얼마나 진정성 있게 들리더라도 좁은 범위에 머물지 않는 기술
  • 일단 만들어지면 확대되는 구조
  • 영국과 해외에서 “위협” 또는 “유해 콘텐츠”로 간주되는 대상을 검열하고 감시하는 위험한 도구
• 시스템이 온디바이스에서만 실행된다는 약속은 충분한 안심 근거가 아님
  • 기기 안, 카메라 자체 등 어디에서 실행되든 범위는 정부의 판단과 금지 규정에 의해 결정
  • 오늘은 나체 탐지, 내일은 정치적 발언 탐지로 바뀔 수 있는 구조
• 역사적으로 이런 기술은 감시 대상 콘텐츠와 사람의 범위가 권위주의적으로 확대되는 흐름
  • 이러한 도구는 사람들을 정부 당국에 자동 신고하는 데 활용될 수 있음
  • 법집행 기관은 이미 비슷하게 넓은 범위의 권한을 요구한 사례가 있으며, 불안정해지는 정치 환경에서 악용 가능성이 큰 권한
• 아동 안전은 잘 지원되는 교육, 강력한 사회 서비스, AI 기술과 플랫폼에 대한 의미 있는 안전장치에 가까운 개념
• 영국 정부가 원하는 것은 기본값으로 켜지는 보이지 않는 감시 인프라
  • 냉소적 명분 아래 법제화가 서둘러질 수 있는 구조
  • 보호 대상이라고 내세우는 아동의 실제 필요와 현실에서 뒤따를 끔찍하고 광범위한 결과에 대한 고려가 부족한 접근