a16z가 투자한 Doublespeed 해킹으로 드러난 AI 생성 계정의 TikTok 광고 운영

• 1,100대의 스마트폰을 이용한 ‘폰 팜(phone farm)’ 이 해킹되어, TikTok에서 운영 중이던 AI 생성 광고 계정들의 활동이 드러남
• 이 시스템은 Andreessen Horowitz(a16z) 의 투자를 받은 스타트업 Doublespeed가 운영하며, 수백 개 이상의 AI 기반 소셜미디어 계정을 관리해 제품 홍보에 사용
• 해킹으로 인해 어떤 제품들이 홍보되고 있었는지, 그리고 광고 표시 의무를 지키지 않은 사례들이 확인됨
• 해커는 10월 31일 취약점을 회사에 보고했으나, 여전히 백엔드와 폰 팜에 접근 가능한 상태라고 밝힘
• 이번 사건은 AI 인플루언서와 자동화된 광고 생태계의 투명성 문제를 드러낸 사례로 주목됨

Doublespeed 해킹 사건 개요

• 해커가 1,100대의 모바일폰으로 구성된 폰 팜을 장악해 TikTok에서 운영 중이던 AI 생성 광고 계정들의 활동을 노출
  • 이 폰 팜은 Doublespeed가 관리하며, AI로 생성된 소셜미디어 계정 수백 개 이상을 통해 제품 홍보를 수행
• 해킹을 통해 광고임을 명시하지 않은 홍보 콘텐츠가 다수 존재함이 드러남
  • 해당 계정들은 AI 인플루언서 형태로 제품을 홍보하고 있었음

해커의 접근 및 회사 대응

• 해커는 보복을 우려해 익명을 요청했으며, 10월 31일 Doublespeed에 취약점을 보고했다고 밝힘
• 기사 작성 시점에도 해커는 여전히 회사 백엔드와 폰 팜 시스템에 접근 가능하다고 언급
• Doublespeed는 언론의 논평 요청에 응답하지 않음

Doublespeed와 투자 배경

• Doublespeed는 Andreessen Horowitz(a16z) 의 투자를 받은 스타트업으로, AI 기반 소셜 계정 자동화 및 광고 운영을 수행
• 회사는 수백 개 이상의 AI 계정을 관리하며, 스마트폰을 물리적으로 연결한 폰 팜 인프라를 통해 대규모 콘텐츠 배포를 진행

드러난 문제점

• 해킹으로 인해 광고 표시 의무 위반과 AI 계정의 상업적 활용 실태가 노출
• AI 인플루언서를 통한 은밀한 광고 확산이 확인되며, 플랫폼 투명성 및 규제 문제가 부각

사건의 의미

• 이번 사건은 AI 자동화 마케팅 시스템의 보안 취약성과 광고 투명성 부족을 동시에 보여주는 사례
• 대형 벤처캐피털이 지원하는 스타트업조차 보안 관리에 허점이 있음을 드러냄
• AI 생성 콘텐츠의 상업적 이용과 규제 필요성에 대한 논의가 촉발될 가능성 있음