10억 달러 규모의 법률 AI 도구를 리버스 엔지니어링하자 10만 개 이상의 기밀 파일이 노출됨

• 법률 AI 플랫폼 Filevine의 API를 분석하는 과정에서 인증 없이 전체 관리자 권한이 부여되는 심각한 취약점이 발견됨
• 연구자는 subdomain enumeration을 통해 margolis.filevine.com 하위 도메인을 찾고, AWS API 엔드포인트를 확인하여 테스트 요청을 보냄
• 단순한 POST 요청에 인증 토큰 없이 응답이 반환되었으며, 그 안에는 Box 파일시스템 전체 접근이 가능한 관리자 토큰이 포함되어 있었음
• 이 토큰을 통해 약 10만 개의 “confidential” 문서가 검색 가능했으며, 의료·법률·급여 등 극도로 민감한 자료가 포함되어 있었음
• Filevine은 제보 후 즉시 대응 및 수정을 완료했으며, 이번 사례는 AI 기반 법률 서비스의 보안 관리 중요성을 보여줌

취약점 발견 및 공개 일정

• 연구자는 2025년 10월 27일 Filevine 보안팀에 취약점을 이메일로 보고
  • 11월 4일 Filevine은 문제를 인지하고 빠른 수정 계획을 회신
  • 11월 20일 연구자가 패치 적용 여부를 확인하고 블로그 공개 의사를 전달
  • 11월 21일 Filevine은 수정 완료를 확인하고 감사 인사를 전달
  • 12월 3일 기술 블로그 게시
• Filevine은 전 과정에서 신속하고 전문적인 대응을 보였으며, 책임 있는 보안 공개의 모범 사례로 평가됨

Filevine과 법률 AI 시장 배경

• Filevine은 10억 달러 이상 가치로 평가되는 법률 AI 플랫폼으로, 빠르게 성장 중
• 법률 사무소들은 이 플랫폼에 극도로 기밀성이 높은 데이터를 업로드하여 업무를 처리
• 연구자는 Yale Law School과의 프로젝트 경험을 바탕으로 Filevine의 데이터 보안 구조를 검토하게 됨

리버스 엔지니어링 과정

• Filevine의 접근 제한으로 인해 연구자는 공개 데모 환경을 찾기 위해 subdomain enumeration 기법을 사용
• margolis.filevine.com 하위 도메인을 발견했으나, 페이지가 로딩되지 않아 Chrome 개발자 도구로 네트워크 요청을 분석
• JS 파일 내에서 POST await fetch(${BOX_SERVICE}/recommend) 코드를 발견하고, BOX_SERVICE 변수가 AWS API 엔드포인트로 지정된 것을 확인
• {"projectName":"Very sensitive Project"} 형태의 요청을 /prod/recommend로 전송하자, 인증 없이 응답이 반환됨

관리자 토큰 노출 및 영향

• 응답에는 Box API의 전체 관리자 권한 토큰(boxToken) 이 포함되어 있었음
• 이 토큰은 법률 사무소의 내부 Box 파일시스템 전체에 접근할 수 있는 권한을 제공
  • 문서, 로그, 사용자 정보 등 모든 데이터 접근 가능
• “confidential” 키워드로 검색 시 약 10만 건의 결과가 반환됨을 확인
• 연구자는 즉시 테스트를 중단하고 Filevine에 취약점을 보고
• 악의적 공격자가 이 토큰을 이용할 경우, HIPAA 보호 문서, 법원 명령 문서, 내부 급여 자료 등이 모두 유출될 수 있었음

보안 교훈

• AI 도입 경쟁 속에서 기업들은 데이터 보호 체계 강화가 필수적임
• 특히 법률·의료 등 기밀성이 높은 산업의 AI 서비스는 보안 검증 절차를 엄격히 유지해야 함
• 이번 사례는 AI 기반 SaaS의 인증·권한 관리 실패가 초래할 수 있는 위험성을 명확히 보여줌