오픈소스는 죽지 않았다

1 day ago 3
  • Cal.com이 AI 기반 취약점 탐지 위협을 이유로 핵심 코드를 비공개로 전환하며, “투명성이 곧 노출” 이 되는 시대를 언급함
  • Strix는 자율형 AI 보안 에이전트를 개발하는 오픈소스 프로젝트로, Cal.com과 협력해 책임 있는 취약점 공개 절차를 진행함
  • Strix는 코드 비공개가 AI 보안 위협의 해결책이 아니며, 오히려 선의의 검토 기회를 차단한다고 지적함
  • AI 공격은 코드 접근 없이도 블랙박스 방식으로 침투 가능하며, 비공개 전략은 자동화된 공격에 취약함
  • 진정한 해법은 AI 방어를 개발 프로세스에 통합하고, 지속적 자동 검증을 통해 오픈소스의 투명성과 협력을 유지하는 것임

Cal.com의 코드 비공개 전환과 오픈소스 보안 논쟁

  • Cal.com이 핵심 코드베이스를 오픈소스에서 비공개로 전환한다고 발표
    • CEO Bailey Pumfleet은 AI가 대규모로 취약점을 자동 탐지해 “투명성이 곧 노출” 이 되는 시대가 되었다고 언급
    • AI가 코드 스캔과 익스플로잇을 거의 ‘제로 비용’ 으로 수행할 수 있게 되었다는 점을 이유로 제시
  • Strix는 자율형 AI 보안 에이전트를 개발하는 오픈소스 프로젝트로, 최근 24k GitHub 스타를 돌파
    • 하루 150억 개 이상의 LLM 토큰을 처리하며 소프트웨어 취약점을 탐지
    • Cal.com과 협력해 Strix를 이용한 책임 있는 취약점 공개 절차를 진행했으며, 아직 패치되지 않은 버그의 세부 내용은 공개하지 않음
    • Cal.com의 결정이 사용자 보호 의지에서 비롯된 것임을 인정
  • 그러나 Strix는 “코드를 닫는 것은 AI 기반 보안 위협의 해결책이 아니다”라고 강조
    • AI가 보안을 근본적으로 바꿨다는 점에는 동의하지만, 오픈소스 포기에는 반대 입장

블랙박스 AI는 비공개 코드에도 침투 가능

  • 소스코드를 닫으면 공격자가 코드를 읽지 못할 것이라는 가정은 현대 AI 공격 모델에는 해당되지 않음
    • 과거 정적 분석 도구에는 유효했지만, 자율형 AI 에이전트는 코드 접근 없이도 공격 수행 가능
  • Strix 같은 도구는 블랙박스·그레이박스 테스트에 특화
    • 실제 엔드포인트와 상호작용하며 브라우저 상태 조작, 네트워크 트래픽 분석, 비즈니스 로직 취약점 탐지 수행
  • 코드 비공개는 선의의 개발자들의 검토 기회를 차단할 뿐, 공격자에게 노출된 API·웹훅 등 공격면은 그대로 남음

‘보안 은폐’ 전략은 자동화 공격에 취약

  • 비공개 코드는 내부 보안팀과 주기적 수동 침투 테스트에 의존
    • 그러나 공격자는 무한히 작동하는 AI 봇으로 24시간 취약점을 탐색
  • 이는 내부 인력이 외부 AI 공격보다 더 빠르게 결함을 찾을 수 있다는 가정에 기반하지만, 현실적으로 불가능
  • 과거에도 ‘보안을 위한 은폐(Security through obscurity)’ 는 실패해왔으며, AI 시대에는 그 실패 속도가 기하급수적으로 빨라질 것

진짜 해법: AI로 AI를 방어

  • 소프트웨어 개발 속도가 인간 보안 검토 속도를 초월한 것은 사실
    • 그러나 해법은 코드를 숨기는 것이 아니라 AI 방어를 개발 프로세스에 통합하는 것
  • AI 기반 지속 검증(continuous validation) 이 필요
    • 개발자가 Pull Request를 열면 AI가 즉시 공격 시도
    • 인프라 변경 시 AI가 자동으로 공격면 검증
  • CI/CD 파이프라인 내에서 보안 테스트가 자동화되어야 하며, 공격 자동화보다 더 나은 내부 자동화로 대응해야 함

오픈소스는 여전히 유효

  • “많은 사람의 눈이 버그를 얕게 만든다”는 전통적 원칙은 약화될 수 있으나, 오픈소스 자체는 죽지 않음
  • Strix는 투명성이 강점을 만든다는 신념으로 오픈소스를 유지
    • 차세대 보안 도구는 공격 도구만큼 접근 가능하고 개방적이어야 함
  • 코드를 숨긴다고 AI 해커를 막을 수는 없지만, 개발자에게 자율형 보안 에이전트를 제공하면 방어 가능성 높아짐
  • Strix는 AI 기반 지속 보안 테스트를 무료로 체험할 수 있도록 제공
Read Entire Article