OpenAI, 검증 도구와 함께 AI 이미지에 Google의 SynthID 워터마크 도입

• OpenAI는 AI 생성 콘텐츠 식별을 위해 C2PA 적합성, SynthID 워터마크, 공개 검증 도구를 결합한 다층 출처 모델을 강화함
• C2PA는 메타데이터와 암호학적 서명으로 콘텐츠의 생성·편집 맥락을 함께 이동시키지만, 변환 과정에서 손상될 수 있음
• Google DeepMind의 SynthID는 ChatGPT, Codex, OpenAI API 생성 이미지에 보이지 않는 워터마크를 더해 메타데이터의 약점을 보완함
• 공개 검증 도구 프리뷰는 업로드 이미지의 Content Credentials와 SynthID를 확인해 OpenAI 생성 여부 판단을 도와줌
• 단일 기술만으로는 충분하지 않으며, 공통 표준, 지속성 있는 워터마킹, 공개 검증을 결합해야 출처 생태계가 강해짐

콘텐츠 출처 접근 방식 강화

• OpenAI는 온라인 신뢰 구축을 위해 다층적 출처 모델을 강화하고, 개방형 표준과 플랫폼 간 협력을 기반으로 AI 생성 콘텐츠의 식별 가능성을 높이려 함
• 주요 변화는 세 가지임
  • C2PA 적합성으로 다른 도구와 플랫폼이 출처 신호를 더 쉽게 인식하도록 지원함
  • Google과 협력해 이미지에 SynthID 워터마킹을 추가함
  • 이미지가 OpenAI에서 생성됐는지 대중이 확인할 수 있는 공개 검증 도구 프리뷰를 제공함
• 출처 신호는 콘텐츠가 어디서 왔는지, 어떻게 생성되거나 편집됐는지, 주장하는 바와 일치하는지를 판단하는 데 필요한 맥락을 제공함

C2PA 적합성을 통한 신뢰 생태계

• OpenAI는 2024년부터 출처 표준 개발과 도입에 참여했으며, DALL·E 3 생성 이미지에 Content Credentials를 추가하기 시작함
• 이후 ImageGen과 Sora에도 Content Credentials가 적용됨
• OpenAI는 콘텐츠 출처를 위한 개방형 기술 표준을 추진하는 범산업 단체 Coalition for Content Provenance and Authenticity(C2PA) 의 운영위원회에 합류함
• C2PA는 메타데이터와 암호학적 서명을 사용해 미디어 관련 정보가 콘텐츠 자체와 함께 안전하게 이동하도록 돕는 방식임
• 이 정보는 출처를 평가하는 기자, 무결성 관련 결정을 내리는 플랫폼, 온라인 콘텐츠를 이해하려는 사람들에게 맥락을 제공함
• OpenAI는 최근 C2PA 적합 생성 제품이 됨
• C2PA 적합성은 플랫폼이 콘텐츠에 첨부된 출처 정보를 신뢰 가능한 방식으로 읽고, 보존하고, 전달할 수 있게 하는 기반이 됨
• 출처 정보는 콘텐츠가 처음 생성된 플랫폼을 넘어 유지될 때 의미가 커지며, 적합성 준수가 이를 가능하게 함

SynthID를 더한 다층적 이미지 출처

• C2PA 메타데이터는 콘텐츠가 어디서 왔는지, 어떻게 생성되거나 편집됐는지, 누가 해당 정보에 서명했는지를 담아 이동시키는 기반임
• 메타데이터는 제거되거나, 업로드·다운로드 과정에서 사라지거나, 파일 형식 변경·크기 조정·스크린샷 같은 변환으로 손상될 수 있음
• OpenAI는 출처 정보를 더 견고하게 만들기 위해 Google DeepMind의 SynthID를 통한 보이지 않는 워터마크를 도입함
• 적용 대상은 먼저 ChatGPT, Codex, OpenAI API를 통해 생성된 이미지부터 시작됨
• SynthID는 C2PA 메타데이터 기반 접근 방식을 보완하는 추가 워터마크 계층으로 동작함
• OpenAI는 이전에도 출처와 워터마킹 방식을 실제 배포 환경에서 시험해 왔음
  • Sora에는 눈에 보이는 워터마크를 사용함
  • Voice Engine에는 오디오 워터마크를 사용함
  • 시간이 지나도 정확성과 신뢰성이 유지되는지 계속 테스트하고 연구함
• C2PA와 SynthID는 서로 다른 약점을 보완함
  • C2PA는 콘텐츠에 자세한 맥락을 담도록 돕지만, 메타데이터가 제거되거나 손상될 수 있음
  • SynthID는 메타데이터가 유지되지 않을 때도 신호를 보존하도록 돕고, 스크린샷 같은 변환에도 더 오래 유지될 수 있음
  • 메타데이터는 워터마크만으로는 제공할 수 없는 더 많은 정보를 제공함
• 두 방식을 함께 사용하면 각각을 단독으로 사용할 때보다 콘텐츠 출처 정보의 복원력이 강해짐

공개 검증 도구 프리뷰

• OpenAI는 ChatGPT, OpenAI API, Codex에서 생성된 이미지인지 확인하도록 돕는 공개 검증 도구를 프리뷰 버전으로 제공함
• 이 도구는 업로드된 이미지에 Content Credentials와 SynthID 등 출처 신호가 포함되어 있는지 확인함
• 여러 신호를 통합해 사용자가 콘텐츠 출처 정보를 더 쉽게 검증하고 해석하도록 돕는 것이 목표임
• 공개 검증 도구는 OpenAI에서 비롯된 SynthID 워터마크를 안정적으로 감지할 수 있으며, C2PA 메타데이터가 발견되면 함께 표시할 수 있음
• 어떤 탐지 방법도 완벽하지 않기 때문에, 탐지가 실패할 때는 단정적인 결론을 내리지 않음
  • 메타데이터나 워터마크가 감지되지 않아도 해당 이미지가 OpenAI 도구로 생성되지 않았다고 단정하지 않음
  • 출처 신호는 경우에 따라 제거될 수 있음
• 출시 시점의 검증 도구는 OpenAI가 생성한 콘텐츠로 제한됨
• 앞으로 몇 달 안에 플랫폼 전반의 검증을 가능하게 하는 범산업적 노력을 지원하는 것이 목표임
• 시간이 지나면 온라인에서 접할 수 있는 더 많은 유형의 콘텐츠도 지원할 것으로 기대됨

향후 과제

• 단일 출처 기술만으로는 충분하지 않음
• 강력한 출처 접근 방식은 공통 표준, 오래 지속되는 워터마킹 신호, 공개 검증을 결합해야 함
• OpenAI는 Content Credentials에 대한 기존 지원, C2PA 적합성, SynthID 도입, 공개 검증 도구 프리뷰를 통해 더 상호운용 가능한 출처 생태계에 기여하려 함