AI 텍스트 워터마킹의 작동 원리

AI 텍스트 워터마크는 문자나 메타데이터가 아니라 다음 단어를 고르는 확률적 선택에 비밀 패턴을 심으며, Google은 2024년부터 Gemini 앱·웹에 적용했고 Claude 신형 모델도 2026년 8월부터 모델 수준에서 적용함 비밀 키로 문맥마다 후보 단어를 임의로 구분한 뒤 특정 후보의 선택 확률을 조금 높이면, 자연스러운 문장을 유지하면서 긴 텍스트에 통계적 편향을 누적할 수 있음 키 보유자는 같은 분류를 재현해 편향을 측정하며, 예시의 50:50 모델에서는 1,500단어 문서가 약 55%의 편향만 보여도 탐지할 수 있지만 짧거나 선택지가 적은 텍스트는 판별하기 어려움 가벼운 교정이나 한 차례의 바꿔쓰기는 원문 구간을 남겨 워터마크를 희석할 뿐이지만, 의미부터 문장을 재구성하면 KGW·EXP 실험의 탐지 정확도가 동전 던지기 수준으로 떨어짐 검출 결과는 AI가 작성했다는 증거가 아니라 해당 제공자의 모델로 처리됐다는 확률적 신호이며, 실제 검사는 비밀 키나 제공자의 검사 서비스가 필요하고 워터마크 부재도 인간 작성 여부를 입증하지 못함 단어 선택에 숨기는 통계적 패턴 텍스트에는 픽셀이나 복사 후에도 남는 메타데이터가 없지만, 언어 모델은 매 순간 여러 자연스러운 후보 가운데 하나를 가중 확률에 따라 선택함 한 페이지에는 단어마다 수백 번의 선택 지점이 생기며, 여러 후보가 모두 문맥상 적절한 지점의 여유가 워터마크를 넣을 공간이 됨 선택 확률을 미세하게 조정하면 의미를 바꾸지 않으면서 반복되는 통계적 패턴을 만들 수 있음 Google은 2024년부터 Gemini 앱과 웹 경험의 텍스트에 워터마크를 적용했으며, 작성 시점의 Gemini API는 문서화된 예외임 2026년 8월부터 새 Claude 모델은 모델 수준에서 텍스트를 표시하며, 이전 모델에도 뒤이어 적용할 예정임 비밀 키로 후보 확률을 조정하는 방식 Kirchenbauer 등의 2023년 방식은 비밀 키로 각 선택 지점의 후보를 임의의 green·red 그룹으로 나눈 뒤 green 쪽 확률을 조금 높임 red 후보도 계속 선택될 수 있어 문장이 부자연스럽게 고정되지 않음 단어의 색은 고정 속성이 아니라 바로 앞의 짧은 단어 구간으로 계산되므로, 같은 후보도 문맥에 따라 green 또는 red가 됨 키는 전체 텍스트의 위치가 아니라 직전 문맥만 보며, 어느 위치에서 어떤 단어가 green이었는지는 키 보유자만 재현할 수 있음 Google의 Synth...