앤트로픽, AI 모욕하면 대화 종료한다…이용 정책 개정

앤트로픽이 자사 인공지능(AI) 모델 '클로드'를 지속적으로 모욕하는 이용자와의 대화를 차단할 수 있도록 이용 정책을 개정했다.

9일(현지시간) BBC에 따르면 앤트로픽은 전날 이용 정책을 개정해 AI에 모욕적이거나 잔인한 행동을 반복하는 이용자의 대화를 종료할 수 있게 했다.

앤트로픽은 극단적이고 반복적인 사례에만 새 정책을 적용하겠다고 밝혔다. 일반적인 불만 제기나 모델 테스트, 연구 활동은 제외한다. 다만 모욕적 행동을 판단하는 구체적인 기준은 공개하지 않았다.

이번 정책을 두고 사회관계망서비스(SNS)에서 AI 의인화 논란도 불거졌다. 일부 이용자는 올바른 이용 문화를 장려하는 조치라고 평가하는 반면, AI를 과도하게 인간처럼 대한다는 비판도 제기됐다.

아일랜드 로펌 윌리엄 프라이의 배리 스캐널 박사는 “이 정도의 AI 의인화는 해롭다”며 AI를 실제와 다른 존재로 오인하게 만들 수 있다”고 지적했다. 인간이나 동물에 대한 학대의 의미가 희석될 수 있다는 우려도 나왔다.

AI와 대화할 때 예의 바른 표현이 필요한지를 둘러싼 논쟁도 이어지고 있다. 불필요한 토큰 소모라는 지적과 더 나은 답변을 끌어낼 수 있다는 반론이 맞선다.

지난해 샘 올트먼 오픈AI 최고경영자(CEO)는 챗GPT가 '부탁합니다' '감사합니다' 인사에 답하는 데 드는 전력 비용에 대한 질문에 “수천만 달러가 들지만 잘 쓴 돈”이라고 답했다.

앤트로픽은 이번 정책 개정으로 유권자를 속이거나 선거를 방해할 목적으로 클로드를 사용하는 행위도 명시적으로 금지했다.

조벼리 기자 starry@etnews.com