챗GPT·클로드·제미나이에 물었다..."AI 개발 늦춰야 할까?"

안세준 기자 입력 2026.09.17 10:29 AI 능력보다 뒤처진 통제 기술에 우려…해법은 '조건부 감속·차등 가속' [아이뉴스24 안세준 기자] 글로벌 인공지능(AI) 모델들은 업계 화두로 떠오른 'AI 속도조절론'을 어떻게 바라볼까. 17일 오픈AI의 GPT-5.6 솔(Sol)과 앤트로픽의 클로드 오퍼스 5, 구글의 제미나이 3.1 프로(Pro)에 동일한 취지의 질문을 던진 결과, 세 모델 모두 AI 능력 향상 속도에 비해 검증·통제 기술이 뒤처지고 있다는 점을 문제로 지목했다. 다만 구체적인 방식에서는 다른 해법을 제시했다.생성형 AI로 제작한 이미지. [사진=제미나이]질문은 특정 사용자의 성향이나 이전 대화에 맞춘 답변이 아니라, 계정과 상관없이 동일하게 답할 법한 모델 자체 판단을 요구하는 방식으로 진행했다.GPT-5.6 솔 "인간의 통제 능력 앞서면 속도 늦춰야"먼저 GPT-5.6 솔은 "결론은 조건부로 속도조절이 필요하다는 것"이라고 답했다. 모든 AI 연구개발을 일률적으로 늦추는 방식에는 선을 그으면서도 위험도가 높은 프런티어 AI에는 별도의 기준이 필요하다고 봤다.솔은 "AI 개발을 (모든 모델이) 일률적으로 늦출 필요는 없다. 그러나 모델의 능력이 인간의 평가·감시·통제 능력을 명백하게 앞서기 시작한다면, 그 격차가 좁혀질 때까지 해당 '프런티어 AI'의 개발 또는 배포 속도를 늦추는 것이 합리적"이라고 했다.특정 모델이 위험 행동을 안정적으로 차단할 수 없거나, 독립적인 평가에서도 불확실성이 크게 남아 있는 경우라면 그 시점에서는 추가적인 스케일업이나 광범위한 배포를 늦춰야 한다는 것이다.솔은 AI 성능이 높아지는 것과 인간의 통제 능력이 함께 발전하는 것은 별개의 문제라고 짚었다. 솔은 "AI 시스템의 능력이 증가하는 것과 그 시스템을 인간이 완전히 이해하고 통제할 수 있게 되는 것은 같은 문제가 아니다"며 "AI가 스스로 판단하고 수행할 수 있는 범위가 커질수록 그에 맞는 평가와 통제 기술도 별개로 함께 발전해야 한다"고 했다.다만 자신의 판단 역시 개발사와 완전히 독립된 의견이라고 볼 수 없다는 점을 분명히 했다. 솔은 "답변이 오픈AI의 학습·정렬 과정으로부터 완전히 독립돼 있다고 증명할 수 없다"며 "어떤 언어모델도 자신의 학습과 정렬에서 완전히 벗어난 '순수한 자아의 의견'을 꺼내 보여줄 수는 없을 것"이라고 설명했다.클로드 오퍼스 5 "최전선 AI 속도 늦추는 데 찬성"클로드...