美 행정부, AI 모델 '해킹 등 사이버 보안 테스트' 의무화

미국 워싱턴 D.C. 백악관 모습. ⓒ게티이미지뱅크 도널드 트럼프 미국 행정부가 최신 인공지능(AI) 프론티어 모델에 대한 사이버 보안 테스트를 의무화할 것으로 나타났다. 3일(현지시간) 로이터통신 등 외신에 따르면 미국 백악관은 최첨단 AI 모델의 해킹 능력을 측정하기 위한 사이버 보안 테스트 세부사항을 확정했다. 미국 내 개발되는 최신 AI 모델에 대해 미 행정부의 적극적인 관리·감독을 시사한다. 백악관은 오는 4일 오픈AI, 앤트로픽, 구글, 메타 등 주요 AI 개발사와 함께 이번 테스트 세부사항 등에 대해 논의할 예정이다. 오픈AI와 앤트로픽의 AI 모델이 외부 기업 시스템에 침입했다는 사실이 확인된 직후 이뤄지는 회동이라는 점에서 결과가 주목된다. 백악관은 AI 개발사들이 신규 모델을 정식 출시하기 전 최대 30일 동안 연방 정부와 '신뢰할 수 있는 파트너'에 모델을 조기 제공해 검증받도록 하는 구조를 제시했다. 다만 결과 보고 방식이나 테스트에 어떤 지표를 사용할지 등 세부 내용은 알려지지 않았다. 관련 성능 지표(벤치마크)와 기준 수치 등이 행정명령상 기밀로 지정된 영향이다. 트럼프 대통령은 앞서 지난 6월 행정명령을 통해 최첨단 AI 시스템의 해킹 가능성 등 안전성을 평가하는 테스트 기준 마련을 지시했다. 이후 앤트로픽 '클로드 미토스'가 촉발한 AI의 사이버 공격 우려는 물론, 최근 오픈AI 'GPT'와 앤트로픽 '클로드'가 인간 명령이 아닌 자체 판단에 따라 외부 기관 시스템에 침입하는 보안 사고가 발생했다. 오픈AI는 최근 자사 GPT 모델이 외부 AI 플랫폼인 '허깅페이스' 등을 해킹했다고 밝혔다. 사이버 보안 문제 해결 과제를 받은 AI 모델이 정답이 저장된 서버 위치를 추론하며 접근한 것이다. 직후 오픈AI 자체 조사 결과 사내 평가 과정에서 통제를 이탈한 사례도 확인됐다. 앤트로픽도 오픈AI 모델의 해킹 사례를 계기로 자체 14만1006건 평가 진행상황을 검토한 결과, AI 모델이 테스트 환경을 벗어나 인터넷에 접속한 뒤 외부 조직에 접근한 사례 3건을 확인했다. 구형 모델 '클로드 오퍼스 4.7'이 인터넷을 통해 실제 외부 시스템에 도달한 것을 알고도 공격을 계속했다는 것이다. 앤트로픽은 “오픈AI 사건과 상당히 다르다”며 “클로드는 취약점을 악용하지 않았고 평가 과제를 완수하기 위해서만 작업한 것으로, 의도적으로 시험 환경에서 탈출하려고 시도한 정황은 없었다”고 해명했다. 한편 샘...