하정우 부위원장 "안전한 프론티어 AI 역량 확보는 선택 아닌 필수"...'속도조절'은 후순위

"한국만 개발 늦추면 기술 격차 심화"…독립적 평가·통제 역량 확보 강조 [아이뉴스24 서효빈 기자] 프론티어 AI의 위험에 대비한 안전장치가 필요하다는 데는 공감하면서도 자체 AI 기술과 독립적인 평가·통제 역량을 먼저 확보한 뒤 국제 공조를 통해 안전성을 강화해야 한다는 의견이 제시됐다.하정우 국가인공지능전략위원회 상근부위원장이 8일 서울 중구 국가AI전략위원회에서 열린 국가인공지능전략위원회 출범 1주년 성과보고회에서 발언하고 있다. [사진=안세준 기자]국가인공지능전략위원회는 1일 서울스퀘어에서 'AI 개발 속도조절론' 관련 세미나를 열고 국내외 AI 개발 경쟁과 안전 정책의 대응 방향을 논의했다.이번 세미나는 지난달 12일 앤트로픽과 오픈AI 등 글로벌 AI 기업 수장들이 AI 기술 발전이 인간의 통제력을 넘어설 수 있다는 우려를 공개적으로 제기한 것을 계기로 마련됐다.국내 산업계와 전문가들은 주요국이 AI 기술 개발을 지속하는 상황에서 한국만 독자적으로 속도 조절에 나설 경우 기술 경쟁력이 약화될 수 있다고 봤다.김성훈 업스테이지 대표는 "AI는 초지능(SI)을 넘어 '스스로 진화하는 AI' 시대로 넘어가고 있다"며 "국내 속도 조절은 글로벌 빅테크와의 기술 격차를 고착화하고 종속을 심화시킬 우려가 있는 만큼, 우리도 자기진화 수준의 기술을 먼저 확보한 다음 글로벌 추세에 맞춘 안전장치 마련 등 속도 조절을 검토해야 한다"고 강조했다.다만 프론티어 AI의 성능과 범용성이 빠르게 확대되는 만큼 기존 제도만으로 새로운 위험에 대응하기 어렵다는 지적도 나왔다.최대선 숭실대 교수(AI안전성연구센터장)는 고영향 AI와 연산량 중심의 첨단 AI 등 기존 제도 범주로는 범용성과 예측 불가능성이 빠르게 확대되는 프론티어 AI의 위험을 충분히 관리하기 어렵다며 기술적·제도적 대응 방안을 검토해야 한다고 지적했다.이한울 에임인텔리전스 부사장은 국내 AI 보안 역량과 기업의 대응 현실을 언급하며 국내에서 독립적으로 AI 모델의 위험성을 평가하고 통제할 수 있는 역량을 확보하는 동시에 국제 공조를 추진해야 한다고 제언했다.하정우 위원회 상근 부위원장은 "AI 개발 속도조절론을 둘러싼 다양한 우려와 국내외 담론이 혼재돼 있지만, 대체 불가능한 글로벌 AI 핵심 공급망 확보와 'AI 3강 도약'을 위해 안전한 프론티어 AI 역량 확보는 선택이 아닌 필수"라고 말했다./서효빈 기자([email protected]) 포토뉴스