[창간기획]“AI는 잘 벼려진 칼”…이제 '손잡이' 만들 때

인공지능(AI)이 '잘 벼려진 칼'이 되고 있다. 과거에는 손잡이가 없어도 조심스럽게 쥐고 쓸 수 있는 무딘 칼에 가까웠다면, 불과 몇 달 사이 사람이 모든 과정을 확인하기 어려울 만큼 날카로워졌다. 칼날을 벼리는 속도만큼이나 날카로운 칼을 안전하게 쥘 수 있는 '손잡이'를 만드는 일이 중요해졌다는 지적이 나온다. 창간특집 'AI 신인류 리포트' 대담이 14일 서울 서초구 전자신문사에서 열렸다. 왼쪽부터 조정형 전자신문 정치정책 부장, 송대섭 네이버 AI 세이프티 정책 리더, 김명주 인공지능안전연구소 소장, 김세웅 카카오 AI 시너지 성과리더(부사장), 박정호 명지대 특임교수. 박지호기자 jihopress@etnews.com AI 분야 전문가들은 전자신문 창간 44주년 'AI 신인류 리포트' 좌담회에서 이 같이 진단하고 AI의 빠른 기술 발전 속도와 인간의 통제·제도 정비 속도 사이 간극을 줄이는 것이 핵심이라고 입을 모았다. AI가 질문에 답하는 수준을 넘어 스스로 계획을 세우고 도구를 활용해 행동하는 '에이전트' 단계로 진입하면서 통제 문제는 한층 복잡해지고 있다. 전문가들은 이 같은 상황에서 불거진 '속도조절론'에 대해 기술 발전 자체를 늦추거나 멈추려는 시도에는 현실적 한계가 있는 만큼 인간이 통제할 수 있는 기술·제도적 '손잡이'를 서둘러 마련해야 한다는 데 무게를 실었다. 김세웅 카카오 AI 시너지 성과리더(부사장)은 “AI가 손잡이 없는 칼 같은 느낌이 되어가고 있다. 예전에는 손잡이가 없어도 무뎌서 잡고 쓸 수 있었지만, 이제는 손잡이가 없으면 나도 위험해질 수 있는 정도가 됐다”고 평가했다. AI를 독립적 주체보다는 행위 능력이 빠르게 향상되는 도구로 봐야 한다는 데도 의견을 같이 했다. 다만 인간의 통제 체제가 AI 발전 속도를 따라가지 못하고 있다는 점은 문제로 지적됐다. 김명주 인공지능안전연구소 소장은 “개발 속도가 거버넌스 속도보다 빠르다는 게 핵심”이라며 “AI가 너무 빨리 발전해 법이나 규제, 기술적으로 우리가 통제할 수 없는 상황이 벌어질 수 있다”고 경고했다. 박정호 명지대 특임교수는 “기술 발달 속도를 늦추는 데 성공한 사례는 없다”며 “많은 거버넌스가 의기투합해 속도 조절에 들어갈 것이라고 보는 것은 순진한 생각”이라고 꼬집었다. 이어 최근 빅테크 수장의 속도조절론에는 향후 사고 발생에 대비한 사전적인 책임 회피 성격도 있다고 해석했다. 전문가들은 속도조절보다는 AI가 행동할 ...