kt cloud·카카오, AI 안전성 맞손…공공·금융 AI 공략

1 hour ago 1

AI Safety 기술 연동…생성형 AI 신뢰성 강화

[아이뉴스24 서효빈 기자] kt cloud는 카카오와 안전한 인공지능(AI) 서비스 구현을 위한 AI 안전성(AI Safety) 협력 체계를 구축하고 공공·민간 분야의 AI 활용 환경을 고도화한다고 26일 밝혔다.

최근 생성형 AI 확산으로 유해 콘텐츠 생성과 프롬프트 주입, 개인정보 유출 등 AI 안전성에 대한 관심이 높아지고 있다. 공공기관과 금융권을 중심으로 성능뿐 아니라 보안성과 신뢰성, 컴플라이언스를 충족하는 AI 운영 환경에 대한 요구도 커지는 상황이다.

양사는 kt cloud의 AI 인프라 플랫폼과 카카오의 AI 안전성 기술을 결합해 생성형 AI 서비스를 안전하게 개발·운영할 수 있는 환경을 구축할 계획이다. 협약식은 지난 25일 카카오 판교 아지트에서 열렸으며 공용준 kt cloud Cloud본부장과 김세웅 카카오 AI 시너지 성과리더가 참석했다.

협력의 첫 단계로 kt cloud는 공공 고객 대상 생성형 AI 플랫폼 'RAG Suite 2.0'에 카카오의 AI 가드레일 모델 '카나나 세이프가드'를 연동한다. 카나나 세이프가드는 한국어와 국내 문화·법률 환경에 맞춰 유해 콘텐츠와 부적절한 응답, 프롬프트 공격 등을 탐지·차단하는 AI 안전성 모델이다.

양사는 AI 가드레일뿐 아니라 모델 안정성 평가 시스템과 AI 레드티밍 시스템도 단계적으로 제공할 예정이다. 아울러 고객 피드백과 운영 데이터를 기반으로 AI 안전성 도구를 통합 관리하는 운영 플랫폼 구축까지 협력을 확대할 계획이다.

kt cloud는 이를 통해 생성형 AI 개발부터 배포, 운영, 모니터링까지 전 과정에서 체계적인 운영 환경을 제공하고 공공기관과 금융권이 요구하는 보안과 컴플라이언스 기준에도 대응할 수 있을 것으로 기대했다.

김봉균 kt cloud 대표는 "생성형 AI 확산과 함께 책임 있는 AI 활용 기반 마련이 중요한 과제가 되고 있다"며 "카카오와 협력을 통해 공공과 민간 고객이 신뢰할 수 있는 환경에서 AI 서비스를 개발·운영할 수 있도록 지원하겠다"고 말했다.

/서효빈 기자(x40805@inews24.com)

포토뉴스