TTA, 'AI 보안' 표준화 전담 조직 신설…생성형·에이전틱 AI 대응

2 weeks ago 8

AI 신뢰성 확보·데이터 보호 목적 모델 탈취⋯프롬프트 인젝션 등 대응 표준 추진

[아이뉴스24 서효빈 기자] 한국정보통신기술협회(TTA)는 인공지능(AI) 모델 신뢰성과 데이터 보호 강화를 위한 '인공지능 보안' 표준화 전담 프로젝트그룹(PG507)을 신설했다고 30일 밝혔다.

한국정보통신기술협회(TTA)가 인공지능(AI) 모델 신뢰성 확보와 데이터 보호를 위한 '인공지능 보안' 표준화 전담 프로젝트그룹(PG507)을 신설했다. [사진=TTA]

이번 프로젝트그룹은 인공지능 기술 확산에 따른 보안 위협 증가에 대응하기 위해 마련됐다. 생성형 AI 중심으로 기술이 고도화되면서 자율주행차, 맞춤형 교육, 지능형 로봇 등 다양한 산업과 결합이 확대되고 있다.

프로젝트그룹은 △인공지능 시스템 정보보호 기술 △인공지능 개인정보 보호 기술 △인공지능 보안성 평가 기술 △생성형 AI 보안 기술 △에이전틱 AI 보안 기술 분야를 중심으로 국내외 표준 개발을 추진한다. 모델 탈취, 프롬프트 인젝션, 적대적 공격 등 신종 위협과 각국의 AI 규제 환경도 반영할 계획이다.

손승현 TTA 회장은 "이번 프로젝트그룹이 인공지능 산업 육성과 기술 신뢰성 확보에 기여할 것"이라며 "국내외 표준화 기구와 협력을 통해 우리 기술을 국제표준으로 확산하는 기반이 될 것"이라고 말했다.

/서효빈 기자(x40805@inews24.com)

포토뉴스