과기정통부-AI안전연구소, '정보 오류 없는 AI' 캠페인

과학기술정보통신부가 인공지능(AI)안전연구소와 '정보 오류 없는 찐 AI 챌린지'를 내년 1월 21일까지 실시한다.

신뢰 가능한 AI 이용 환경을 조성하기 위한 캠페인이다. 국민이 생활·업무 영역에서 생성형 AI를 활용하는 가운데, 교육·의료·법률·경제 등 정확성이 중요한 분야에서 정보 오류가 이용자에 혼란을 초래하고 피해를 줄 수 있다는 점을 고려했다.

캠페인은 상용화된 생성형 AI 모델이 사실과 다른 결과를 제공할 경우, 국민이 해당 정보 오류를 제출하면 AI안전연구소가 분야별 전문가와 전문적으로 검증해 관련 AI 개발사나 AI 서비스 제공업체에 개선을 요청하는 방식으로 운영된다.

국민 누구나 네이버폼 또는 이메일로 의견을 제출할 수 있다. 참여자는 AI가 생성한 정보 오류 내용에 대한 화면을 캡처해 개인 SNS에 'AI팩트체크' 해시태그와 함께 게시하고 해당 링크를 제출하면 된다.

제출된 의견에 대해 적격성 검토·검증 시점 기준 재현 검증·최종 판정 등 유효성 검증을 거쳐 오류 사례 개선 권고안 작성 후 AI 기업 통보 등 절차가 진행된다. 관련 AI기업과 협의해 정보 오류 결과가 알고리즘 개선이나 데이터 정비 등으로 이어지게 조치할 예정이다.

이진수 과기정통부 인공지능정책기획관은 “AI가 일상이 되는 AI 기본사회로 가기 위해서는 국민이 AI를 안심하고 정확하게 사용할 수 있는 환경이 중요하다”며 “이번 캠페인이 국민과 함께 신뢰할 수 있는 AI 환경을 만들기 위한 중요한 첫걸음이 될 것”이라고 말했다.

박종진 기자 truth@etnews.com