[다이어리포인트=김정훈 기자] 과학기술정보통신부와 인공지능안전연구소가 11월 12일 국민 모니터링단 ‘AI 안전 지킴이’ 80명을 위촉했다. 지난 8~9월 공개 모집에 지원한 138명 가운데 선발된 단원들은 2027년 8월까지 AI 오류와 위험 사례를 찾아 제보한다.
참여자는 고등학생부터 60대 이상까지이며 직장인, 가사종사자, 프리랜서, 학생 등이 포함됐다. 이번 활동은 공개 모집을 거쳐 뽑힌 단원이 수행하는 방식이다. 일반 이용자가 참여하려면 별도 모집 공고와 선발 절차를 거쳐야 한다.
점검 대상은 네 분야다. AI가 사실이나 수치를 틀리게 만들어내는 오류, 특정 집단에 대한 편향, 보안 취약점, 답변을 내놓지 않거나 같은 내용을 반복하는 결함을 살핀다.
제보된 내용은 정확성·위험도·재현 가능성·활용 가능성을 기준으로 유효성을 검증한다. 확인된 사례는 AI 안전성 평가와 위험 연구의 기초 자료로 쓰이며, 과기정통부와 연구소는 관련 기업과도 사례를 공유할 계획이다.
상시 체계의 앞선 사례로는 2025년 12월 시작한 ‘정보 오류 없는 찐 AI 챌린지’가 있다. 30여 일 동안 접수된 625건 가운데 464건이 유효한 오류 사례로 확인됐다.
엄열 과기정통부 인공지능정책실장은 발대식에서 “AI가 남녀노소 누구나 사용하는 우리의 일상이 된 만큼 이를 안전하게 사용할 수 있는 환경은 우리 모두가 함께 만들어 가야 한다”고 말했다. 위촉된 지킴이들은 발대식 뒤 오류 사례 발굴 방법과 제보 기준에 관한 교육을 받았다.
0개의 댓글