안산시가 인공지능을 접목한 CCTV를 설치하는 ‘안심어린이집 시스템’을 추진한다고 밝혀 논란이다. 인공지능 CCTV로 아동의 부정적 감정 표현 등을 포착해 아동학대를 예방하겠다는 것인데, ‘감정인식’ 기술 자체가 과학적인 근거가 부족한 기술인데다, 생체정보가 포함되는 CCTV 영상을 모두 민간에 넘기는 것 역시 현행법 위반 소지가 있다는 지적이 나온다.

공공운수노조 보육지부, 진보네트워크센터는 1일 안산시청 앞에서 기자회견을 열고 “AI기술이 접목된 CCTV 설치로 아동안전 보호정책 체계를 만드는 것이라는 안산시의 주장은 기술과 인권보호 어느 측면에도 맞지 않는 주작부언”이라고 주장했다.

안산시는 지난 7월 발표한 ‘안심 보육 어린이집 추진계획’에서 “지속적인 아동학대 사건 발생으로 어린이집에 대한 불신과 불안감이 증대하고 있다”며 “인공지능 기반을 통해 아동학대 정황 조기 발견·예방해 보호자에게 신뢰받는 안심 보육시스템을 강화하고자 한다”고 밝혔다.

인공지능 CCTV를 통해 아동의 행동감지, 안면표정과 감정분석, 안면인식을 통한 원내 학대 의심 행위 감지할 수 있다는 설명도 있다. 특히 시스템 구축을 위해 “CCTV 설치 업체와의 지원 및 협업이 필요”하다며 “인공지능의 행동에 대한 오인 혹은 오식별에 대한 대응으로 수집된 정부가 고도화되기까지 영상 관리자가 육안 판단하는 과정이 필요”고 밝혔다. 아동과 보육교사의 생체정보 등이 포함된 CCTV 영상을 민간업체에 넘겨야 한다는 뜻이다.

이에 따라 안산시는 지난 10월 안심보육시스템 강화를 위해 CCTV에 인공지능을 접목한 ‘안심어린이집 시스템 구축’을 추진한다고 밝히며, 시스템 구축 업체 소이넷, 시범실시기관인 시립센트럴포레어린이집과 업무 협약을 체결했다. 안산시는 데이터 수집 상황에 따라 시범실시기관을 확대할 계획이다.

공공운수노조 보육지부, 진보네트워크센터는 인공지능 CCTV를 통한 안면인식, 감정분석 등의 기술로 아동학대 범죄를 예방할 수 있다는 주장 자체가 허구적이라고 비판하고 있다. 얼굴표정으로 범죄를 예방한다는 안산시의 주장은 “영화에서나 가능한 이야기”라는 것이다.

김민 진보네트워크센터 활동가는 “인공지능 기반 감정인식 기술은 그 정확성에 대한 신뢰도가 절대적으로 떨어지며 나아가 유사과학에 근거하고 있다는 비판을 받는 한계가 확실하고 위험한 기술”이라고 설명했다.

김 활동가는 “얼굴 표정과 감정은 항상 일치하는 게 아니다. 사회적 배경과 맥락 및 장소와 같은 상황에 따라서 감정이 신체로 표현되는 방식도 달라진다. 이는 수많은 심리학자와 인공지능 연구자들이 주장하고 있는 내용”이라고 설명했다.

그는 “미국 심리과학협회는 2년간의 연구를 통해 감정인식 인공지능의 정확도가 30%에 불과했음과 동시에 애초에 얼굴 표정 변화와 감정에 대한 이론 자체가 과학적 타당성이 없다는 평가를 내렸다”면서 “연구자들뿐만 아니라 한때 얼굴인식, 감정인식 기술을 개발하고 판매하던 마이크로소프트는 아예 감정인식 기술 자체에 대한 지원을 중단했다”고 부연했다.

더 큰 문제는 개인정보가 포함된 CCTV 영상을 기술개발을 이유로 민간업체에 제공한다는 점이다. 아동과 보육교사에 대한 기본권 침해이자 현행법 위반 소지가 있다는 비판이 나온다.

영유아보육법은 아동의 안전 확보를 위해 어린이집에 CCTV를 설치해야 하지만 아동과 보육교사의 권리 보호를 위해 설치, 운영, 영상정보 처리와 열람을 매우 엄격하게 규정하고 있다. 그러나 안산시가 추진하는 해당 사업은 업무제휴를 맺은 민간업체에 CCTV 영상정보를 6개월 간 제공하는 것으로 알려졌다.

김 활동가는 “(민간업체에) 제공되는 CCTV영상이 아동의 안전을 위해서 사용되는 게 아니라 업체의 인공지능 기술 고도화라는 사적인 이익을 위해 이용될 우려도 있다. 사적인 이익을 넘어서 아예 유출되거나 오용될 수도 있다”며 “얼마 전 대구시에서는 CCTV영상을 업체에 인공지능 기술 개발용으로 제공했더니 업체가 10만건의 영상정보를 무단으로 반출했다가 적발됐던 사건도 있었다”고 우려했다.

그는 “기술의 한계와 위험성을 무시하며 안심 어린이집이라는 이름으로 감시용 인공지능 시스템을 개발하고 도입하는 사업은 어떠한 아동학대도 막아낼 수 없다”며 “오히려 해당 사업이야말로 아동에 대한 심각한 사생활 침해로, 안산시가 아동학대를 자행하는 것이나 마찬가지”라고 비판했다.