웹 음란물 실시간으로 적발...AI가 디지털 성범죄 막는다
웹 음란물 실시간으로 적발...AI가 디지털 성범죄 막는다
  • 이재형 기자
  • 승인 2019.06.20 22:38
이 기사를 공유합니다

ETRI, 정확도 98% 유해 미디어 검출 시스템 개발
신체 노출‧선정적 표현 기준으로 유해성 머신러닝 진행
이남경 ETRI 책임연구원이 ‘건강한 미디어 소비환경 제공 기술: IoM(Internet of Media)기반 트러스트 미디어 생성‧제어 프레임워크’를 주제로 발표를 진행하고 있다.(이재형 기자) 2019.6.20/그린포스트코리아 
이남경 ETRI 책임연구원이 ‘건강한 미디어 소비환경 제공 기술: IoM(Internet of Media)기반 트러스트 미디어 생성‧제어 프레임워크’를 주제로 발표를 진행하고 있다.(이재형 기자) 2019.6.20/그린포스트코리아 

[그린포스트코리아 이재형 기자] 한국전자통신연구원(ETRI)이 AI로 인터넷 상의 콘텐츠를 실시간 모니터링하고 유해성을 판별하는 기술을 공개했다. 무수한 불법촬영물을 신속하게 적발해 '트러스트 미디어'를 위한 프레임워크를 구축한다는 구상이다. 

디지털 성범죄에 대응할 첨단 ICT 전략을 모색하는 ‘R&D 기반 디지털 성범죄 피해방지 컨퍼런스’가 20일 이화여자고등학교 100주년 기념관에서 열렸다. 디지털 성범죄에 대응하는 첨단 기술과 법‧제도적 방향성에 대해 논의하는 소통의 장이 열렸다. 

이남경 ETRI 책임연구원은 이날 컨퍼런스에서 ‘건강한 미디어 소비환경 제공 기술: IoM(Internet of Media)기반 트러스트 미디어 생성‧제어 프레임워크’를 주제로 발표를 진행했다.  

ETRI는 AI가 음란물과 일반 영상물을 구분하는 유해미디어 검출 시스템을 개발하고 있다. AI가 실시간으로 유튜브, 웹하드에 올라오는 수많은 영상들의 유해성을 판별하고 문제시 삭제하는 방식이다.   

어떻게 AI가 음란물을 구분할 수 있을까. 미디어 형식에 따라 검출 대상과 기술이 다르다.

정지영상은 사진에 노출된 신체 부위로 판별한다. 성기나 가슴, 허벅지 등 특정 신체부위의 노출 정도를 기준으로 선정성 요소를 판단하는 것이다. 오디오 검출은 신음소리 등 선정적 표현이 기준이다. AI는 머신 러닝을 통해 무수히 많은 음란 정지 영상‧오디오와 정상 정지 영상‧오디오를 접하고 점차 판별 정확도를 높이게 된다.

이 책임연구원은 시스템 정확도에 대해 “시스템 테스트 결과 현재 정지 영상은 98%, 오디오는 거의 100%의 유해성 검출 정확도를 보인다”고 밝혔다. 

ETRI는 앞으로 방송‧스포츠‧뉴스‧광고 등 분야별로 도메인을 구축하고 AI가 인터넷상의 동영상을 모니터링하는 시스템을 구축할 계획이다. 가령 유튜브에서 업로드된 영상을 유해미디어 검출 시스템에 접수하면 AI가 실시간으로 판단 결과를 통보하고 삭제해주는 방식이다.

디지털 성범죄는 불법촬영물이 한번 유포되면 웹상에 순식간에 퍼지는 확산성 때문에 유포자를 처벌하고 원 출처를 삭제해도 근절되지 않는다. 일파만파로 퍼진 영상을 인력으로 일일이 삭제하는 것도 한계가 있었다. 또 워낙 음란물이 많다보니 이를 시청하고 삭제하는 인터넷 검열관이 정신적 스트레스로 정신이상을 호소하기도 했다.   

ETRI의 AI 시스템은 실시간 모니터링을 통해 이런 한계를 상당부분 해소할 수 있을 것으로 기대된다. ETRI는 유해영상 업로드와 동시에 AI가 판별하기 때문에 웹상에 퍼지기 전 조치가 가능한 것이다.    

이남경 책임연구원은 “기존 인터넷 미디어 환경은 여과 없이 콘텐츠를 받기 때문에 유해콘텐츠에 속수무책이었다. 앞으로는 건전한 미디어 소비환경을 제공하는 트러스트 미디어 서비스를 구축해야 한다”면서 “우리 사업은 기술개발의 반을 끝냈고 앞으로 현장적용의 절반 과제가 남았다. 앞으로 웹하드 등에서 불법 촬영물을 잡아낼 수 있도록 노력하겠다”고 말했다.

silentrock91@greenpost.kr