인공지능(AI) 유해사이트 검색시스템, 디지털 성범죄 피해 막는다!

ETRI, 정확도 99.4% 이상, 검출속도 0.01초 이하의 높은 성능의 유해사이트 검색 시스템 적용

▲ 유해사이트 자동수집 시스템을 시연하는 ETRI 연구진(사진출처=ETRI)

국내 연구진이 인공지능(AI) 기술을 활용한 유해사이트 검색 시스템 적용으로 불법 촬영으로 인한 디지털 성범죄 및 2차 피해 확산을 신속하고 효율적으로 억제할 전망이다. 

지난 2019년 AI 기술을 활용해 웹하드 대상 불법 촬영물 삭제 지원 시스템을 개발한 한국전자통신연구원(ETRI)은 이를 한국여성인권진흥원 '디지털 성범죄 피해자 지원센터' 업무에 적용한 데 이어 올해 검색대상을 인터넷 사이트까지 확장하는 데 성공했다고 밝혔다. 

개발의 핵심은 영상물의 유해성을 분석·검출하는 AI 기술이다. AI가 등록된 키워드로 웹페이지들을 검색하고 웹페이지 내 게시물(텍스트, 이미지 등)을 분석해 유해성을 검출한다.


▲ 유해사이트 자동수집 시스템 개발 추진 개요(사진출처=ETRI)

연구진은 지난 6월부터 두 달간 진행된 시험기간 동안, 피해영상물의 검색 키워드, 썸네일 이미지, 주소(URL) 등을 활용, 총 18,945건의 웹사이트를 자동 수집했으며 이 중 유해 사이트로 판별된 2,631개 웹사이트를 걸러내는 데 성공했다.   

콘텐츠 유해성을 판단하는 성능이 99.4% 이상의 정확도와 0.01초 이하의 검출속도를 달성해 상당히 높은 성능 수준이라고 연구진은 밝혔다.


▲ 유해사이트 자동수집 시스템 개념도(사진출처=ETRI)

ETRI 이남경 미디어지능화연구실장은“이번 인공지능 기술은 디지털 성범죄 피해자 지원업무에 유용하게 활용될 것으로 보이며 앞으로도 불법 촬영물의 유포·확산을 최소화할 수 있도록 지원하겠다”고 말했다.

연구진은 이밖에도 불법 촬영물 유통을 막기 위해‘n번방 방지법’ 후속 조치인 내용 기반 영상검출 기술 개발에도 참여하고 있다. 

본 기술은 과학기술정보통신부 『인공지능 기반 유해미디어(음란성) 분석·검출 시스템 개발』 과제로 개발되었다. ㈜판도라티비, (주)엘컴텍, ㈜SK텔레콤, 광운대학교가 공동연구기관으로 참여했다. 

글. 이지은 기자 smile20222@brainworld.com
사진 및 자료출처 = 한국전자통신연구원(ETRI) 

ⓒ 브레인미디어 무단전재 및 재배포 금지

인기 뉴스

설명글
인기기사는 최근 7일간 조회수, 댓글수, 호응이 높은 기사입니다.