서울시·방심위, 딥페이크 24시간 내 삭제 대응팀 구축

서울시와 방송통신심의위원회가 신속하게 딥페이크 음란물 영상을 삭제하는 작업을 수행한다. 오세훈 서울시장과 류희림 방심위원장은 28일 오후 시청에서 이 같은 내용을 담은 딥페이크 음란물 영상 삭제지원 업무협약을 맺었다.폐쇄형 SNS에서 돌던 딥페이크 영상물이 음란사이트나 그 외 SNS에까지 퍼져 피해 신고가 들어올 경우, 24시간 이내에 영상이 삭제·차단될 수 있게 조치한다는 내용이다.지금까지는 서울시 디지털성범죄 안심지원센터에서 방심위에 각종 증빙 자료와 함께 영상 삭제 요청을 해야 했지만, 핫라인 가동으로 대량의 건수를 한 번에 삭제 요청할 수 있게 됐다.서울시와 방심위의 핫라인은 이날부터 가동된다.서울시는 이와 함께 오픈채팅방에 딥페이크 SOS 전담 상담창구를 개설하고 피해지원관 2명을 배치해 신고 방법과 범죄 채증 방법을 안내한다.수사·법률지원 등 피해자에게 필요한 지원을 위해 서울디지털성범죄 안심지원센터로도 연결한다.시는 또 올해 말까지 피해 상황을 24시간 모니터링하면서 자동으로 문제의 영상을 삭제 신고하는 시스템을 구축하기로 했다.시는 AI 기술을 활용해 피해 영상물을 모니터링하고 있는데, 지금은 AI가 모니터링한 내용을 상담원이 삭제 신고하는 방식이다.앞으로는 서울연구원과 협력해 AI가 영상 검색부터 신고까지 모든 과정을 자동으로 수행하게끔 할 계획이다.특히 내년에는 AI를 기반으로 한 딥페이크 검출 기술인 '서울 안심 아이(Seoul Safe Eye)'를 개발해 딥페이크와 원본 사진·영상물을 구분해 검출해 나갈 계획이다. 이를 통해 현재는 제작된 기존 영상물이 있어야 유사성을 판별해 유포된 영상물을 찾을 수 있는

2024-08-28 18:17:50