서울시·방심위, 딥페이크 24시간 내 삭제 대응팀 구축

서울시와 방송통신심의위원회가 신속하게 딥페이크 음란물 영상을 삭제하는 작업을 수행한다. 오세훈 서울시장과 류희림 방심위원장은 28일 오후 시청에서 이 같은 내용을 담은 딥페이크 음란물 영상 삭제지원 업무협약을 맺었다.폐쇄형 SNS에서 돌던 딥페이크 영상물이 음란사이트나 그 외 SNS에까지 퍼져 피해 신고가 들어올 경우, 24시간 이내에 영상이 삭제·차단될 수 있게 조치한다는 내용이다.지금까지는 서울시 디지털성범죄 안심지원센터에서 방심위에 각종 증빙 자료와 함께 영상 삭제 요청을 해야 했지만, 핫라인 가동으로 대량의 건수를 한 번에 삭제 요청할 수 있게 됐다.서울시와 방심위의 핫라인은 이날부터 가동된다.서울시는 이와 함께 오픈채팅방에 딥페이크 SOS 전담 상담창구를 개설하고 피해지원관 2명을 배치해 신고 방법과 범죄 채증 방법을 안내한다.수사·법률지원 등 피해자에게 필요한 지원을 위해 서울디지털성범죄 안심지원센터로도 연결한다.시는 또 올해 말까지 피해 상황을 24시간 모니터링하면서 자동으로 문제의 영상을 삭제 신고하는 시스템을 구축하기로 했다.시는 AI 기술을 활용해 피해 영상물을 모니터링하고 있는데, 지금은 AI가 모니터링한 내용을 상담원이 삭제 신고하는 방식이다.앞으로는 서울연구원과 협력해 AI가 영상 검색부터 신고까지 모든 과정을 자동으로 수행하게끔 할 계획이다.특히 내년에는 AI를 기반으로 한 딥페이크 검출 기술인 '서울 안심 아이(Seoul Safe Eye)'를 개발해 딥페이크와 원본 사진·영상물을 구분해 검출해 나갈 계획이다. 이를 통해 현재는 제작된 기존 영상물이 있어야 유사성을 판별해 유포된 영상물을 찾을 수 있는

2024-08-28 18:17:50

방심위 "유명인 초상 도용 광고 강력 대응"

방송통신심의위원회(이하 방심위)는 유명인의 초상을 도용한 광고 건에 대해 강력하게 대응하기로 했다.방심위는 초상권 도용 정보의 경우 초상의 당사자나 대리인이 직접 신고하는 게 중요하다면서 피해 사실을 인지하면 즉시 위원회로 신고해달라고 당부했다.불법·영리적 목적의 초상 사용 등 초상권 침해로 피해를 본 당사자라면, 방심위 홈페이지 내 '권리침해정보 심의 신청'이나 인터넷피해구제센터 홈페이지의 '권리침해정보 심의' 메뉴를 통해 신고할 수 있다.방심위는 올 1분기 개인의 초상과 함께 투자 상담 유도 문구를 게시한 내용 등 당사자가 직접 신고한 유명인 초상권 침해 정보에 대해 100% 시정 요구했다.고수익을 보장하며 투자 자문을 유도하는 등 무등록·무신고 업체들의 불법 금융정보에 대해서도 전향적으로 심의하기로 했다. 한편 경찰청 집계에 따르면 유명인 사칭을 포함한 투자리딩방 불법행위 피해 건수는 지난해 9월부터 넉 달간 1000건이 넘었으며 피해액은 1200억원을 넘어섰다.김경림 키즈맘 기자 limkim@kizmom.com 

2024-04-09 16:42:28

유명인 사칭해 자동매매 프로그램으로 투자 사기 적발

금융감독원(이하 금감원)이 불법 금융투자 혐의를 받는 사이트와 게시글 약 1000건을 적발해 방송통신심의위원회에 차단을 의뢰했다.금감원이 수사를 의뢰한 불법 금융투자업자 유형을 분석한 결과, 가짜 투자앱 등을 통한 투자 중개 유형이 26건(46.4%)으로 가장 많았고, 비상장 주식을 고가에 넘기는 투자매매 유형(21건·37.5%), 미등록·미신고 투자자문 유형(8건·14.3%)이 뒤를 이었다.투자 대상으로는 선물거래(22건·39%)나 비상장주식(20건·35%) 등 고위험 투자상품을 미끼로 한 투자사기가 많았다.특히 고위 공무원, 교수, 유명 방송인 등을 사칭해 글로벌 운용사가 자체 개발한 AI 프로그램이나 생성형 AI를 이용한 자동매매 프로그램을 통해 고수익을 거둘 수 있다며 가짜 투자 앱 사용을 유도하는 사례다.방대한 양의 매매기록을 학습해 초보자도 고수익을 낼 수 있다며 홍보한 다음 첫 입금을 하면 큰 수익이 난 것처럼 앱 화면을 꾸미고, 그 다음에는 투자금을 편취해 잠적하는 수법이다.이외에도 증권사를 사칭하며 비밀 프로젝트를 진행 중이라고 꾀어내 자금을 모집하거나, 공모주를 싸게 많이 배정받을 수 있다며 투자자금을 빼돌리는 사례도 적지 않다.금감원은 "제도권 금융사 사칭 범죄가 성행하고 있으니 타인 명의 계좌는 절대 이용하지 말고, 금융사 임직원 여부를 반드시 확인해야 한다"며 "상장을 미끼로 한 비상장주식 투자는 반드시 사실 여부를 확인한 후 신중히 결정하라"고 당부했다.김경림 키즈맘 기자 limkim@kizmom.com 

2024-02-19 11:20:41

SNS로 대포통장 거래 4배 급증

해외 SNS에서 대포폰 또는 대포통장을 거래하거나 광고하는 불법명의 거래 정보가 지난해보다 4배 가량 증가했다. 방송통신심의위원회(이하 방심위)는 올해 11월까지 해외 SNS 불법명의거래 정보 총 2205건을 접속차단했는데 이는 지난해 590건과 비교해 약 4배 증가한 수치다.위반 내용별로 살펴보면 대포통장이 1576건(72%), 대포폰이 629건(28%)로 나타났다. 주요 유통 경로는 페이스북, 트위터, 텀블러, 인스타그램 등 해외 SNS이었다.대포폰과 대포통장 등을 거래하는 행위는 현행법상 범죄행위로 처벌 대상이다. 특히 불법명의거래는 보이스피싱 사기, 불법사금융 등 경제범죄 수단으로 자주 악용된다. 방심위 관계자는 "국민들의 일상생활에 큰 악영향을 미치는 불법명의거래 정보 관련 상시적인 모니터링을 실시해 신속히 차단하고, 국내에 영향력을 크게 미치는 해외사업자와 민생 피해 콘텐츠 확산 방지를 목표로 지속적으로 협력할 예정"이라면서 "인터넷 이용자들도 특별히 경각심을 갖고 적극 신고해달라"고 말했다.김경림 키즈맘 기자 limkim@kizmom.com 

2023-12-12 16:29:07