선거철 '딥페이크' 주의...네카오·구글·메타 뭉친다

우리나라를 비롯한 전 세계에서 올해 중요한 선거들이 예정된 가운데, 한국인터넷 기업협회는 네이버와 카카오, SK커뮤니케이션즈, 구글코리아, 메타코리아 등 국내에 있는 주요 IT 기업들이 자율협의체를 구성한다.이는 제22대 국회의원 총선거 및 재·보궐 선거의 공정성·신뢰성을 확보하기 위한 협의체로, 악의적인 딥페이크 게시물에 대한 대응 방안을 마련할 예정이다.협회는 "2024년은 우리나라를 비롯해 세계적으로 여러 선거가 있는 중요한 해"라며 "국내에서도 세계적인 움직임에 발맞춰 기업들이 자발적으로 자율 협의체를 구성해 논의를 시작했다"고 밝혔다.이에 더해 지난 16일 뮌헨안보회의(MSC)에서 발표된 기술 협정과 같은 협약문 발표에 합의했다고 설명했다.협회는 또 "참여 기업들은 정보의 중요성이 높아지는 가운데, 공동 대응을 통해 선거 과정에서 진실한 정보를 전달한다는 공동의 목표를 진전시키기 위해 세부 사항에 대한 논의를 진행하고 있다"고 전했다.협약은 선거에 영향을 주기 위해 악의적으로 만들어진 딥페이크 콘텐츠를 대상으로 한다. 협의체는 악의적으로 제작·편집된 선거 딥페이크 위험을 줄이기 위한 노력, 악의적 선거 딥페이크 유포 방지를 위한 기업 간 논의 등 대응 방안을 구축해 이른 시일 내 발표할 계획이다.김주미 키즈맘 기자 mikim@kizmom.com

2024-02-26 17:59:04

美, AI기술로 '옷 벗기기' 이용자 급증

미국에서 인공지능으로 사진 속 여성의 옷을 벗기는 딥페이크 기술 이용자가 미국에서 급증하고 있다. 지난 10일 블룸버그통신은 서비스형 소프트웨어기업 그래피카를 인용해 지난 9월 한 달 동안에만 2400만명이 AI를 활용해 사진 속 인물의 옷을 벗기는 딥페이크 웹사이트를 방문했다고 전했다. 딥페이크는 AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상 등을 의미한다. 그래피카에 따르면 올해 초 대비 9월에 엑스와 레딧 등 SNS에서 AI 옷 벗기기 앱을 광고하는 링크 수도 2400% 증가했다. 딥페이크 앱과 웹사이트는 AI를 사용해 사진 속 사람이 옷을 벗고 있는 것처럼 이미지를 만들어준다. 사진 속 인물은 대부분 여성을 활용한다. 또 상당수 앱은 여성의 이미지만을 변환할 수 있도록 만들어졌다고도 전해진다. 딥페이크 앱과 웹사이트가 인기를 끌수록 범죄에 악용될 수 있다는 우려가 커지고 있다. 대부분 당사자 동의나 인지 없이 나체 사진 같은 음란물을 만들어 배포하고 있기 때문이다. 실제로 엑스에 올라온 한 광고는 사용자가 AI로 다른 사람의 나체 이미지를 만들어서 다시 그 사람에게 보낼 수 있다며 성희롱을 조장하고 있었다. 개인정보 보호 전문가들은 딥페이크 소프트웨어가 AI 기술의 발전으로 이용하기 더 쉽고 효과적으로 만들어지고 있다고 우려했다. 구글은 이 같은 문제에 대해 "노골적인 성적 콘텐츠는 허용하지 않고 있다"며 "문제가 된 광고를 검토했으며 우리 정책을 위반한 광고는 삭제 중"이라고 전했다. 김경림 키즈맘 기자 limkim@kizmom.com

2023-12-11 14:45:58