텔레그램 딥페이크 성착취물 제작 및 유포 사건 개요 및 대처 방안

텔레그램 딥페이크 성착취물 제작 및 유포 사건 개요 및 대처 방안

윤석열 대통령 딥페이크 셈플 이미지

 

위드원 티스토리 주소 : https://pwj55000.tistory.com

위드원(WITH ONE)

Ⅰ. 딥페이크의 의미, 뜻, 정체

딥페이크 영어명 Deepfake는 Deep learning과 fake(가짜)의 혼성어로 인공 지능 AI를 기반으로 한 인간 이미지 합성 기술입니다. 생성적 적대 신경망(GAN)이라는 기계 학습 기술을 적용하여, 기존의 사진이나 영상에다 다른 사람의 사진이나 영상을 겹쳐서 이미지를 변환하여 만들어내는 기술입니다. 딥페이크의 좋은 사용 예는 영화나 방송계 등에서 이미 사망하였거나 나이가 든 배우를 어린 나이로 스크린에 되살리는 등에 사용이 가능합니다. 그러나 이미 만들어진 다른 사람들이 하는 포르노 등의 동영상에 전혀 다른 인물의 얼굴을 합성하여 유포하면 당연히 피해자가 발생할 수 있습니다. 과학기술의 발전보다도 인간의 인격 발달보다도 돈에 대한 황금만능주의가 피해자를 양산해내고 있는, 실정입니다.

Ⅱ. 딥페이크에 의한 피해 발생 사건

1. 딥페이크 사건의 개요

2024년 08월 19일, 문화방송 MBC 뉴스데스크가 단독으로 보도하면서 대한민국의 사회적 이슈가 시작되었습니다. 관련 내용을 보면? 인하대 졸업생 유00 씨가 텔레그램 방에서 자신의 얼굴이 개인정보와 함께 딥페이크로 합성된 동영상 음란물이 유포되고 있다는 인스타그램 DM을 받았고, 동영상 음란물 중 딥페이크 사진 등도 있었고 음성 파일도 같이 있었습니다.

2. 구체적인 피해 상황

상기의 텔레그램 방안에 있는 음란물을 이모티콘화 시켜서 조리돌림을 하였고, 유00 씨가 이 채팅방의 존재를 알아내자 방 참가자들끼리 직접, 유00 씨의 인스타그램 등으로 희롱하는, 조롱하는 DM을 보냈고, 연락을 받지 않자 가해자들은 DM을 통해서 [유00 씨, 너 때문에 지인들까지 피해 보는 거야! 흉기로 지인을 해칠 것]이라는 보복 협박까지 하는 둥 피해자를 우롱하고 조롱하였다는 것입니다.

3. 문화방송 MBC의 관련 보도 내용

문화방송 MBC는 해당 보도에서 해당 텔레그램 방이 마치 인하대생 천 수백 명이 모여있는 인하대 내부 텔레그램 방인 것처럼 보도하였지만, 실제로는 전국의 불특정 다수 천 수백 명이 모여있는 방이었고, 그 안에는 피해자들이 전국 70여 개 소속 대학별로 분류되었고 그 피해자 중에 인하대생도 있는 것입니다.

Ⅲ. 전국적인 딥페이크 피해 상황의 발전 전망

1. 중⋅고등학교 남⋅여학생들의 피해 및 예방

상기의 사건이 전개되며 전국적으로 다양한 중, 고등학교의 학생들을 대상으로 한 텔레그램 방들이 계속해서 발견되고 있습니다. 남⋅여고등학교의 학생들 역시 피해 대상이 되고 있습니다. 그러니 만약을 대비하여 SNS에 얼굴 사진을 올리는 것을, 신중하게 생각하고 올리는 것이 좋을 것 같습니다.

AI에 의한 딥페이크 셈플 이미지

 

위드원 티스토리 주소 : https://pwj55000.tistory.com

위드원(WITH ONE)

 

남⋅여고등학교의 학생들과 교사도 피해 대상에 포함된 것이 확인되고 있고 성별을 가리지 않고 피해 사례가 계속 증가하고 있는 등 문제가 상당히 커질 것으로 전망이 됩니다.

 

2. 중⋅고등학교 남⋅여학생들에 대한 각 교육청의 피해 예방 조치 대책

SNS에 얼굴이 담긴 사진을 올리는 것에 대한 경각심이 가중되면서, 현재 많은 중학교~고등학교~대학교 재학생들이 자신의 SNS 계정을 비공개로 돌리고 있는 상황입니다. 각 지역의 교육청과 학교에서도 가정통신문과 공문을 사용하여 이에 대해 주의를 시키고 있습니다.

 

Ⅳ. 상기의 사건과 관련한 또 다른 소식

최근 인하대를 졸업한 유00 여학생의 얼굴에 음란물을 합성한 딥페이크 영상물이 유포된 사건이 드러났고, 이와 유사한 종류의 텔레그램 대화방이 잇따라 발견되면서 파문이 날로 확산하는 추세입니다.

 

여러 피해자 중에는 대학생뿐만 아니고, 중⋅고등학생 등 미성년자는 물론 교사, 여군 등도 포함된 것으로 알려졌습니다. 그리고 SNS 등에 피해학교 명단으로 떠돌고 있는 곳만 100곳은 족히 넘고 있으므로 혹여라도 내 사진 혹은 내 자녀 사진도 이용된 것은 아닌지 하는 공포심 또한 커지는 분위기입니다.

 

Ⅴ. 대화방 피해학교 명단 공개로 불안한 사람들 눈 비공개로 전환 중

이와 같은 전방위의 피해가 계속 이어지고 어디까지 이 사건이 발전할지 모르는 상황에서 상기와 같은 피해를 사전에 방지하기 위하여 각 개인의 SNS 계정을 일단은 비공개로 전환하고 나중에 이 사건이, 종결된 다음에 다시 공개로 전환을 하는 것이, 현명한 처사라고 다들 생각하고 그렇게 진행하고 있습니다.

Ⅵ. 딥페이크에 대한 경찰의 수사 착수

1. 피해자들이 직접 경찰에 신고 후 수사 착수

본인의 얼굴 사진이 도용된 딥페이크 음란물을 확인한 피해자들이 직접 경찰에 신고하면서 수사도 시작되고 있습니다. 서울경찰청은 2024년 08월 26일, 기자간담회에서 지난 07월 말까지 초⋅중⋅고교 텔레그램 성 착취물 신고를 10건 접수하고, 이와 관련하여 14세 이상 청소년 10명을 입건했다고 밝혔습니다.

2. 서울경찰청장의 우려 섞인 발표

김봉식 서울경찰청장은 학생은 물론이고 교사에 대한 것도 만들어 퍼지고 있고, IT 기기에 익숙한 청소년 중심으로 확산해서 굉장히 우려스럽다고 말하면서 심각한 범죄행위로서 처벌받을 수 있고, 이러한 범죄 전력은 향후 사회생활에 큰 장애가 될 수 있다고 말했습니다.

3. 전남⋅충북경찰청 사이버수사대의 조사 진행

전남경찰청 사이버범죄수사대는 인스타그램 등 SNS에 공개된 여성의 사진을 합성해서 딥페이크 음란물을 제작⋅유포한 피의자 2명을 각각 추적하고 있고, 충북 충주경찰서도 또래 여학생 얼굴에 음란물을 합성한 사진을 만들고 공유한 혐의로 고교생 A(18)군을 불구속 입건해 조사하고 있다고 밝혔습니다.

Ⅶ. 텔레그램의 특성으로 인한 문제점

텔레그램이 외국에 서버를 둔 특성으로 인하여 수사에 한계가 있다는 점은 대단히 큰 문제로 지적이 되고 있습니다.

딥페이크 관련 이미지

 

위드원 티스토리 주소 : https://pwj55000.tistory.com

위드원(WITH ONE)

 

인하대 재학생이 피해를 본 딥페이크 사건을 수사하는 인천경찰청 사이버범죄수사대는 텔레그램 대화방 참가자 신원을 특정해 수사 중이지만 운영자 신원 특정에는 어려움을 겪고 있는 것으로 알려졌습니다. 텔레그램의 경우 수사기관이 신고나 제보를 받고 수사에 착수해도 손쉽게 채널에 업로드된 영상물과 활동 내용도 삭제할 수 있는 점도 수사의 장애 요인입니다.

 

서울에서 사이버 범죄를 수사하는 한 경찰 수사관은 이렇게 어려움을 토로합니다. 단서를 수집한다고 하면 크게 피해자, 피의자, 플랫폼을 통해서 확보할 수 있는데, 플랫폼(텔레그램)으로부터 확보하는 게 사실상 불가능해진 상황이라고 말합니다. 이어서 플랫폼의 협조가 없으니 피의자를 특정하기가 어렵고 피해자가 알 수 있는 부분도 한정적일 수밖에 없는 것이라고 설명합니다.

Ⅷ. 텔레그램 창업자의 구속 및 대처 방안

1. 텔레그램 창업자의 구속

텔레그램 창업자이자 최고경영자(CEO)인 파벨 두로프가 2024년 08월 24일(프랑스 현재시간) 프랑스에서 전격 체포된 것도 이런 배경 속에서 주목되고 있습니다. 두로프는 텔레그램이 범죄에 악용되는 것을 막기 위한 조치를 하지 않은 혐의를 받는 것으로 전해졌습니다.

2. 근본적인 문제 해결 방안 및 대처 입장

근본적인 문제 해결을 위해 수사기관의 엄벌과 함께 여성의 성적 대상화를 막을 수 있는 근본적인 인식변화가 필요하다는 의견도 나왔습니다.

 

김여진 한국사이버성폭력대응센터 대표는 여성들을 성적 대상화 하는, 문제가 계속 되풀이되고, 과학기술 발전이 이러한 수준까지 전개된 것이라고 말합니다.

트럼프의 딥페이크 이미지

 

위드원 티스토리 주소 : https://pwj55000.tistory.com

위드원(WITH ONE)

 

이른바 N번방 사건을 처음 공론화한 추적단 불꽃 출신인 더불어민주당 박지현 전 비상대책위원장은 이날 자신의 SNS에 국가적 재난 상황임을 선포하고 시급히 대안을 마련하라며 텔레그램이 N번방 사건 때처럼 가해자들의 신상 협조에 수사를 거부한다면 최소한 일시적으로 텔레그램을 국내에서 차단하는 조치라도 해야 한다고 말합니다.