딥페이크의 늪으로 텔레그램서 피해 가중

딥페이크의 늪으로 텔레그램서 피해 가중

 

1. 텔레그램에서 무슨 일이?

1) 딥페이크, 본격적인 문제가 되다

딥페이크를 악용해 허위 영상물을 생성·유포하는 텔레그램 단체 대화방이 연이어 발견됐습니다. 참여 인원만 전 세계 22만 명에 달하는 음란물 제작 채널까지 존재할 정도로 최근 관련 문제가 불안을 키우는데요.

 

딥페이크란 인공지능의 딥러닝(Deep Learning)과 가짜(Fake)를 합친 단어로, 인공지능을 이용해 사람의 이미지나 영상, 음성 등을 합성하는 기술입니다. 인공지능의 발전과 함께 딥페이크로 인한 가짜뉴스, 성범죄 등이 사회 문제로 떠올랐습니다.

 

2) 겹지방이 뭔데?

이번 사건의 주축이 된 채널은 ‘겹지인방’(겹지방)이었습니다. 이용자가 서로 같이 아는 여성의 사진과 정보를 공유하고, 딥페이크로 음란물을 제작·유포한 것이죠. 지역별, 학교별로 세분화된 텔레그램 대화방이 다수 존재한다고 알려졌습니다.

 

3) 미성년자 피해도 넘쳐

피해자는 대학생뿐만 아니라 중·고등학생과 여군까지 다양했습니다. SNS상에는 전국 477곳의 피해 학교 명단이 떠도는데요. 앞서 서울대, 인하대에서 확인된 텔레그램 성착취 범죄가 전국적인 문제였다는 사실이 드러난 것입니다.

 

반응형

2. 텔레그램에 숨은 딥페이크 성범죄

1) 비밀 대화의 광장, 텔레그램

문제는 범죄가 텔레그램을 통해 이뤄져 가해자 특정이 어렵다는 점입니다. 텔레그램은 강력한 보안을 자랑하는 메신저인데요. 정보 보안을 이유로 수사기관에도 자료를 제공하지 않습니다. 영상물이나 대화 등 활동 내역을 손쉽게 삭제할 수 있어 증거 인멸 가능성도 큽니다.

 

2) 왜 텔레그램이었을까?

접근과 이용이 간편하다는 텔레그램의 특징도 범죄 행위에 텔레그램이 사용된 배경입니다. SNS에 특정 단어를 검색하면 나오는 연결 주소로 텔레그램 채널에 쉽게 접속할 수 있고, 음란물의 결제 또한 익명으로 이뤄져 추적을 피하기도 했죠.

 

3) 수갑 찬 텔레그램 CEO

한편, 지난 24일(현지 시각), 파벨 두로프 텔레그램 CEO가 프랑스 파리에서 체포됐습니다. 파벨 CEO는 텔레그램이 범죄에 악용되는 것을 막지 않았다는 혐의를 받습니다. 텔레그램은 국내뿐 아니라 해외에서도 마약, 사기, 성범죄 등에 활용돼 악명이 높았습니다.

 

728x90

3. 딥페이크 성범죄, 정부가 나설 차례

1) 정치권 반응은?

딥페이크 범죄가 판을 치자 윤석열 대통령은 딥페이크 범죄에 대한 철저한 수사를 지시했습니다. 이재명 더불어민주당 대표도 가해자에게 강력한 처벌 규정을 강구하는 등 딥페이크 범죄를 막기 위한 대책 마련을 촉구했는데요.

 

2) 대책이 필요해

방송통신심의위원회(방심위)는 오늘(28일) 전체 회의를 열고, 대책 마련에 나섰습니다. 불법 합성 성범죄물 피해 신고 접수와 모니터링을 강화하고 악성 유포자를 경찰에 수사 의뢰할 방침이죠. 텔레그램 측과 즉각적으로 협의할 수 있는 핫라인 개설을 추진해, 영상 삭제 등 시정도 요구할 계획입니다.

 

3) 드디어 특별 집중 단속

경찰도 오늘부터 7개월간 딥페이크 성범죄 특별 집중 단속에 나섭니다. 딥페이크 탐지 소프트웨어를 활용해 딥페이크를 분석하고 국제 공조를 진행해, 딥페이크 성범죄를 철저히 추적할 계획인데요. 또한 학생들의 피해가 상당한 만큼, 교육 당국도 가해·피해 학생 현황을 전수조사하고, 캠페인을 실시하는 등 강력한 대응에 나섰습니다. 여성가족부도 피해자 지원 서비스를 알리며 지원에 힘을 쏟죠.

---

 

정치에 참여하고 있는 AI 후보들 (feat. 인간 정치인 대체 가능성)

 

불붙은 이미지 생성형 AI 전쟁 (feat. 춘추전국시대)

 

 

애플AI에 대한 구글의 대응, 시리 vs 제미나이 (feat. 스마트폰 픽셀 9)