조작된 가짜 이미지와 영상 (feat. 딥페이크의 모든 것)

조작된 가짜 이미지와 영상 (feat. 딥페이크의 모든 것)

 

지난달 미국의 팝스타 테일러 스위프트가 등장한 음란 사진이 소셜미디어 X(구 트위터)에 퍼지며 많은 논란을 낳았습니다. 조사 결과 해당 이미지는 딥페이크(Deepfake)로 조작된 사진이었는데요. 테일러 스위프트뿐만 아니라 정치권에서도 딥페이크로 골머리를 앓습니다. 딥페이크로 조작된 영상과 이미지가 무분별하게 확산되며 관련 정치인의 이미지에 영향을 주고 있기 때문이죠.

 

AI의 발전으로 큰 편리함을 누릴 수 있는 요즘, AI가 악용되는 사례도 점점 늘어납니다. 그중에서도 딥페이크 기술은 특히나 악용 사례가 많은데요. 오늘은 딥페이크 기술과 함께 딥페이크가 활용되는 분야, 그리고 딥페이크 악용을 막는 방안까지 정리해 보겠습니다.

 

1. 딥페이크의 원리와 종류

1) 딥페이크란

딥페이크(Deepfake)란 인공지능의 딥러닝(Deep Learning)과 가짜(Fake)를 합친 단어로, 인공지능을 이용해 사람의 이미지나 영상, 음성 등을 합성하는 기술입니다. 원래 사진이나 영상에 다른 사람의 얼굴이나 목소리를 합성해 진짜처럼 보이게 하는 기술을 딥페이크라고 불렀지만, 요즘은 아예 온전히 가상의 인물을 만들어내는 기술까지 포괄합니다. 딥페이크가 여러 분야에 악용되면서 부정적인 뉘앙스를 내포한 단어라고 착각할 수 있지만, 딥페이크라는 용어 자체는 가치중립적입니다.

 

2) 딥페이크의 핵심 기술, GAN

딥페이크로 그럴듯한 사람의 이미지나 영상을 만드는 데에는 딥러닝 중에서도 GAN(Generative Adversarial Net, 생성적 적대 신경망)이라는 알고리즘이 사용됩니다. GAN 알고리즘에는 2개의 모델이 존재하는데요. 하나는 생성자(Generator)라고 불리며 그럴듯한 합성 이미지와 영상을 만들어내는 역할을 맡습니다. 다른 하나는 감별자(Discriminator)라 불리며 생성자가 만들어낸 이미지나 영상이 실제인지 거짓인지 판별합니다. 생성자는 감별자가 제대로 구분해 내지 못할 정도로 그럴듯한 결과물을 내고, 감별자는 어떤 정교한 결과물이든 실제와 가짜를 구분하는 것을 목표로 하는데요. 이 과정을 반복하면서 더욱 그럴듯한 합성 결과물을 만들어내는 것입니다.

 

3) 비디오? 이미지와 오디오까지

딥페이크로 합성할 수 있는 것은 비단 영상만 있는 것이 아닙니다. 이미지와 음성까지도 합성이 가능한데요. 이미지나 영상, 오디오 모두 충분한 데이터만 있으면 원본과 유사한 합성물을 만들어낼 수 있습니다.

 

반응형

2. 딥페이크가 활용(악용)되는 분야

1) 영화&미디어

최근 넷플릭스에서 흥행 중인 스릴러 드라마 <살인자ㅇ난감>에서 손석구 배우의 아역이 많은 관심을 모았습니다. 손석구와 너무나 닮은 모습에 많은 사람들이 놀라워했죠. 이 아역은 딥페이크로 구현해 낸 것으로 밝혀졌는데요. 이렇듯 영화와 드라마 등에서 종종 딥페이크 기술이 활용됩니다. JTBC 드라마 <웰컴투삼달리>에서도 전국노래자랑의 진행자였던 故 송해 선생님이 딥페이크 기술로 등장하기도 했죠. 업계는 과거 CG(컴퓨터 그래픽)로 처리해야 했던 장면들이 딥페이크 기술 덕분에 훨씬 저렴하게 가능해졌다며 딥페이크 기술을 반기는 모습입니다.

 

2) 문화 및 역사

2021년 3.1절에는 안중근 의사, 유관순 열사, 윤봉길 의사의 사진을 활용해 딥페이크 영상이 제작됐습니다. 또한 엠넷은 AI음악프로젝트 ‘다시 한번’을 통해 대중들이 그리워하는 아티스트의 목소리를 딥페이크 기술로 복원했는데요. 이렇듯 입페이크를 활용하면 지금은 만나보기 힘든 과거의 인물을 영상과 목소리로 만나볼 수 있습니다. 이는 문화적으로, 교육적으로도 활용될 여지가 많죠.

 

3) 의료 및 복지

의료 분야에서도 딥페이크 기술이 적극적으로 활용되는 추세입니다. 질환으로 말을 하기 어려운 경우, 딥페이크를 이용해 환자의 목소리를 합성해 환자의 말을 대신 발음해 주는 기술이 개발됐습니다. 딥페이크에 활용되는 GAN 알고리즘을 이용해 CT, MRI, X선 이미지를 분석해 암의 징후를 정확도 높게 탐지하는 모델이 개발되기도 했는데요.

 

4) 딥페이크 성범죄

반대로 딥페이크가 악용되는 분야도 많습니다. 전체 딥페이크 합성의 95% 이상이 딥페이크 포르노라는 충격적인 통계가 대표적이죠. 딥페이크 기술이 세상에 모습을 드러낸 것도 2017년 유명 연예인을 포르노에 합성한 영상 때문이라는 걸 기억해야 합니다. 지금도 여전히 유명 연예인뿐만 아니라 일반인까지도 딥페이크 포르노의 피해에 노출돼 있죠.

 

5) 가짜 뉴스

딥페이크를 활용한 가짜 뉴스도 큰 문제입니다. 딥페이크로 조작된 정치인의 사진이나 영상 등은 SNS를 통해 삽시간에 퍼질 수 있는데요. 딥페이크 기술이 고도화될수록 진짜 뉴스와 가짜 뉴스를 판별하기 어려워집니다. 특히나 선거를 앞두고 유명 정치인을 대상으로 한 딥페이크 가짜 뉴스는 세상에 많은 혼란을 가져오고 있습니다.

 

6) 생체 인증 파훼

딥페이크는 생체 인증을 파훼하는 수단으로 활용될 수도 있습니다. 딥페이크 기술이 고도화되면서 안면인식을 넘어 홍채 등 생체 인증에 사용되는 신체 부위를 그대로 합성할 수 있게 됐는데요. 보안 업체 입장에선 딥페이크 기술을 활용한 생체 인증 파훼에서 안전하기 위한 방법을 마련해야 되는 시대가 왔습니다.

 

3. 딥페이크의 악용을 막는 방안은

1) 워터마크를 넣자

딥페이크 악용으로 인한 피해가 늘어나면서 이를 방지하기 위한 기술도 개발됩니다. 구글의 딥마인드는 이미지 내에 픽셀 단위로 워터마크를 새겨 넣는 신스아이디(SynthID)를 개발했습니다. 신스아이디는 이미지 내에 눈에 보이게 삽입되는 일반적인 워터마크와 달리 픽셀 내부에 아주 미세하게 디지털 워터마크가 삽입되기 때문에 육안으로는 워터마크가 보이지 않는다는 특징이 있습니다. 그렇기에 이미지를 편집하더라도 워터마크가 손상되지 않죠. 신스아이디를 활용하면 딥페이크로 만들어진 이미지를 판별해 낼 수 있습니다.

 

2) AI의 미세 오차 분석

딥페이크로 합성 이미지나 영상을 만들 때 발생하는 미세한 오차를 찾아내 합성된 이미지인지 판별하는 기술도 속속 등장합니다. 2021년 카이스트 연구팀은 딥페이크 탐지 소프트웨어 카이캐치(KaiCatch)를 출시했는데요. 얼굴 영역의 미세 변형이나 얼굴 윤곽의 기하학적 왜곡을 탐지해 딥페이크 합성 여부를 판별합니다. 한편 미국 국방고등연구계획국(DARPA)도 딥페이크를 활용할 때 발생하는 미세한 오차를 탐지하는 알고리즘 세마포(SemaFor)를 보유했습니다.

 

3) 인체 정보 활용하기

인체의 고유한 정보를 활용해 딥페이크를 감지해 내는 기술도 있습니다. 인텔이 개발한 페이크캐처는 얼굴의 혈류 변화를 추적해 예상 얼굴색과 영상 속 얼굴색을 비교함으로써 딥페이크 합성 여부를 판별합니다. 인텔은 영상을 픽셀 단위로 분석해 분석 정확도를 96%까지 끌어올렸다고 밝혔습니다.

 

4) 플랫폼의 자정 노력

구글과 메타 등 빅테크 기업 20곳은 지난 2월 16일 뮌헨안보회의에서 딥페이크 영상에 대한 자발적인 규제에 나서겠다고 합의했습니다. 특히 올해 많은 선거가 치러지는 만큼 유권자에게 영향을 줄 수 있는 딥페이크 이미지와 영상을 감지해 미리 라벨을 붙이겠다고 밝혔는데요. 빅테크 기업들이 자발적으로 나서 딥페이크에 대한 대응 방안을 합의했다는 점은 높이 살 만하지만, 현실성이 떨어진다는 비판이 나옵니다. 모든 딥페이크 영상에 대응하기엔 인력과 비용이 지나치게 많이 필요하기 때문이죠. 또한, 딥페이크에 의한 가짜 정보를 완벽히 통제할 수 있는 기술도 아직은 없다는 점이 한계로 지적됩니다.

 

5) AI 법안에 의한 규제

각국 정부도 규제 마련에 속도를 냅니다. 현재 미국 33개 주에서 딥페이크 방지 관련 법안이 발의된 상태입니다. 법안에는 딥페이크를 활용한 콘텐츠는 반드시 표기를 추가하거나, 딥페이크 콘텐츠를 자체적으로 게시하는 행위를 금지하는 내용 등이 담겼죠. 유럽연합(EU)은 더욱더 광범위한 AI 법을 준비합니다. 딥페이크로 만들어진 콘텐츠에는 딥페이크가 사용됐다고 반드시 표시해야 하고, 얼굴인식 기술  등 생체 정보 활용을 제한하는 식이죠. 세계 최고의 AI 규제 법안으로 불리는 EU의 AI 법은 현재 EU 회원국의 만장일치 찬성을 받은 상태입니다. 그러나 오는 4월 전체 투표를 통과해야 하며, 통과하더라도 효력을 발휘하려면 1~2년은 걸릴 것이라는 전망입니다.

 

728x90

현재 우리나라는 선거 90일 전 딥페이크 콘텐츠를 유통하는 등의 선거운동을 금지하는 공직선거법 개정안이 통과된 상태인데요. 선거와 관련된 딥페이크에 대한 법안 외에는 딥페이크가 악용되는 것을 효과적으로 막을 제도적인 방법도, 기술적인 방법도 부족한 것이 현실입니다. 딥페이크가 우리 사회에 끼치는 악영향이 점점 커지는 요즘, 딥페이크에 대한 대응을 폭넓게 고민해봐야 하는 시점입니다.

---

 

정치에 참여하고 있는 AI 후보들 (feat. 인간 정치인 대체 가능성)

 

불붙은 이미지 생성형 AI 전쟁 (feat. 춘추전국시대)

 

메타 Llama 3.1이 가진 진짜 의미 (feat. AI 회사를 만들기 최적의 시기)