AI의 불법 진화, 딥페이크의 역습 (feat. 대책은 블록체인 증명?)

AI의 불법 진화, 딥페이크의 역습 (feat. 대책은 블록체인 증명?)

 

며칠 전부터 교육계를 중심으로, 딥페이크 논란이 크게 일었습니다. 딥페이크는 AI와 같은 도구를 활용, 가짜 이미지나 영상을 만드는 것을 가리키는데요. 같은 반 급우의 사진을 악용해 가짜 포르노를 소셜미디어에 유포하는 일이 빈번해지면서 이제는 크나큰 사회적인 문제로 부상했습니다.

 

윤석열 대통령은 딥페이크는 장난이 아닌 명백한 범죄라고 했고, 전교조는 정부서울청사 앞에서 기자 간담회를 열어 피해 건수만 2492건에 달한다고 주장을 했습니다. 그래서 오늘은 딥페이크 논란이 왜 일었는지, 전설의 투자자 크리스 딕슨이 말한 기술적 해법은 무엇인지 살펴보겠습니다.

 

1. AI의 불법 진화, 딥페이크의 역습

한국은 불법 영상물이나 이미지와 관련해 오명 국가인데요. 몰래카메라를 뜻하는 몰카 molka라는 단어가 위키피디아 사전에 등록돼 있을 정도입니다. 위키피디아에는 “한국에서는 2010년대에 스파이 카메라가 급증했다”며 “주로 여성 공중화장실이나 모텔 객실과 같은 장소의 벽의 작은 구멍이나 균열에 설치된다”라고 적혀있습니다.

 

오늘날은 인공지능 시대입니다. 빛이 있으면 어둠도 있습니다. AI로 제작한 딥페이크 물이 급증하고 있는데요. 문제는 영문도 모른 채 어느 날 갑자기 피해를 보는 분들이 속출하고 있다는 점입니다. AI 탐지 전문 업체인 브랜드웰에 따르면, 딥페이크 포르노 사이트에서 등장하는 사람들을 국적별로 살펴보면, 미국 41%, 한국 25%, 인도 13%, 영국 12%, 캐나다 6% 순인 것으로 나타났습니다.

 

1) "한국 피해자 비중 크다"

전 세계 80억 인구 가운데 한국인은 고작 5200만 명으로 비중이 0.65%에 불과한데, 딥페이크 피해자 비중은 무려 25%를 차지하고 있다는 메시지입니다. 브랜드웰의 저스틴 맥길 CEO는 “K팝이 인기를 끌면서, 전 세계적으로 한국인을 상대로 한 딥페이크 포르노물이 넘쳐나고 있다”고 지적했습니다.

 

문제는 누구나 쉽게 딥페이크를 만들 수 있는 인공지능 시대라는 점입니다. 인터넷에서 옷벗기기 AI(Undress AI) 딥누드(DeepNude) 등을 검색하면 이런 사이트들이 수십 개씩 검색됩니다. 사진만 업로드하면 일반적인 평범한 사진이 나체 사진으로 바뀌는 생성형 AI입니다. 어둠의 AI는 이뿐만이 아닙니다.

 

사진 속 인물의 얼굴을 교체해 주는 페이스 스왑 앱은 앱스토어에서 심심치 않게 발견됩니다. 나탈리 포트만이나 스칼렛 요한슨, 엠마 왓슨 등 유명 배우들의 딥페이크 제작물을 버젓이 올려놓고 어떻게 만드는지 가이드까지 해주는 유튜브 영상마저 있습니다. 전 세계 정부가 AI 성범죄 척결에 뛰어든 이유입니다. 미국 캘리포니아 검찰은 16개 사이트를 상대로 고소했고, 한국 경찰은 딥페이크 성범죄물을 제작한 남성을 체포하기도 했습니다.

 

2) 뿌리 뽑기 어려운 딥페이크

더 큰 염려는 이를 뿌리 뽑기 어렵다는데 있습니다. 구조적 이유입니다. 상황이 이렇다 보니 소셜미디어나 인터넷에 올라온 사진을 모두 삭제하려는 움직임마저 있습니다.

 

① 10대 청소년 범죄: 만10세 14세 미만, ‘촉법소년’은 형사 처벌을 받지 않습니다.
② 해외 플랫폼: 피해자가 삭제를 희망하더라도 텔레그램이나 텀블러와 같은 한국 담당자가 없는 사이트는 대응이 어렵거나 느립니다.
③ 법령 미비: AI로 제작한 음란물에 대해선 처벌 근거가 없습니다.

 

영국의 물리학자, 수학자이자 컴퓨터 과학자인 스테픈 울프럼은 올바른 인공지능 개발을 위해서는 이제 철학자가 필요하다고 주장합니다. 올바른 일을 위해서만 작동하는 AI를 만들자고 했을 때, 옳은 일이란 무엇인가라는 질문에 답을 할 수 있어야 하기 때문이라는 설명입니다.

 

사실 같은 딥페이크지만, 사회에 기여하는 딥페이크도 있습니다. 마이헤리티지는 딥노스탤지아를 만들어 고인이 된 분의 사진을 영상으로 바꿔주는 서비스를 제공하고 있습니다. 문제는 기술이 아닌 사람입니다.

 

반응형

2. 블록체인 증명, 딥페이크를 막다?!?

글로벌 벤처캐피털인 a16z의 크리스 딕슨이 방한을 해 간담회를 열었습니다. 그는 '읽고 쓰고 소유하다'라는 책을 출간했는데, 한국에 홍보차 들렸습니다. a16z는 세콰이어 드레이퍼어소시에이츠와 함께 실리콘밸리 샌드힐로드의 3대 벤처캐피털로 꼽힙니다. 자산 규모만 86조 원인데요. 페이스북 코인베이스 에어비앤비 스카이프 등을 발굴해 명성을 쌓았습니다. 딕슨은 "블록체인이 딥페이크를 막을 수 있다"라고 누누이 강조를 했는데요. 그 내용을 대화체로 요약해 드리겠습니다.

 

Q. 한국에서 딥 페이크에 대한 우려의 목소리가 나오고 있는데요. 알고 계시나요.

A. 네 전해 들어서 알고 있습니다. 저는 이를 블록체인 기반 기술로 해결할 수 있을 것이라고 믿습니다.

 

Q. AI를 막아야할까요.

A. 아뇨. 오늘날 인터넷 세상인데요. 인터넷에서도 범죄 활동은 끝없이 일어나요. 모든 기술에는 양면성이 있고, 최근 AI와 관련한 문제로 딥페이크가 한국에서 화두에 오르고 있는 것이죠.

 

Q. 그러면 딥페이크를 어떻게 막을 수 있을까요.

A. 현재 수많은 영상 콘텐츠가 만들어져 인터넷에 올라오고 있는데 이 영상이 진짜인지, 사람이 만든 것인지, 원작자가 누구인지 증명할 수 있는 방법이 없어요. 방법이 없지는 않아요.

 

Q. 그게 무엇일까요.

A. a16z가 오픈AI CEO인 샘 올트먼과 투자하고 있는 프로젝트 중 하나인 월드 코인으로 해답을 찾을 수 있을 수 있어요.

 

Q. 코인이요?

A. 월드 코인은 기계가 아니라 인간이라는 점을 증명할 수 있는 시스템인데요. 예를 들어 특정 영상의 제작자가 사람이라는 것을 증명해 해당 영상이 딥페이크가 아니라는 점을 확인할 수 있어요.

 

Q. 웹3는 어떻게 바뀔까요.

A. 웹은 이제 '소유'의 시기로 진입하고 있어요. 1990년대에는 '읽기', 2000년대에는 '읽기와 쓰기'를 거쳤는데요. 이제 디지털 소유권을 갖는 게 가능한 시대가 되고 있어요. (블록체인을 통해 창작자에게 투명하게 보상을 할 수 있다는 뜻)

 

블록체인으로 딥페이크를 막자는 아이디어는 사실 올해 4월 밀컨 콘퍼런스에서도 나온 바 있어요. 이른바 퍼블릭 블록체인이라는 개념인데요. 대체불가능한토큰(NFT)이 디지털 아트에 접목된 것이 대표적인 사례입니다. AI 게시물에도 이를 응용할 수 있어요.

 

누군가가 사진을 올린다면, 해당 콘텐츠에 등록일, 등록자, 고유 특성을 포함하는 디지털 서명을 부여하고요. 해당 사진을 퍼블릭 블록체인을 통해 업로드합니다. 이때마다 블록체인은 해시값을 확인해 진본인지 수정본인지 파악할 수 있습니다. 만약 누군가가 이를 내려받아 수정해 올린다면, 진위를 알 수 있겠죠?

 

딕슨은 블렉체인을 가리켜 컴퓨터와 카지노로 비유했습니다. 누군가는 블록체인을 사회에 유익한 컴퓨터로 다루려고 하는데, 누군가는 도박을 하는 것처럼 투기적 목적에 쓴다는 비판입니다. 그는 a16z가 투자하는 블록체인 스타트업은 수년간 토큰을 못 팔도록 한다고 하네요.

---

 

조작된 가짜 이미지와 영상 (feat. 딥페이크의 모든 것)

 

딥페이크의 늪으로 텔레그램서 피해 가중

 

정치에 참여하고 있는 AI 후보들 (feat. 인간 정치인 대체 가능성)