딥러닝의 아버지 벤지오가 AI 연구 중단을 요청한 이유 (feat. 파멸적 상황의 우려)

딥러닝의 아버지 벤지오가 AI 연구 중단을 요청한 이유 (feat. 파멸적 상황의 우려)

 

인공지능(AI) 업계에는 소위 ‘4대 천왕’으로 불리는 4명의 스타 학자들이 있습니다. 바로 제프리 힌튼 토론토대 교수(76), 얀 르쿤 뉴욕대 교수(63), 요수아 벤지오 몬트리올대 교수(59), 앤드류 응 스탠퍼드대 교수(47)입니다. 사실 엄밀히 말해 ‘4대 천왕’은 국내 업계에서 이들을 일컫는 말이고, 해외에선 힌튼, 르쿤, 벤지오 3명만 가리켜 ‘AI의 대부들(Godfathers of AI)’이라고 지칭합니다. 이들 3인이 2018년 컴퓨터 과학 분야의 노벨상 격인 튜링상을 공동 수상했기 때문입니다.

 

이들은 이런저런 인연으로도 긴밀하게 엮여 있습니다. 벤지오가 신경망을 이용한 AI 연구를 시작하게 된 건 석사 과정 중이었던 1985년 힌튼의 논문을 읽고 나서였습니다. AI 신경망 분야는 당시 비주류 분야였는데, 벤지오는 힌튼의 논문을 읽고선 일생을 걸 만한 분야라고 생각했다고 합니다. 또 벤지오와 르쿤은 1980~90년대 머신러닝 연구의 전초기지였던 AT&T벨연구소에서 함께 근무하며 인연을 맺기도 했습니다.

 

딥러닝의 아버지 벤지오가 AI 연구 중단을 요청한 이유 (feat. 파멸적 상황의 우려)

 

벤지오와 르쿤은 프랑스 태생이라는 공통점이 있고, 벤지오와 힌튼은 캐나다 대학교에서 AI를 연구하고 있다는 공통분모를 갖고 있습니다. 힌튼과 벤지오가 각각 토론토대와 몬트리올대에서 탁월한 AI 인재들을 계속해 배출하면서 AI업계를 캐나다 마피아들이 장악하고 있다는 얘기가 나오기도 합니다. 반면 응 교수의 학문적 성취는 딥러닝 분야에서 이들 3인이 일궈놓은 성과에 비해 다소 부족해 보이는 게 사실입니다. 다만 응 교수는 이들보다 훨씬 젊은 인재인 만큼, 향후 일궈낼 업적이 기대된다고 말할 수 있습니다.

 

이들 스타 학자는 딥러닝 분야를 발전시킨 선의의 경쟁자들이지만, 각자 일궈낸 학문적 성취가 엄청난 만큼 개성이 강하고 AI의 미래에 대한 관점에서도 차이가 뚜렷합니다. 오늘은 AI를 바라보는 벤지오 교수의 관점에 대해 이야기를 나눠보도록 하겠습니다.

 

반응형

벤지오는 1964년 프랑스 파리의 유대계 가정에서 태어났습니다. 그의 가족은 이후 캐나다로 이민을 떠났고, 벤지오는 캐나다 명문대 중 한 곳인 맥길대에서 전기공학(학사)을 공부한 뒤, 같은 학교에서 컴퓨터공학으로 석·박사 학위를 취득했습니다. 그의 동생인 새미 벤지오 또한 형 못지않게 어릴 적부터 컴퓨터 공학 분야에서 탁월한 재능을 보이며 몬트리올대에서 컴퓨터과학을 공부했습니다. 새미는 이후 구글 브레인을 공동 창업하고, 현재 애플에서 AI 부문 선임디렉터로 근무 중입니다. 형제 모두 AI 분야에서 난형난제인 셈이죠. 둘은 당시 비주류 분야이던 신경망 AI 분야 공부를 함께 하며 서로에게 용기를 북돋아준 학문적 동지이기도 했습니다.

 

창업의 길을 걸은 동생과 달리 벤지오는 1993년 몬트리올대에서 컴퓨터공학과 교수로 연구를 시작한 이래 딥러닝 분야에서 최고 수준의 논문을 발표했습니다. 그는 얀르쿤과 AT&T벨연구소에서 근무할 당시 신경망 이론에 기반한 우편물을 분류하는 데 성공했고, 2014년에는 신경망을 통해 사진을 생성하는 AI기술을 선뵈며 생성형 AI시대의 문을 열었습니다. 이는 단순 분류 작업에 그쳤던 AI가 새로운 데이터를 생성할 수 있다는 점을 증명했다는 점에서 큰 주목을 받았습니다.

 

벤지오는 현재 논문인용지수인 H인덱스에서 인용 횟수 2위(2022년 말 현재)에 오를 정도로 관련 분야 최고 권위자로 꼽힙니다. 그가 고안한 딥러닝(인공신경망을 활용한 기계학습)을 통해 AI가 그림, 글자, 소리 등 복잡한 데이터를 인식할 수 있게 돼 딥러닝의 창시자로도 불립니다.

딥러닝의 아버지 벤지오가 AI 연구 중단을 요청한 이유 (feat. 파멸적 상황의 우려)

그런 벤지오는 최근 600여 명의 AI 산업 관계자들이 참여한 ‘딥페이크 공급망을 붕괴시켜라’라는 서한에 이름을 올려 화제가 됐습니다. AI 기술 혁신을 이끌고 있는 구글 딥마인드와 오픈 AI 연구원들도 이름을 올린 이번 서한은 ‘딥페이크로 인한 사회적 위협이 커지고 있는 만큼, 각국 정부는 딥페이크 확산을 막기 위한 규제에 나서야 한다’고 촉구하는 내용입니다. 이처럼 벤지오 교수는 AI의 부작용에 대해 경고의 메시지를 보내는 대표적인 AI 신중론자 중 한 명으로 꼽힙니다.

 

이처럼 AI 발전의 초석을 다진 벤지오이지만 최근 들어선 인류를 위협할 가능성을 제기하고 있는 ‘신중론자’로 주목받고 있습니다. 그는 지난해 5월 영국 BBC와 인터뷰에서 “AI의 발전 속도를 알아차렸다면 효용성보단 안전성을 우선시했을 것”이라고 말했습니다. 특히 벤지오는 군대가 AI 권한을 갖는 것을 우려하고 있습니다. 실제 그는 같은 인터뷰에서 “AI가 점점 정교해지고 강력해지는 만큼 나쁜 행위자들이 AI 권한을 갖는 것이 우려된다”며 “군대나 테러리스트, 또는 매우 화가 난 사람이나 정신병이 있는 사람이 AI시스템을 프로그래밍해 나쁜 일을 하게 시킨다면 매우 위험할 수 있다”라고 했습니다.

 

그는 또 2018년 한국의 KAIST의 AI 연구와 관련해 ‘킬러로봇’ 개발이 우려된다며 ‘이를 중단하지 않으면 학술 교류를 중단할 것’이라는 내용의 편지를 보내기도 했었습니다. KAIST 측의 해명으로 일단락이 됐지만, 벤지오가 AI가 몰고 올 파멸적 상황을 얼마나 우려하는지 알 수 있는 대목입니다.

딥러닝의 아버지 벤지오가 AI 연구 중단을 요청한 이유 (feat. 파멸적 상황의 우려)

  
그래서 그는 일론 머스크 테슬라 최고경영자, 스티브 워즈니악 애플 공동창업자 등과 함께 “초거대 AI 연구를 6개월 동안 중단하자”는 파격적인 제안을 내놓기도 했습니다. AI 분야 최전선에 서 있던 그가 이 같은 선언을 내놓자 사람들은 “도대체 AI가 얼마나 위험하길래 그런 것이냐”며 충격을 금치 못했습니다.

 

그는 AI에 대한 사람들의 과장된 인식을 우려하고 있습니다. AI는 사람을 흉내 낼 뿐이라는 게 AI를 바라보는 벤지오의 본질적인 시각입니다. 그는 “AI는 무엇이 진실인지 알지 못하며, 사람이 말하는 것을 흉내 내는 것에 불과하다”며 “AI 개발 업체들이 등록 관리돼 정부가 그들을 추적하고 평가해야 한다”라고 했습니다. 딥러닝의 창시자로 AI의 실체를 가장 잘 아는 벤지오는 이제 AI 연구를 보다 안전하고 인류에게 도움이 되는 방향으로 이끌 조타수 역할을 자처하고 있는 셈입니다.

---

 

EU의 인공지능법에 대한 설명 (feat. 개요, AI 시스템 및 적용의 명확화)

 

샘 올트먼의 원대한 계획으로 반도체 시장 개편 추진

 

주목해야 할 2024년 테크 트렌드 (feat. 인공지능과 로봇의 활용에 대한 의문)