통제 불가능한 AI는 인류 절반 날릴 타노스 같은 위험한 존재

통제 불가능한 AI는 인류 절반 날릴 타노스 같은 위험한 존재

 

인공지능(AI)이 우리 생활 깊숙이 들어왔습니다. 모르는 게 있으면 챗GPT에게 물어보고, 운전할 때는 자율주행 기능을 사용합니다. AI 기술이 발달한 만큼 우리 생활도 편리해졌지만, 동시에 인권과 윤리 문제 등 부작용에 대한 우려도 심각해졌습니다. 기술 발달 속도를 법과 제도가 따라가지 못하고 있기 때문인데요. AI 기술의 윤리적 제어는 현재 인류가 마주한 가장 큰 숙제 중 하나로 꼽힙니다.

 

제25회 세계지식포럼에서는 AI의 윤리적 발전 방향에 관한 토론이 열렸습니다. 포럼에서는 ‘AI가 잘못된 윤리를 구현할 경우 인류의 절반이 사라지는 사태가 발생할 수 있다’는 경고까지 나왔다고 하는데요. 이번에는 세계 AI 권위자들이 경고하는 AI 기술 발전의 위험성을 짚어봅니다.

 

1. AI는 ‘외계인’ 같은 것... 잘 알고 통제해야

세계적인 AI 연구 권위자인 스튜어트 러셀 UC 버클리대학교 교수는 제25회 세계지식포럼의 ‘AI 윤리헌장’ 세션에서 “인류는 앞으로 AI에 어떤 가치 체계를 어떻게 학습시킬 것인지에 대한 답을 찾아야 한다”라고 강조했습니다. 그에 따르면 향후 AI가 내리는 결정이 적게는 수백만 명에서 많게는 수십억 명의 사람들에게 영향을 미칠 것으로 보이기 때문입니다.

 

러셀 교수는 AI, 머신러닝, 로보틱스 분야의 권위자로, ‘AI의 아버지’로 불리는 인물입니다. 그의 저서 ‘인공지능, 현대적 접근 방식(Artificial Intelligence: A Modern Approach)’은 ‘AI 교과서’로 불리며 전 세계 135개국, 1500여 개 대학에서 컴퓨터공학 교재로 쓰이고 있죠.

 

이날 러셀 교수는 AI 기술 개발 행태에 대한 경계를 표출했습니다. 그는 “AI를 만드는 이들의 목표는 모든 범주에서 인간의 지능을 초월하는 기계를 만드는 것”이라며 “하지만 인간보다 더 강력한 무언가를 만든다면 도대체 우리가 어떻게 그 시스템을 통제할 수 있겠나”라고 질문했습니다.

 

러셀 교수는 AI를 ‘외계인’에 빗대어 설명했습니다. 그는 “우리는 AI의 작동원리를 전혀 이해하지 못하면서도 AI에 더 강력한 힘을 실어주고 있다”라고 말했는데, 이건 “우주에서 AI를 지구에 보내는 것과 마찬가지”라는 겁니다. AI 기술은 마치 외계인이 보낸 것처럼 우리에게 미지의 영역임에도 불구하고, 우리는 기술을 통제하기보다 개발하는 데 더 힘을 싣고 있다는 말입니다.

 

2. 자칫하면 인류 절반 날릴 ‘타노스’ 탄생할 수도?

이날 토론에서는 다소 섬찟한 경고도 나왔습니다. 우리가 제대로 통제하지 못할 경우, AI 기술이 영화 ‘어벤저스’의 악역 ‘타노스’처럼 변해버릴 수도 있다는 내용이었죠. 타노스는 우주의 균형을 바로잡겠다는 이유로 우주 생명체의 절반을 사라지게 만든 캐릭터입니다.

 

러셀 교수는 “타노스는 우주 생명체의 절반을 없앤다면 사라지지 않은 나머지 절반의 생명체가 두 배 이상 행복해질 것이므로 좋은 일일 것이라고 생각했다”며 “물론 살아있는 절반에게 ‘어떻게 생각하냐’고 묻지는 않았다”라고 덧붙였습니다. 만약 우리가 AI에게 어떤 가치 체계를 어떻게 학습시킬 것인지에 관해 분명한 기준을 찾지 못한다면, AI가 스스로 잘못된 윤리적 해답을 내놓을 수 있다는 말입니다.

 

AI의 공리주의적 결정에 대한 고민도 나왔습니다. 러셀 교수는 “AI 시스템에는 전 세계 80억명 인구의 80억 개의 선호도가 들어가야 한다”며 “만약 사람들 사이 선호도의 충돌이 발생하면 AI가 이 문제를 어떻게 처리할 수 있을 것인가”라는 질문을 던졌습니다. 선호도의 충돌 문제를 두고 철학자들이 내놓은 전통적인 답변 중 하나는 ‘공리주의’적 접근입니다. 기본적으로 모든 사람의 선호도를 똑같이 중요하게 취급하고, 선호도의 충족치가 최대가 되는 방향으로 결정을 내리는 방식이죠. AI가 이런 논리를 바탕으로 어떤 결정을 내리게 된다면, 수많은 윤리적 문제가 뒤따를 수 있습니다. 때문에 AI 내에서 이런 논리를 윤리적으로 구현해 내기 위해서는 앞으로 더 많은 연구가 필요하다는 주장입니다.

 

반응형

3. AI, 잘만 활용한다면 “세계 GDP 10배 증가도 가능”

물론 AI 발전에 부정적인 면만 있는 것은 아닙니다. 러셀 교수가 꼽은 AI 발전의 가장 큰 장점은, 인류의 라이프 스타일을 진보시킬 수 있다는 겁니다. 그는 “AI 기술을 잘 활용하면 수억 명에 달하는 사람들에게 훌륭하고 멋진 라이프 스타일을 만들어줄 수 있다”라고 밝혔습니다. 러셀 교수의 연구에 따르면, AI 기술의 발전으로 서양 중산층이 누리는 라이프 스타일을 전 세계인이 누릴 수 있게 될 경우 전 세계 GDP(국가총생산)가 약 10배 증가할 것이라고 합니다. 이 가치를 돈으로 환산하면 무려 15조 달러(약 2경 1024조 원)에 달한다고 하고요.

 

기대되는 경제적 가치가 어마어마한 만큼, 이미 세계 각국의 많은 기업이 AI 개발에 사활을 걸고 있습니다. 러셀 교수는 이미 AI 개발에 뛰어든 기업들을 통제하기는 정말 어려울 것이라고 단언합니다. 다만 희망적인 시나리오도 있습니다. 우리가 AI를 올바른 방향으로 설계하는 데 성공한다면, AI가 스스로 나서야 할 때와 그렇지 않아야 할 때를 구분할 수 있을 것이라는 얘기인데요.

 

러셀 교수는 “AI가 스스로 ‘나를 뛰어난 지능이 필요한 긴급 상황에서는 불러도 되지만, 그렇지 않을 때는 부르지 말아 달라’고 말할 때가 되면 우리가 원하는 AI 개발에 성공한 것이라고 말하고 싶습니다”라고 설명했습니다.

 

4. 건강한 AI 개발에는 ‘다학제적 접근’ 필요

이날 세션의 패널로 참석한 마이크 오르길 우버(Uber) 아시아 태평양 공공정책 정부 관계 책임자는 “신기술이 나오면, 기술의 발전보다 규제 속도가 항상 늦기 마련이다”라고 지적했습니다. 그는 “기술을 채택할 것이라면 기술에 대한 거버넌스까지 생각해야 한다”며 “규제 당국과 협업하는 과정이 없다면 기술 자체에 부적절한 기능이 만들어지는 것”이라고 경고했습니다.

 

AI 연구기관 밀라(Mila)의 법률 고문 겸 AI 거버넌스 총괄자인 저스틴 구티에 변호사는 “AI 거버넌스 측면에서는 ‘다학제적 접근’이 필요하다”라고 설명합니다. ‘다학제적 접근’이란 전혀 다른 것으로 간주하였던 분야의 학문들이 서로의 연구 성과를 공유한 뒤 완전히 새로운 시각으로 접근해 연구하는 접근법을 뜻합니다. AI 기술을 개발할 때는 정부, 민간, 학계, 시민사회 등 사회의 다양한 주체들이 동시에 참여하는 게 중요하다는 의미입니다.

 

물론 말처럼 쉬운 일은 아닙니다. 구티에 변호사에 따르면, “다양한 분야에서 다양한 사람이 관여하는 건 바람직하지만, 이들이 서로 제대로 대화하지 않는다면 문제가 된다”라고 지적했습니다. 일반적인 기업만 놓고 봐도 기술을 개발하는 기술팀이 있고, 이런 기술이 어떤 규제에 적용될지 연구하는 법무팀이 있고, 정책과 프로세스를 만드는 거버넌스 팀이 있는데, 이들이 서로 제대로 소통하지 않은 채 각자의 이해관계만 고집한다면 건강한 발전은 어려울 것이라는 이야깁니다.

---

 

미리보는 2025 테크 트렌드 (feat. 2025년 CES 혁신상 수상작)

 

빅4 CEO가 말한 미래의 인공지능 AI (feat. SK AI 서밋 2024)

 

무임승차로 점점 똑똑해지는 인공지능 (feat. 뉴스 기사의 저작권)