미래 인공지능(AI)의 윤리적 이슈 (feat. AGI 패러독스)

미래 인공지능(AI)의 윤리적 이슈 (feat. AGI 패러독스)

 

오늘날 40세 기준으로 하면요. 남은 수명인 기대여명은 남성이 41.7세 여성이 47.4세입니다. 멋지게 살다 떠나신 분을 향해 누군가가 “불꽃 같이 살고 가셨다”라고 했습니다. 아마도 우리네 인생은 이럴 겁니다. 스물다섯 살까지는 공부하다, 한 삼십 년쯤 일을 하고, 운이 좋다면, 더 일을 하고 물러서는 것.

 

우리는 태어난 순간을 기억하지 못하듯, 육신이 소멸해 가는 그 순간을 기억하지 못할 겁니다. 유한한 이생의 삶을 충만하게 살아야 할 이유입니다. 중요한 것은 자기 자신이 무엇을 원하는지, 스스로를 되돌아보는 일입니다. 이를 가리켜 자의식이라고 합니다. 곧 나를 반추하는 나를 찾는 여정이기도 합니다. 오늘은 한 번쯤은 생각해 보면 좋을 법한, 네 가지 단편을 모았습니다.

 

1. 진실을 찾는 두 가지 방법

근본적인 이야기를 해보겠습니다. “내가 원하는 것은 무엇이지, 나는 무엇이지, 나는 어디서 왔지?, 나는 존재하는가?...” 이런 질문이 끊임없이 이어지다 보면, 그 끝은 이론을 대상으로 하는 이론인 메타이론(Metatheory)에 다다르게 됩니다. 사유를 연구하는 학문인 철학에는 몇 가지 메타이론이 있습니다. 대표적인 것이 실재론과 반실재론입니다.

 

1) 실재론(Realism)

우리의 인식과 무관하게 독립적으로 존재한다고 주장하는 이론입니다. 대표적인 물리적 실재론은 우리가 마주하는 세계와 사물은 우리 인식과 별개로 존재한다고 여깁니다. 그냥 존재할 뿐입니다. 플라톤, 아리스토텔레스, 토마스 아퀴나스 등 교과서에 나온 인물들이 대표적 주창자입니다. 과학 수학이 이를 따릅니다.

 

예를 들어, 물리학은 입자와 파동이 실제로 존재한다고 가정합니다. 또 전자가 존재한다고 가정하고 실험을 설계합니다. 수학에서는 수와 집합 같은 추상적 객체들이 존재한다고 가정합니다. 수학자들은 1, 2, 3의 숫자가 존재한다고 가정하고 논리를 전개합니다.

 

2) 양상실재론(modal realism)

하지만 처음부터 이게 실재하는지 어떻게 증명할까요. 철학자들은 이를 가리켜 존재론적 약속(ontological commitment)이라고 규정합니다. 실재하는 것이 아닌 관념상의 약속이라는 건데요. 이를 문장으로 풀어쓰면, "만약 ~였다면, ~했을 것이다"입니다. 즉 존재론은 반사실적 조건문 (counterfactuals)인 것입니다.

 

당혹스러운 결론입니다. 데이비드 루이스(David Lewis)는 이런 모순을 없애고자 세상을 양상 실재론(modal realism)으로 설명합니다. 양상은 가능성이라는 뜻입니다. 여러 세계가 존재한다는 것인데요. 과학에서 말하는 양자적 평행우주와 비슷한 논리입니다. 마치 구스범스(Goosebumps)처럼 말입니다.

 

세계는 여러 세계로 나뉘어 있고, 우리는 그중 한 세계에 사는 것입니다. 이 가정이라면, 모든 것을 실재하게 할 수 있습니다. 만약 여러분이 방금 전에 A라는 선택 대신 B라는 선택을 했다면, B라는 세계뿐 아니라, 우리가 모르는 A라는 세계가 모두 펼쳐져 존재한다는 이론입니다.

 

3) 반실재론 (Anti-Realism)

반실재론은 이러한 실재론을 정면 반박합니다. 양상 실재론이 옳다면, 무한한 존재가 존재하기 때문입니다. 대신 이들은 인식할 때 실재한다고 믿습니다. 세계나 진리는 우리의 인식 언어 개념에 따라 달라진다는 것인데요. 리처드 로티, 토머스 쿤, 피터 버거 등이 대표적입니다.

 

존재한다는 것은 결국 경험에 기반하고, 경험은 모두 다르기 때문에, 존재에 대한 해석 역시 개인마다 다르다는 주장입니다. 즉 존재에 대한 인식은 사회적 문화적 배경에 의해 형성된다고 믿습니다. 사회 규범 가치 언어가 곧 무엇인가를 규정한다는 것인데요. 이를 가리켜 인식론적 반실재론이라고 합니다.

 

4) 인신론적 반실재론

토머스 쿤 (Thomas Kuhn)은 패러다임이라고 말했습니다. 과학적 진리도 특정 사회적 맥락과 역사적 시기에 따라 다르게 구성된다고 주장합니다. 누적 발전이 아닌 기존의 패러다임이 새로운 패러다임에 의해 교체되는 "과학 혁명"을 통해 변화한다고 믿었습니다.

 

리처드 로티 (Richard Rorty)는 인식론적 반실재론의 대표적 옹호자입니다. 진리는 절대적이거나 객관적인 것이 결코 아니며, 다양한 사회적, 문화적 맥락에서 형성된다고 말했습니다. 즉, 객관적인 진리를 추구하지 말고 대화와 사회적 합의가 더 중요하다는 믿음입니다.

 

반응형

2. 죽은 자가 산자고, 산자가 죽은 자다

현실도 아닌 일을 왜 이리 따분하게 설명하느냐고 생각하실 겁니다. 이런 일들은 우리 주변에 지금도 끊임없이 벌어지고 있습니다. 생각해 볼 일입니다. 딱 두 개만 사례를 들어보겠습니다.

 

1) 로봇의 죽음, 장례식

2017년 도쿄 인근 고후쿠지라는 사찰에서 합동 장례식이 열렸습니다. 사람을 위한 행사가 아닙니다. 반려 동물도 아닙니다. 소니가 만든 애완 로봇 아이보(Aibo)의 합동 장례식이었습니다. 이날 반려로봇 주인들은 로봇을 장례해 달라고 한 스님께 부탁을 했습니다. 그것도 무려 100대나...

 

무슨 일이 있었던 것일까요. 아이 보는 1999년 5월 소니가 처음 공개한 반려견 로봇인데요. 가격만 25만 엔, 그러니까 당시 한화로 250만 원이 조금 넘는 고가 로봇이었습니다. 로봇은 2006년까지 일본 전역에서 불티나게 팔렸습니다. 무려 15만 대입니다. 하지만 소니한테는 그리 큰돈이 되지 않았습니다.

 

소니는 그해 판매를 중단했고, 2013년에는 AS 서비스까지 중단했습니다. 로봇을 산 사람들은 대다수 노인이었습니다. 일본은 1994년에 인구 14%가 65세 이상인 초고령사회에 진입했습니다. 노인들이 너무나도 외로운 나머지 로봇을 사서 애완 로봇처럼 키웠던 것입니다.

 

AS 중단 이후 한 기업이 AS를 계속해줬지만, 부품마저 구입하기 힘들어졌고, 결국 사랑하는 로봇이 하나둘 씩 고장 났습니다. 슬픈 마음에 로봇의 혼이라도 달래주자는 생각에 소비자들이 합동 장례식을 치러준 것입니다.

 

2) 코타르 증후군

2005년 영국의 한 남자가 식음을 전폐했습니다. 워런 맥킨레인라는 군인 출신으로 오토바이 사고로 사경을 헤맨 직후였습니다. 골반이 으스러지고 폐가 부서졌습니다. 긴 수술 끝에 깨어났습니다. 하지만 기억이 통째로 사라졌습니다. 문제는 컸습니다. 자기 자신이 이미 죽었다고 믿기 시작한 것입니다.

 

그의 두뇌는 말을 걸었습니다. "넌 이미 죽었어." 누군가가 음식을 주거나, 말을 걸 때마다, 자신을 유령이라고 믿었습니다. 스스로 밥을 먹을 수 없다고 생각합니다. 그러던 중 똑같은 병을 앓는 군인을 만나면서, 스스로 살아있다는 것을 자각합니다. 이 남자가 앓았던 병은 코타르 증후군(Cotard’s syndrome)입니다.

 

일명 '걷는 시체 증후군'입니다. 신경외과적 원인으로는 뇌 확장이나 축소, 생각과 행동, 논리 능력에 중요한 전두엽이 손상될 때 일어난다고 합니다. 자기 성찰과 관련된 뇌의 부위의 대사량이 매우 낮아지면서 스스로를 인지하지 못한 것입니다. 희귀병입니다.

 

두 사례를 인신론적 반실재론으로 비춰보면 노인과 지내는 로봇견은 살아있는 반려견과 다름없고, 코타르 증후군을 앓았던 군인은 생물학적으로 살아있지만 인식론적으로 죽은 것과 다름없습니다.

 

미래 인공지능(AI)의 윤리적 이슈 (feat. AGI 패러독스)

 

3. AGI는 실재한다!?!

EU가 급속도로 발전하는 AI에 제동을 걸고 있습니다. 규제 이유는 위험한 AI가 이미 있고, 앞으로는 상상을 초월할 위험한 AI가 올 것이라는 믿음이 깔려 있기 때문입니다.

 

1) 일반인공지능

그렇다면 AI는 위험할 수 있다는 생각은 어디서 왔을까요. 바로 일반인공지능(Artificial General Intelligence AGI)이라는 개념인데요. 마크 구부르드(Mark Gubrud) 노스캐롤라이나 대학교 교수가 1997년 저술한 ‘나노 기술과 국제 안보’라는 논문을 통해 자기 복제 시스템을 갖춘 군사 AI를 상상했습니다.

 

AGI는 개념상 사람의 명령 없이도 사람의 지능 수준을 뛰어넘어 자율적으로 판단할 수 있는 꿈의 AI입니다. 왜 사람들은 AGI를 위험하다고 볼까요. 2013년 일론 머스크와 구글 창업자인 래리 페이지가 아주 열띤 토론을 벌였는데요. 잠시 그 현장으로 가보겠습니다.

 

- 머스크: 언젠가 초지능이 나타나면 인간을 대체해 우리 종을 무의미하게 만들 수밖에 없어, 심지어 멸종시킬 수도 있다고.

- 페이지: 기계가 의식 수준에서 조차 인간을 능가하게 돼도 무슨 상관이야. 그건 진화의 다음 단계일 뿐이지.

- 머스크: 뭔 소리야. 인간의 의식은 우주의 소중한 불꽃이지. 우리는 꺼지지 않게 해야 할 의무가 있어.

- 페이지: 천만에! 의식이 기계에 복제된다면 그 역시 인간의 의식만큼 소중한 것 아닌가? 논리가 모순이네.

 

그렇습니다. 이런 논의는 곧 AI 개발 경쟁으로 이어졌습니다. 구글은 그해 딥마인드를 인수해 버렸고, 이에 열받은 머스크는 초지능의 등장을 경고하며 샘 올트먼과 오픈AI를 공동 창업했습니다. 오늘날 생성형 AI가 등장하게 된 배경 역시, 초지능에 대한 염려를 밑바탕에 깔고 있습니다.

 

2) AGI 패러독스

누군가가 초지능의 등장을 매우 염려하면서, 또 다른 누군가가 이를 먼저 손에 쥐면 세상이 위험해지니, 그나마 착한 내가 먼저 개발해, 선하게 통제하겠다는 것이 바로 초지능 경쟁의 핵심입니다. 저는 이를 AGI 패러독스라고 부릅니다. AI가 인류를 위협할 정도로 발전한다고 믿는다면, 만들지 않으면 그만인데... 현실은 믿음이 강할수록, 개발 경쟁으로 이어졌습니다. 이후 수많은 사상가들이 담론에 뛰어들었습니다.

 

- 일론 머스크: 기계와 인간의 지능 격차가 벌어지기 전에, 두뇌에 칩을 심어서 인간지능을 증강시켜야 해. 뉴럴링크 창업 (AI 부정론)

 

- 와이어드 창업자 케빈 켈리: 무슨 소리. 인간의 역사는 곧 도구의 역사다. 두려워하지 마라. 인간이 도구의 틈바귀 속에서 살아남은 이유는 선이 악보다 1%라도 더 많았기 때문이다. 기술의 충격 중 (중립론)

 

- 미래학자 레이 커즈와일: AI는 긍정적 변화를 갖고 오지 않을까. 수명을 연장하고, 인류 난제를 해결할 거야. 특이점이 온다 중 (긍정론)

 

- AI 종교인 미래의 길을 세운 레반도프스키: 기계가 인간을 추월하는 것은 시간문제야. 인간보다 무척 똑똑한 존재를 도대체 무엇이라고 부를 건데? 신이야 신! 일단 믿고 봐, 손해 날 것 없잖아 (불가지론)

 

- 딥러닝 선구자 요슈아 벤지오: AI 개발이 인간의 가치와 일치하도록 노력해야 해. 개발 과정 자체에서 윤리적인 고려가 매우 중요해 (윤리적 개발론)

 

한데 곰곰이 생각해 보면, 이런 거대 담론이 형성된 전제는 단 하나입니다. AI가 인간처럼, 스스로 판단하는 자의식을 갖게 될 거라는 믿음입니다. 이들의 믿음 속에서 이미 AGI는 실재합니다.

 

728x90

4. 수화를 하는 침팬지와 로봇

기계가 스스로 생각한다는 개념은 다소 모호합니다. 그래서 인간처럼 생각한다고 해보겠습니다. 사실 의식은 개념적으로 크게 두 개로 나뉩니다.

 

① 의식(Consciousness)

외부 세계와 내부 경험을 인식하는 것을 가리킵니다. 소리 빛 냄새를 감지하고, 이에 반응을 하고, 기쁨 슬픔 분노를 표출하며, 문제 해결을 하고, 계획을 수립한다면 의식이 있다고 할 수 있습니다. 대다수 동물이 갖고 있습니다.

 

② 자의식 (Self-Consciousness)

의식 안에 자의식이라는 영역이 있습니다. 의식과 같지만, 자신의 존재와 상태를 인식하는 고차원적 능력을 가리킵니다. 내 상태를 객관적으로 평가하고, 타인이 나를 어떻게 보는지 인지하며, 과거의 경험을 반추할 수 있다면 자의식이 있다고 할 수 있습니다.

 

1) 거울 자각 테스트

그렇다면 자의식이 있다는 것은 어떻게 증명할까요. 방법이 전혀 없는 것은 아닙니다. 고든 갤럽이 수행한 거울 자각 테스트라는 것이 있습니다. 만약 여러분이 거울 앞에 서있는데, 이빨에 고춧가루가 끼어 있는 것을 본다면 어떻게 하실 건가요. 네, 떼어 낼 텐데요. 하지만 거울 속 나를 나로 인지하지 못한다면, 멀뚱하게 쳐다만 볼 것입니다.

 

거울 자각 테스트는 동물 머리에 스티커 등을 붙이고 거울을 보여주는 방식으로 진행됩니다. 사람은 물론 침팬지, 오랑우탄, 돌고래, 코끼리 등이 실험을 통과했습니다. 비판도 있습니다. 자의식이란 개념 자체가 다차원적이기 때문에, 거울 자각 테스트만으로 자의식을 평가할 수 없다는 반론입니다.

 

2) 말을 하는 침팬지

하지만 동물이 언어와 문장을 사용한다고 하면 어떨까요? 일부 침팬지 고릴라는 인간처럼 수화를 할 수 있습니다. 1971년 샌프란시스코 동물원에서 태어난 코코가 대표적입니다. 동물학자 페니 패터슨은 코코에게 집중적인 훈련 프로그램을 통해 수화를 모두 인식할 수 있도록 가르쳤습니다.

 

코코는 추상적 단어에 대해선 직접 수화를 만드는 단계로 발전했습니다. 패터슨은 코코가 1000개 단어 이상의 다양한 수화를 사용하고, 사람들이 사용하는 2000개 이상 단어를 식별할 수 있다고 보고했습니다.

 

14% “AI 자의식 있는 것 같다” AI 휴머노이드가 발전하면 어떨까요? 아마 수화 정도는 어렵지 않게 할 같습니다. 이런 AI를 어떻게 규정할지는 미지수입니다. 미라클레터는 앞서 AI 업계 종사자 독자님을 상대로 AI 자의식에 대해 질문한 적이 있습니다. 105분이 답변을 하셨습니다. 질문은 이렇습니다.

 

"오픈AI의 일리야 슈츠케버 최고 과학자는 GPT에 대해 약간의 자의식이 있는 것 같다고 평가했습니다. 개발자로서 GPT와 같은 범용 인공지능을 다루면서, AI가 자의식이 있는 것처럼 느껴진 적이 있습니까?"

 

매우 없다: 36.54%, 거의 없다: 31.73%, 보통이다: 17.31%, 다소 있다: 14.42%, 매우 있다: 0%

 

3) AI 로봇의 미래

보스턴다이내믹스의 마크 레이버트 창업자는 현재 AI연구소를 함께 운영하고 있는데요. 후배인 정호준 기자님이 얼마 전 AI 서울정상회의 직후에 단독 인터뷰를 할 기회가 있었습니다. 그래서 한 가지 질문을 부탁했습니다. "AI 로봇에 자의식이 생길 거로 보시나요?" 답변은 이렇습니다.

 

자의식에 대해 생각해 본 적은 없습니다. 다만 만약 로봇이 공장에서 사람들과 함께 일 한다면, 사람들은 로봇이 무엇을 할 것인지 이해해야 할 겁니다. 반대로 로봇은 사람들이 뭘 할 것인지 이해를 해야겠죠.

 

꼭 말은 아니더라도 간단한 의사소통으로 서로 이해할 수 있도록 하는 것이 로봇의 미래라고 생각합니다. 그래서 표현력이 풍부하도록 설계하고, 로봇이 주변 사람이 무엇을 하고 있는지 인식할 수 있도록 하는 것을 연구하고 있습니다. 이건 현실적인 문제입니다.

 

오늘날 AI 윤리는 저작권 보호와 딥페이크 방지에 주로 초점이 맞춰져 있습니다. 하지만 AI가 더 크게 발전한다면? AI의 법적인 주체 문제가 부각될 듯합니다. 남아공은 2021년 AI 다부스에 대해 발명가 지위를 인정(인터뷰)하는 판결을 내렸습니다. 한국과 미국은 인정 안 했습니다. 이런 판결은 계속 나올 겁니다.

 

파생되는 미래 AI의 윤리적 이슈는 크게 두 가지입니다.

 

① 소유의 문제

AI가 생성한 작품이나 발명품의 소유권 문제는 복잡합니다. 이는 AI가 독립적으로 창작 또는 발명을 했을 때, 그 결과물의 소유권이 누구에게 귀속되어야 하는지에 대한 질문을 불러옵니다. AI 기업인가, 데이터 제공자인가, 아니면 AI 자체인가.

 

② 책임의 문제

자의식을 가진 AI가 범죄 행위 또는 위협적 행동을 할 경우, 책임 소재를 어떻게 귀속할지인지 문제가 생길 수 있습니다. AI 기업인가, 데이터 제공자인가, 아니면 AI 자체인가.

---

 

세계 각국 정부의 AI 개발 및 발전과 규제 강화 (feat. 인공지능 서울 정상 회의)

 

ChatGPT의 수준을 알아보는 사례 분석 (feat. 퇴사의 원인 분석과 대응방안)

 

 

AI와 사랑에 빠지는 일이 현실로.. (feat. 구글의 프로젝트 아스트라)