ChatGPT를 통해 바라본 인공지능(AI) 원리의 이해와 미래 예측 및 대응

ChatGPT를 통해 바라본 인공지능(AI) 원리의 이해와 미래 예측 및 대응

 

1. ChatGPT의 발견 

OpenAI의 GPT 시리즈는 2017년 구글의 연구진이 발표한 트랜스포머라는 딥러닝 모델에 기반한 것으로, 그리 복잡하지 않은 싸인(sine), 코싸인(cosine) 계산, 숫자끼리 곱하거나 더하거나 빼는 계산, 행렬 계산만 하면 되는 수학적 방법론입니다. 단지 그 계산의 양이 엄청납니다. GPT 3.5의 경우 최적값을 구해야 하는 변수의 개수가 1,750억 개에 달하고, GPT 4의 경우 1조 개가 넘는다. 그래서 초거대 AI라고 부릅니다.

 

그런데 이 초거대 AI도 잘 따져보면, 우리가 사용하는 개인용 컴퓨터에 설치가 가능한 규모입니다. 1조 개의 숫자라는 것은 결국 1조 바이트이고, 이는 1 테라 바이트이므로, 시중에 나온 4 테라 바이트 하드디스크를 가진 PC에 충분히 설치할 수 있는 크기인 것입니다. 물론 이것을 운용할 수 있는 GPU를 개인이 갖추는 것이 아직 어렵고 비쌉니다. 그러나, 현재 세계에서 가장 큰 AI 모델이, 지금 일반인이 가질 수 있는 컴퓨터에 설치 정도는 가능하다는 것은 시사점이 큽니다. AI는 현재 그 규모만 가지고도 어떤 큰 국가나 기업, 조직이 독점할 수 있는 성질의 것이 아니라는 것입니다. 즉, 인공지능이 전 세계 사람 누구나 소유할 수 있고 관리할 수 있는 방향으로 갈 수밖에 없다는 것을 시사합니다.

 

반응형

초거대 AI라는 말이 주는 위압감이 있지만, 그것은 우리의 개인용 컴퓨터에도 설치 가능한 작은 프로그램일 뿐입니다. 이 프로그램은 자판기나 크게 다른 점이 없습니다. 돈을 넣고 버튼을 누르면 무엇인가가 나오는 자판기처럼 ChatGPT는 우리가 단어를 N개 집어넣으면 그에 알맞은 대답으로 N+1번째 단어, N+2번째 단어를 순차적으로 뱉어내다가, 적절해 보이는 시점에 뱉어내는 것을 중지하도록 되어있는 기계일 뿐입니다.

 

자판기는 우리를 공격하지 않습니다. 그렇게 프로그램되어 있지 않고 그 존재 이유상 그렇게 프로그램을 해야 할 이유도 없습니다. 물론 자판기가 사람을 해친 경우가 있습니다. 미국에서 1년에 10명 정도가, 동전을 넣었는데도 상품이 나오지 않자 분노한 끝에 자판기를 마구 흔들다가 육중한 자판기에 깔려 죽는다는 이야기를 들은 일이 있습니다. 비슷하게, ChatGPT는 사용자를 해치도록 설계되지는 않았지만, 그 사용자가 오남용 할 경우 사용자가 피해를 입을 수도 있습니다. 예를 들어, 사용자가 대화형 AI 서비스에 어떤 욕설이나 모독적 발언을 한다 해도 AI는 어떤 피해도 입지 않으나, 사용자는 인격이 피폐해지는 피해를 입을 수 있습니다.

 

ChatGPT를 통해 바라본 인공지능(AI) 원리의 이해와 미래 예측 및 대응

 

2. ChatGPT에 대한 환상과 실제

GPT-4와 같은 고성능 AI 프로그램과 대화하다 보면, 정말 이 AI가 생각하는 것 같고, 이해하는 것 같고, 의식이 있는 것 같은 느낌이 들 때가 있습니다. 그러나 그것은 착각입니다. 우리가 ChatGPT에 입력하는 것은 어떤 문자열로 이루어진 프롬프트입니다. 구글의 제미니와 같은 멀티모달 AI에는 문자열뿐만 아니라 음성, 사운드, 이미지도 넣을 수 있다. 이렇게 입력이 들어가면, AI는 가장 그럴듯한 텍스트와 사운드, 이미지, 영상을 출력하는 것입니다. 이 입력과 출력 사이에는 학습된 트랜스포머라는 모델이 있고, OpenAI의 GPT 시리즈는 트랜스포머 모델 중에서도 디코더(Decoder) 모델만을 학습한 것입니다.

 

이 모델을 학습하는 데에, 인터넷상에 존재하는 사용 가능한 거의 모든 텍스트를 사용하였고, 이 텍스트들의 단어들을 랜덤 하게 가린 다음 그 가려진 단어를 맞추는 방식으로 학습하였습니다. 이러한 방법은, 사람들이 일일이 정답을 제공하는 노력을 하지 않아도 되었으므로, 매우 인력 효율적인 학습방법이 되었고, 기존에 인간이 정답을 제공했던 지도학습(Supervised Learning)에 비하여 매우 효율적인 방법이 되는데, 이러한 학습 방법을 자기 지도 학습(Self-Supervised Learning)이라고 부릅니다.

 

728x90

이렇게 자기 지도 학습 방법에 의해서 가용한 문서를 가지고, 미리 학습한 모델을 사전 학습된(Pre-Trained) 모델이라고 부를 수 있는데, OpenAI는 문장을 생성하는 사전 학습된 Transformer 모델이라는 의미에서 GPT(Generative Pre-Trained Transformer)라고 부릅니다. OpenAI는 GPT-1, 2, 3로 진화하는 과정에서, 재미있는 아이디어를 계속 생산해 나갔는데, 2020년 5월에 발표한 GPT-3는 꽤 좋은 성능을 보여주기는 했지만 엉뚱한 질문에 잘못된 정보를 제공하는 문제점을 보여주었습니다.

 

Open AI는 이를 해결하기 위하여, 케냐의 사람들을 간접적으로 고용하여, 이렇게 잘못 대답한 사례들에 대한 질문과 정답을 쌍으로 하는 데이터들을 축적하여 새로 학습하였습니다. 이때 사용한 방법은 강화 학습을 사용하였는데, 잘못 대답한 질문의 유형을 인식하는 전략을 조금 더 효율적으로 학습하도록 한 것입니다. 여기에다, 일반 공개를 위하여, 사용자들의 질문들 중에 회피하는 것이 바람직하다고 여겨지는 질문들은 회피할 수 있도록 일종의 필터링 기능을 추가하여 발표한 것이 GPT 3.5에 기반한 ChatGPT인 것입니다.

 

이러한 원리로 만들어진 GPT가 엄청난 성능을 발휘하게 될 것이라고는 이를 개발한 OpenAI의 연구진들도 예측하지 못한 것이었습니다. 단지, 거대한 딥러닝 모델에다가 방대한 문서의 문장들을 자기 지도학습 방법으로 사전 학습시키는 것만으로도, 인간의 지적 업무 중 많은 것들을 해내는 일종의 일반 인공지능(Artificial General Intelligence)을 구현할 수 있다는 새로운 발견을 하게 된 것입니다.

 

ChatGPT를 통해 바라본 인공지능(AI) 원리의 이해와 미래 예측 및 대응

 

3. 인공지능의 의식 생성 가능성

현재의 AI 모델의 원리로 볼 때 그 모델의 작동 과정에서 의식이 생길 수 있는 근거는 전혀 없습니다. 잘 학습된 트랜스포머 모델이 너무 대답을 잘 생성하여, 그 사용자가 볼 때 이 기계가 이해하고 생각하는 것처럼 여길 수는 있습니다. 이 과정에서 우리 인간들은, 이해라는 것에 대해 새로운 인식에 도달하고, 생각한다는 것에 대해 새로운 인식에 합의하게 될 수도 있습니다. 그러한 과정을 거쳐 우리가 어떤 기계가 ‘의식이 있다’라고 판정하는 방법을 가지게 될지도 모르겠습니다.

 

그러나 현재의 과학 수준으로, 그것을 미리 증명할 방법은 나오지 않았습니다. 현재 트랜스포머 모델에 기반한 AI 모델은 그저 병렬적으로 계산을 효율적으로 잘하는 기계일 뿐, 거기에 의식이 개입할 여지는 전혀 없으며, 따라서 기계가 인류를 멸망시킬 의지를 생성하게 되고, 정밀한 계획하에, 순간적으로 인류를 습격하게 될 것이라는 닉 보스트롬류의 주장은 아직까지는 그저 공상일 뿐입니다.

 

ChatGPT를 통해 바라본 인공지능(AI) 원리의 이해와 미래 예측 및 대응

 

4. 기술의 발전에 따른 미래 예측 및 대응방안

이러한 생존 위협 이슈 말고도 더 중요한 문제가 많다는 것을 인식하는 것이 더욱 필요합니다. 고성능 AI가 인간 앞에 놓이게 될 때, 인류는 인간이 생산한 글이나 말보다 AI가 생성한 것을 더욱 신뢰하고, 이에 의존하고 중독에 이를 수도 있습니다. 정말 AI가 좋은 행동 지침을 주게 된다면 좋겠지만, AI가 제시하는 방향이 장기적으로 해가 되거나, 또는 소수에게 부당하게 해가 되는 결과를 초래할 위험이 있습니다. 고성능의 AI가 많은 분야에서 새로운 산업과 시장, 일자리를 만들겠지만, 일부 산업과 직업, 일자리의 쇠퇴는 불가피할 수 있습니다.

 

이러한 변화가 사회 주체가 적응할 수 있는 속도와 범위로 일어난다면 좋겠지만, 그렇지 못할 경우, 사회와 구성원에게 충격과 혼란을 야기할 수 있습니다. 물론 우리 인류가 구축해 온 자유 세계, 민주주의, 법치 시스템, 시장 경제의 원리를 더 강고히 해 나간다면, 인류는 새롭게 발생하는 사회문제에 대해 민주적으로 반응하면서, 제도와 시스템을 잘 개선함으로써, 이러한 충격을 완화하고 더 나은 세계와 사회로 나아갈 것입니다. 우리는 인공지능을, 이러한 세계와 사회를 만들어나가기 위한 도구로, 지금부터 선제적으로 사용해야 합니다.

---

 

ChatGPT도 탈옥이 존재한다? (feat. DAN 프롬프트)

 

ChatGPT 주식 및 인공지능(AI)의 투자 기회 탐색

 

ChatGPT의 모든 것 A to Z (feat. 세상을 바꾸는 AI 챗봇)