빌 게이츠가 인정한 인공지능(AI)이 가져올 우려와 이에 대한 생각

빌 게이츠가 인정한 인공지능(AI)이 가져올 우려와 이에 대한 생각

 

빌 게이츠가 AI가 가져올 우려들에 대해 인정하고, 이에 대한 생각을 적은 글을 가져왔습니다. 먼 미래의 초지능적 AI가 가져올 잠재적 위험보다는 이미 존재하거나 곧 존재하게 될 위험에 초점을 맞추어 작성한 글이니, 읽어보면 좋은 인사이트가 될 것 같습니다.

 

1. AI로 생성한 딥페이크나 잘못된 정보는 선거를 포함한 민주주의를 훼손할 수 있습니다.

① 기술이 거짓을 퍼뜨리는 데 활용되는 것이 처음은 아니지만, AI를 활용하면 더욱 쉽고 정교하게 조작할 수 있습니다.

보이스 피싱에 가짜 오디오 및 비디오를 사용하거나, 조작된 정치적 이슈를 만들어 선거를 뒤흔드는 데 쉽게 활용될 수 있습니다.

② 하지만 AI는 딥페이크의 생성뿐만 아니라 식별에도 큰 도움을 줄 수 있으며, 사람들은 비슷한 유형의 조작에 대한 누적된 경험을 통해 이를 식별하는 방법을 학습해 왔습니다. 이는 조작을 탐지하고 대응책을 개발하는 순환적인 과정이 될 것이며, 이러한 위험에 충분히 대응할 수 있을 것입니다.

 

2. 개인과 정부에 대한 공격이 더 쉬워질 수 있습니다.

반응형

① AI는 해커가 더 효과적인 코드를 작성할 수 있도록 도움으로써 개인이나 기관에 대한 공격을 가속화할 수 있습니다. 그들은 새로운 범죄 도구를 만드는 것을 멈추지 않을 것입니다.

 

② 이것이 AI 규제안을 원인 삼아 AI 발전을 일시적으로 막으려 해서는 안 되는 이유입니다. 악용을 막기 위한 노력도 같은 속도로 계속 진행되어야 하기 때문입니다.

 

③ AI를 통한 군비 경쟁이라는 글로벌 차원의 위험도 존재합니다. 이를 방지하기 위해서 국제 핵 비확산을 위한 국제원자력기구와 유사한 AI 글로벌 기구를 설립하는 것을 고려해야 합니다.

 

빌 게이츠가 인정한 인공지능(AI)이 가져올 우려와 이에 대한 생각

 

3. 사람들의 일자리를 빼앗을 것입니다.
① 이에 대해서, AI는 사람들이 업무를 더 효율적으로 수행할 수 있도록 돕는 역할을 할 것입니다. AI는 단기적으로 업무의 생산성을 높이며 이는 사회적으로도 좋은 일입니다.

 

② 또한 환자를 돌보거나, 노인을 부양하는 등의 사람을 돕는 일에 대한 수요는 결코 사라지지 않을 것입니다.

 

③ 분명한 것은, AI의 영향력은 PC의 도입만큼 거대할 것입니다. 즉, AI 기반의 업무 환경으로 전환하는 과정에서 여러 차원의 지원과 재교육이 필요할 것이며, 이는 정부와 기업의 역할이 클 것입니다.

 

4. AI는 인류의 편견에 기반하여 무언가를 만들어냅니다.

① 사용자 요청의 맥락을 이해하지 못하여 환각(hallucination)을 만들어내거나, 특정 성 정체성이나 인종 등을 가진 사람들에 대한 편견을 반영하고 이를 악화시킬 수 있습니다.

 

② 이는 트랜스포머 방식을 기반으로 작동하는 AI 모델에서 많이 나타나며, 사용자 질문의 맥락이 아닌 학습된 데이터를 기반으로 답변하기 때문에 발생하는 문제입니다.

③ 즉 AI 모델은 학습된 텍스트에 어떤 편견이 숨어져 있든 이를 그대로 이어받습니다. 예를 들어 의사에 대한 텍스트를 학습할 때 주로 남성 의사가 언급되어 있다면 대부분의 의사는 남성이라고 가정하여 답변합니다.

 

④ 하지만 일부 연구자들의 주장과는 달리, 환각과 같은 문제가 모델의 본질적인 문제라고 생각하지 않습니다. 시간이 지나면 AI 모델이 사실과 허구를 구분할 수 있게 될 것이라고 생각하며, 이미 OpenAI는 이 분야에서 유망한 연구를 진행하고 있습니다.

 

⑤ 또한 다양한 배경을 가진 사람들이 모델을 설계하거나, 인간의 가치와 더 높은 수준의 추론 능력을 AI에 구축하여 편향성을 해결할 수 있습니다. AI를 사용하는 사람들도 자신의 편견뿐만 아니라 AI의 편견을 인식하고 활용해야 합니다.

 

빌 게이츠가 인정한 인공지능(AI)이 가져올 우려와 이에 대한 생각

 

5. 학생들이 글쓰기를 배우지 않습니다. 이는 1970-80년대에 전자계산기가 처음 보급되던 시기의 걱정과 유사합니다.

① 일부 수학 교사들은 학생이 기본적인 산수를 배우지 않을까 걱정했지만, 다른 교사들은 새로운 기술을 받아들이고 산수에 필요한 사고력을 키우는 데 집중했습니다. 즉 새로운 기술을 배우고 활용하는 교사들은 많은 이점을 얻을 수 있을 것이라고 생각합니다.

 

② 또한 진실과 거짓을 구별하는 방법을 아는 것보다 더 중요한 기술은 거의 없습니다. 즉 환각과 편견을 가진 AI가 작성한 글에 대해 진위 여부를 확인하도록 하여 비판적 사고에 도움을 줄 수 있습니다.

 

③ 더욱이 해결해야 할 문제는, AI 기반의 교육용 소프트웨어가 학생 간 성취도 격차를 줄일 수 있도록 하는 것입니다. 즉 모든 유형의 학생들이 AI 혜택을 누리도록 해야 합니다. 이미 동기 부여가 된 학생의 역량을 강화하는 것은 간단하지만, 아직 동기 부여가 되지 않은 학생을 교육에 끌어들이는 방법은 아직 모르기 때문입니다.

 

6. AI의 위험을 관리하면서 동시에 혜택을 극대화할 수 있다는 낙관적인 전망을 하지 않을 이유가 없습니다.

728x90

① 위험을 관리할 수 있다고 믿는 가장 큰 이유는 이전에 해본 적이 있기 때문입니다. 즉 역사적 선례가 있으며, 과거로부터 배울 수 있습니다.

 

② AI로 인해 발생하는 많은 문제들은 동일하게 AI를 통해 해결할 수 있습니다. 이를 위해 새로운 기술에 대응할 수 있는 법과 규정을 만들어 인류에게 득이 되는 방향으로 움직여야 합니다.

---

 

인공지능(AI)으로 돈을 버는 방법 (feat. 자동으로 생성한 텍스트로 채워진 정크 웹사이트)

 

구글, 직원들에게 생성형 인공지능(AI) 챗봇 사용 경고

 

인공지능(AI)을 규제할 수 있는 6가지 방법 (feat. 가이드 분석 결과)