AI 선구자, 구글을 떠나 기술의 실존적 위협을 인류에게 경고

AI 선구자, 구글을 떠나 기술의 실존적 위협을 인류에게 경고

 

인공지능 개발에 지대한 공헌을 한 인공지능의 대부 제프리 힌턴(Geoffrey Hinton)은 인공지능(AI) 시스템이 인간에게 제기하는 실존적 위험에 대해 세계에 경고하기 위해 구글에서 사표를 내고 떠났습니다. 그는 트위터에 "구글은 인공지능이 어떤 영향을 미칠지 고려하지 않고 무분별하게 개발함에 따라 인공지능의 위험성에 대해 고려할 수 있도록 그만두었다."라고 본인의 생각을 전했습니다. 제프리 힌턴은 2013년 구글에 입사한 후 기계 학습 알고리즘을 설계했고 음성 인식 및 개체 분류를 혁신한 딥 러닝의 주요 혁신에 기여했으며 결국 부사장으로 승진했습니다.

 

반응형

 

1. 제프리 힌턴(Geoffrey Hinton)의 입장

제프리 힌턴(Geoffrey Hinton)은 구글에서 10년 간 근무한 후 사임을 설명하면서 "나는 인공지능 시스템이 아직 인간만큼 똑똑하다고 믿지 않으나 그들이 곧 그렇게 될 것이라고 생각한다"라고 위험을 언급했습니다. 그는 인공지능으로 인한 위험에 대해 자유롭게 이야기할 수 있기를 원한다고 말했지만 회사는 해당 사항에 대하여 사회적인 책임에 대해 내부적으로 매우 진중하게 진행하고 있는 사안으로 추가적인 논의보다는 업무에 집중하기를 원했다고 합니다.

 

그는 "나는 우리가 개발하고 있는 인공지능은 사람이 가지고 있는 지능과 매우 다르다는 결론에 도달했습니다."라고 말하며,  "가장 큰 차이점은 디지털 시스템을 사용하면 동일한 모델의 프로그램이 많으므로 모든 프로그램은 개별적으로 배울 수 있지만 데이터는 즉시 공유할 수 있습니다. 따라서 이러한 인공지능은 마치 10,000명의 사람들이 동일한 사안에 대해서 연구하고 있고 한 사람이 무언가를 배울 때마다 다른 모두가 자동으로 그것을 알게 되는 것과 같습니다. 이것이 바로 인공지능이 사람보다 훨씬 더 많은 것을 알 수 있는 방법입니다.”라고 주장했습니다.

 

특히 그는 권위주의 지도자와 같은 악의적인 행위자가 인공지능 기술을 조작하여 일반인들에게 피해를 입힐 수 있다고 경고했습니다. 예를 들어 텍스트와 관련된 인공지능의 발전이 매우 효과적인 스팸봇으로 이어져 권위주의 지도자들이 유권자들을 조종할 수 있다고 말했습니다. 그들이 생성한 시스템이 독립적이고 자체적으로 권력을 추구하기로 목표를 설정할 수 있다며 이 결과는 악몽적인 현실이 될 것이라고 말했습니다. 

 

728x90

제프리 힌턴은 별도의 인터뷰에서 인공지능이 인간이 가진 지능을 능가할 가능성이 이전에 예상했던 것보다 빠르게 현실화되고 있다고 주장했습니다. 그는 “처음에는 30년에서 50년 또는 그보다 더 멀다고 생각했습니다. 하지만 지금은 분명히 더 이상 그렇게 오랜 기간이 걸릴 것이라 생각하지 않는다.”라고 말했습니다. 그는 또 다른 우려로 가짜 이미지, 비디오 및 텍스트에 대하여 대부분의 사람들이 더 이상 무엇이 진실인지 알 수 없게 된 상황은 심각한 위험이라고 말했습니다. 지난 3월 흰색 퍼 코트를 입은 프란치스코 교황의 사진이 입소문을 타면서 교황은 발렌시아가를 입는다는 소문이 펴졌지만 이 사진은 가짜로 판명됐습니다. 그는 핵무기와는 달리 정부나 기업이 인공지능을 은밀하게 사용하는 것을 막거나 처벌하는 국제적 규정이 없다는 점도 인정하며, 잠재적인 위험을 완화하기 위해 기술을 제어를 위한 최고 과학자들이 협력할 것을 촉구했습니다. 마지막으로 인공지능 기술개발에서 자신의 핵심 역할을 언급하며 "나는 일반적인 변명으로 스스로를 위로합니다. 내가 하지 않았다면 다른 누군가가 그랬을 것입니다."라고 응답했습니다.

 

구글의 수석 과학자인 제프 딘(Jeff Dean)

 

2. 구글(Google)의 입장

구글의 수석 과학자인 제프 딘(Jeff Dean)은 제프리 힌튼의 사임과 논평에 대한 응답으로 여러 언론 매체에 발표한 성명에서 “우리는 인공지능에 대한 책임감 있는 접근방식에 전념하고 있다”라고 말하며, "우리는 대담하게 혁신하는 동시에 새로운 위험을 이해하는 방법을 지속적으로 배우고 있습니다."라고 발표했습니다.

 

인공지능(AI)의 위험성에 대한 경고

 

3. 인공지능(AI)의 위험성에 대한 경고

올해 초 Open AI의 Chat GPT 출시로 인해 메타(Meta) 및 구글(Google)과 같은 거대 기술 기업이 자체 인공지능 제품을 출시하기 위해 더 빨리 움직이도록 세상으로부터 강요받고 있다고 알려졌습니다. 하지만 급격하게 개발되고 적용되는 기술에 대해 전문가들은 잠재적 위험에 대해 경고했으며, 지난 3월 약 1,000명의 비즈니스 리더, 학계 및 기술 종사자들은 Open AI, 구글 및 마이크로소프트(Microsoft)와 같은 회사에 위험이 결정될 때까지 인공지능 시스템 작업을 일시 중지할 것을 촉구하는 공개서한에 서명했습니다. 그러나 Open AI와 구글(Google)과 같은 회사의 고위 경영진은 서명에 이름을 추가하지 않았습니다.

 

 

일론 머스크(Elon Musk)와 스티브 워즈니악(Steve Wozniak), AI 개발 중단 요청.. 3억개의 일자리가 위태

 

새로운 AI는 다윈식 진화를 통해 자체적으로 개선될 것

 

IBM, 인공 지능으로 7,800개의 일자리를 대체 예정