유로폴(Europol)은 범죄자의 AI 챗봇 활용에 대한 위험성 강조

유로폴(Europol)

 

유로폴(Europol)은 범죄자들이 AI 챗봇의 활용성을 파악하면서 제기될 수 있는 위험을 강조하며 OpenAI의 Chat GPT 및 GPT-4, Google의 Bard와 같은 도구가 대중을 속이는 새로운 방법으로 더 많이 사용될 것이라고 강조했습니다.

 

728x90

 

사이버 범죄 : 피싱 이메일, 허위 사실 유포 및 악성 코드 생성

일반적으로 피싱 이메일은 문법 및 철자 오류로 가득 차 있어서 수신자가 악성 소프트 웨어에 감염된 파일을 다운로드하거나 위험한 웹 사이트로 연결되는 링크를 클릭하지 않습니다. 하지만 AI 챗봇은 조잡한 오류 없이 논리적으로 작성된 메시지를 생성할 수 있으므로 범죄자가 설득력 있는 이메일을 전송하는데 활용될 가능성이 높습니다. 이에, 수신자는 전달받은 메일의 메시지를 확인할 때 더 많은 주의를 기울여야 합니다.

 

또한 유포폴(Europol)은  AI 챗봇이 "특정 개인이나 그룹의 어휘 스타일을 모사하는 데 사용할 수 있는 언어패턴을 재현할 수 있다"고 밝히며 빠른 속도와 대규모의 정보전달을 통해 사실처럼 느껴지는 허위 정보도 확산될 것이라고 밝혔습니다. 상대적으로 적은 노력으로 특정한 부정적인 메시지를 생성하고 전파할 수 있다는 것입니다.

 

마지막으로 사이버 범죄에 코딩을 활용하여 악성 소프트웨어를 생성할 것이라고 경고했습니다. Chat GPT는 인간과 유사한 언어를 생성하는 것 이외에도 다양한 프로그래밍 언어로 코드를 생성할 수 있습니다. 기술 지식이 거의 없는 범죄자들도 이러한 점을 활용하여 악성 코드를 생성할 수 있는 능력을 얻게 된 것입니다.

 

유로폴(Europol)은 온라인에서 범죄 행위를 감지하기가 어려워짐에 따라 이러한 상황이 급속도로 확대되는 부분에 대한 우려를 표했습니다.

 

AI 챗봇 (AI Chatbot)

 

AI 챗봇 열풍은 2022년 11월 Microsoft가 지원한 Open AI가 Chat GPT를 출시하면서 시작되었습니다. 업그레이드된 GPT 4 또한 최근에 출시되었으며 Google에서도 Bard를 공개했습니다. 이러한 도구들은 몇 가지 프롬프트만으로 자연스러운 텍스트를 생성할 수 있으며, 이 기술은 향후 몇 년 동안 다양한 작업을 지원하거나 대체할 것입니다. 최근에는 몇 개의 텍스트 프롬프트만으로 이미지, 비디오 및 오디오를 만들 수 있으며, 이러한 상황은 기술이 계속 향상됨에 따라 어떤 형태의 미디어도 쉽게 생성할 수 있을 것입니다.

 

일론 머스크(Elon Musk)와 Apple 공동 창업자 스티브 워즈니악(Steve Wozniak)

 

최근 일론 머스크(Elon Musk)와 Apple 공동 창업자 스티브 워즈니악(Steve Wozniak)은 급속도로 발전하는 AI 시스템이 사회와 인류에 심각한 위험을 제기할 수 있다고 우려를 표명하며, AI 개발을 6개월 동안 금지할 것을 촉구하는 공개 서한에 서명했습니다.