유럽연합(EU), 세계 최초로 인공지능(AI)법 가결

유럽연합(EU), 세계 최초로 인공지능(AI)법 가결

 

지난 13일(현지 시각), 인공지능(AI) 규제 법안인 AI 법이 유럽의회 본회의를 통과됐습니다. 유럽연합(EU)이 만든 이 법은 구속력을 가진 최초의 AI 규제법입니다. 전 세계 주요 선거를 앞두고 AI를 활용한 딥페이크가 확산하고, AI가 대량살상무기로 악용될 가능성이 제기되는 등 우려가 커집니다. 다른 나라의 AI 관련 입법에 영향을 미칠 수 있어 주목받습니다.

 

1. AI 법, 그 정체는?

1) 법의 심판을 받게 된 AI

EU의 AI법은 AI 개발과 활용을 폭넓게 규제합니다. 법 위반 시 최대 3,500만 유로(약 505억 원) 또는 전 세계 매출의 최대 7%에 달하는 벌금이 부과됩니다. 회원국별 의회 승인을 거쳐 공식 제정이 되면 올 연말부터 회원국 별로 단계적으로 시행돼 2026년 이후 전면 도입됩니다.

 

2) 규제를 결정짓는 위험도

법안의 핵심은 위험성에 따라 AI 활용 분야를 4개 단계로 나누고 차등 규제하는 겁니다. 건강, 안전, 기본권, 환경, 민주주의 및 법치주의 관련 분야가 고위험 분야입니다. 구체적으로 살펴보면 물·전기 등 핵심 인프라, 의료·고용·금융 등 핵심 서비스, 교육 및 직업 훈련, 선거 및 특정 사법 체계, 이주 및 국가의 주요 시스템 등입니다. 이 분야에서 사용되는 AI는 인간의 감시, 감독과 위험관리시스템 구축이 필수입니다.

 

3) 아예 금지하는 분야는?

AI를 활용해 인간의 생체 정보를 실시간으로 수집하거나 식별하는 건 원칙적으로 금지합니다. 강간이나 테러 같은 강력 범죄자를 추적하는 경우에만 제한적으로 활용할 수 있습니다. 이때에도 법원의 사전 허가가 필요합니다. 인종, 종교, 정치적 성향, 성적 지향과 같은 개인의 특성이나 행동을 기준으로 점수 및 등급을 매기는 AI ‘소셜 스코어링’도 금지됩니다.

 

4) 딥페이크 표시 의무화

최근 논란을 불러일으키는 딥페이크 관련 규제도 포함됐습니다. 딥페이크 제작물에는 AI로 만들었다는 사실을 명시해야 합니다. 유명 연예인, 정치인 가릴 것 없이 딥페이크 피해를 겪는 와중에 선거에 영향을 주는 사례까지 등장하면서 이를 원천 차단하려는 조치입니다.

 

반응형

2. AI법, 꽤 오래전부터

1) 인간이 통제하는 AI

EU는 지난 2021년 4월에 AI 법 초안을 발의했습니다. 그 배경엔 인간이 AI 개발과 활용의 중심이 돼야 한다는 인식이 있습니다. 하지만 규제로 인해 역내 기업들이 자칫 중국이나 미국 기업과의 경쟁에서 밀릴 수 있다는 비판에 법안 통과가 지연됐습니다. 자국 내 AI 경쟁력을 키우려는 프랑스, 독일 등 일부 회원국이 반대 의사를 표시했습니다.

 

2) 이젠 안 되겠다

그러나 AI의 발전과 활용 속도가 빨라지면서, 유해한 AI 시스템도 급속도로 확산한다는 위기감이 커졌습니다. 이에 작년 12월 유럽의회는 37시간의 장시간 회의 끝에 AI 법 합의에 도달했습니다. 특히 챗GPT 같은 생성형 AI 모델이 등장하면서 초기 버전에는 없던 내용이 추가되기도 했습니다.

 

3) 최종_진짜최종

서둘러 마련한 최종안에는 범용 AI(AGI) 개발 기업에 투명성 의무를 부여하는 내용이 새로 담겼습니다. 고도의 AI를 개발하는 기업은 EU의 저작권법을 반드시 지켜야 하고, 학습 및 훈련 과정에서 사용한 콘텐츠나 데이터를 공개해야 한다는 겁니다. 사이버 공격이나 유해한 선입견 전파 같은 사고 발생을 막는 조치도 마련해야 합니다. 다만, AI를 학습시키는 방법과 학습 데이터 등 기업의 기밀이 노출될 우려가 있어 유럽 시장에 진출하려는 빅테크의 고민이 커질 것으로 보입니다.

 

범용인공지능(AGI·Artificial General Intelligence)이란 인간 또는 인간 이상의 지능을 갖춘 AI를 의미합니다. 인간과 같은 인지능력을 바탕으로 스스로 학습할 수 있다는 특징이 있습니다. 사전에 입력된 정보나 변수 내에서만 작동하는 것을 넘어 자율적인 학습 능력을 통해 제작 당시에는 학습받지 못했던 작업도 수행할 수 있습니다.

 

728x90

3. AI 법, 어떻게 볼 수 있을까?

1) 글로벌 표준의 첫걸음

법안 통과 이후 EU 내부 시장 집행위원은 유럽이 “AI 글로벌 표준을 제시하는 신뢰할 수 있는 국가"라는 내용의 성명을 발표했습니다. AI 규제의 필요성을 외치는 다른 나라에서도 EU의 AI 법을 기반으로 AI 규제를 마련할 수 있기 때문인데요. 전문가들은 AI법이 국제적인 이정표 역할을 할 것이라 내다봅니다.

 

2) 우리나라는?

우리나라에서도 AI법을 일부 수용해야 한다는 목소리가 들립니다. 현재 국내에서도 관련 법안이 논의 중입니다. 아직 우리나라엔 특정 AI 기능을 금지하거나 벌금을 부과하는 내용의 조항이 없습니다. 고위험 AI를 규정하고 이에 대한 사전 고지가 이뤄지도록 하는 조항만 있을 뿐입니다.

 

3) 혁신 저해하진 않을까

반면, AI 기술 개발과 산업의 혁신이 가로막힐 수 있다는 우려도 나옵니다. 가파른 기술 발전 속도를 따라가지 못하고 실효성이 부족할 거라는 비판도 있습니다. 이럴 경우 AI를 둘러싼 논란은 더욱 복잡해질 수 있습니다. 일각에선 유럽이 AI 산업에서 뒤처지면서 규제에 집중하는 것이란 지적도 제기됩니다.

---

 

변화가 빠른 세상에서 살아남는 방법 (feat. 변해야 하는 나)

 

기술의 미래를 형성하는 최고의 영향력자 (feat. 생성형 AI)

 

사람들의 마음을 사로잡고 있는 OpenAI의 새로운 AI 모델 (feat. Sora)