인공지능(AI)을 규제하는 방법에 대한 의견들

인공지능(AI)을 규제하는 방법에 대한 의견들

 

1. 인공지능(AI)의 정책의 필요성 대두

AI 정책에 스위치가 켜진 느낌입니다. 최근 들어 갑자기 모두가 AI를 규제하는 방법에 대해 이야기하고 싶어 하기 때문입니다. 수년 동안 미국 입법자와 미국 기술 회사는 엄격한 기술 규제를 도입하는 것을 꺼려했습니다. 하지만 이제는 두 기관 모두가 AI를 규제하는 방법에 대한 필요성을 주장하고 있습니다.

 

지난주 OpenAI의 CEO인 샘 알트만(Sam Altman)은 AI 언어 모델의 위험과 잠재력에 대해 이야기하기 위해 미국 상원 위원회에 출두했습니다. 샘 알트만은 많은 상원 의원과 함께 인공 지능에 대한 국제 표준을 요구했습니다. 그는 또한 미국이 기술 및 AI를 규제하기 위해 식품의약국과 같은 새로운 기관을 설립할 것을 촉구했습니다. 그는 상원 청문회는 고무적이면서도 실망스러웠다고 밝혔습니다. 대화가 소박하고 얄팍한 자기 규제를 장려하는 것에서 벗어나 실제로 회사에 책임을 물을 수 있는 규칙으로 옮겨간 것 같기 때문에 고무적이었으나, 토론이 지난 5년 이상의 AI 정책을 잊은 것 같아서 답답하다고 주장했습니다.

 

반응형

 

조지 워싱턴 대학교(George Washington University)의 데이터 민주주의 및 정책 연구소의 정책 연구원이자 전 힐(Hill) 직원인 안나 렌하트(Anna Lenhart)도 "의회가 제로에서 시작한다고 제안하는 것은 업계에서 가장 좋아하는 내러티브에 불과합니다. 즉, 의회가 너무 뒤처져 있고 기술을 이해하지 못한다는 것입니다. 어떻게 그들이 우리를 규제할 수 있겠습니까?"라고 의문을 제기했습니다. 실제로 2021년 1월부터 2023년 1월까지 진행된 지난 의회에서 정치인들은 AI에 관한 수많은 법안을 도입했습니다. 안나 렌하트는 그동안 제안된 모든 AI 규정의 깔끔한 목록을 정리했으며, 위험 평가에서 투명성, 데이터 보호에 이르기까지 모든 것을 다루고 있습니다. 현재까지 제안된 법안은 아직 대통령의 책상에 오르지 못했지만, 새로운 제너레이티브 AI 도구가 워싱턴의 관심을 끌었다는 점을 감안할 때 안나 렌하트는 제시된 법안의 일부가 개편되어 어떤 형태로든 다시 나타날 것으로 기대한다고 밝혔습니다.

 

인공지능(AI)과 관련된 법안

 

2. 인공지능(AI)과 관련된 법안

1) 알고리즘 책임법(Algorithmic Accountability Act)

이 법안은 사람들의 진통제를 거부하거나 모기지 신청을 거부하는 시스템과 같은 자동화된 의사 결정 시스템의  유형적인 피해를 해결하기 위해 ChatGPT 이전인 2022년 미 의회와 상원의 민주당원에 의해  도입되었습니다. 이 법안은 기업이 알고리즘 영향 및 위험 평가를 수행하도록 요구할 것이라고 안나 렌하트는 말합니다. 또한 AI에 관한 규칙을 규제하고 시행하는 책임을 연방 무역 위원회에 두고 직원 수를 늘릴 것입니다.

 

2) 미국의 개인정보 보호법(American Data Privacy and Protection Act)

이 초당적 법안은  회사가 데이터를 수집하고 처리하는 방법을 규제하려는 시도였습니다.로 대 웨이드 사건(Roe v. Wade)의 판결이 번복된 후 여성이 자신의 개인 건강 데이터를 안전하게 유지하도록 돕는 방법으로 많은 추진력을 얻었지만 시간이 지나면서 통과되지 않았습니다. 제너레이티브 AI의 위험에 대한 논쟁은 지난번보다 더 나아가야 한다는 긴급성을 더할 수 있습니다. 미국의 개인정보 보호법은 생성 AI 회사가 차별적인 방식으로 데이터를 수집, 처리 또는 전송하는 것을 금지합니다. 또한 사용자는 회사가 데이터를 사용하는 방식을 더 잘 제어할 수 있습니다.

 

3) AI 에이전시(AI Agencies)

청문회에서 샘 알트만과 여러 상원 의원은 AI를 규제하기 위해 새로운 미국 기관이 필요하다고 제안했습니다. 안나 렌하트는 미국 정부가 신설 또는 개편된 기존 기관에 관계없이 기술을 규제하기 위해 더 많은 기술 전문성과 자원이 필요하다고 말합니다. 그리고 더 중요한 것은 신규 또는 기존 규제 기관이 법을 집행할 권한이 필요하다는 것입니다. 민주당은 디지털플랫폼위원회법, 데이터보호법, 온라인프라이버시법 등을 통해 새로운 보호장치를 마련하려고 노력했습니다. 그러나 초당파의 지원이 없는 대부분의 미국 법안과 마찬가지로 이러한 시도는 실패했습니다. 이에 따라, 다른 기술 중심 에이전시가 진행 중일 가능성이 높습니다. 공화당원 린지 그레이엄(Lindsey Graham) 상원의원과 민주당원 엘리자베스 워렌(Elizabeth Warren) 상원의원은 소셜 미디어 회사를 감시하고 허가할 수 있는 권한을 가질 수 있는  새로운 디지털 규제 기관을 만들기 위해 협력하고 있습니다. 척 슈머(Chuck Schumer) 민주당 의원은 또한 AI 피해를 구체적으로 다루는 새로운 법안을 도입하기 위해 상원 위원회를 결집하고 있습니다. 그는 책임 있는 AI 개발 촉진을 목표로 하는 가드레일을 설정하는 포괄적인 AI 법안을 마련하기 위해 초당적인 지지를 모았습니다. 예를 들어 기업은 기술이 출시되기 전에 외부 전문가가 기술을 감사하도록 허용하고 사용자와 정부에 AI 시스템에 대한 자세한 정보를 제공해야 할 수 있습니다.

 

인공지능(AI) 개발에 대한 업계현황

 

3. 인공지능(AI) 개발에 대한 업계현황

1) 메타(Meta)

메타(Meta)의 새로운 AI 모델은 1,000개 이상의 언어로 음성을 인식하고 생성할 수 있습니다. 매타는 1,000개 이상의 언어로 음성을 인식하고 생성할 수 있는 AI 모델을 구축했습니다. 이는 현재 사용 가능한 것보다 10배 증가한 것입니다. 이것이 중요한 이유는 사라질 위험에 처한 언어를 보존하기 위한 중요한 단계라고 말합니다. 전 세계에는 약 7,000개의 언어가 있지만 기존 음성 인식 모델은 약 100개 언어만 포괄적으로 다루고 있습니다. 이러한 종류의 모델에는 영어, 스페인어 및 중국어를 포함한 소수의 언어에서만 사용할 수 있는 엄청난 양의 레이블이 지정된 훈련 데이터가 필요한 경향이 있기 때문입니다.

 

728x90

 

2) 구글(Google)

8년 전 Google의 애플리케이션은 흑인 사진을 고릴라로 잘못 표시했습니다. 회사는 임시 해결책으로 모든 사진에 대해 유인원으로 분류되지 않도록 했습니다. 그러나 몇 년이 지난 후 구글은 컴퓨터 비전과 관련된 기술의 큰 발전에도 불구하고 문제에 대한 해결책을 찾지 못했습니다.

 

또한 구글은 바드(Bard)가 케첩(ketchup)에 e이라는 스펠링이 몇 번 나오는지 알고 싶어 했습니다. 이것은 언어 모델이 작동하는 방식에 대한 분석을 진지하게 시작하는 첫 단계였습니다. 구글의 챗봇인 바드는 단어가 몇 개인지 모른다는 결과가 나왔습니다. 이러한 모델은 개별 문자를 인식하는 대신 토큰을 사용하여 단어를 형성하기 때문입니다. 예를 들어 바드는 케첩(ketchup)이라는 단어의 첫 글자가 k가 아니라 ket이라고 생각할 것입니다.

 

3) 애플(Apple)

애플(Apple)은 챗봇이 회사 기밀 정보를 유출할까 봐 걱정하고 있기 때문에 직원의 ChatGPT 사용을 금지하고 있습니다. 불과 몇 달 전 OpenAI가 사용자 채팅 기록을 유출한 버그로 인해 ChatGPT를 오프라인으로 가져와야 했다는 점을 감안하면 이것은 단순한 우려가 아닙니다.

 

 

애플(Apple Inc.)의 패러다임 전환 (Feat. 인공지능)

 

구글 바드(Google Bard)의 사용법 (feat. ChatGPT 라이벌 등장)

 

ChatGPT를 만든 사람들이 들려주는 비하인드 스토리