유럽 AI 규제 역사적 합의

유럽, AI 규제 역사적 합의

인공지능 AI

 

 

유럽은 지난주 금요일, 정부의 생체 인식 감시에서 AI 사용 및 ChatGPT와 같은 AI 시스템 규제하는 방법을 포함하여 인공지능(AI) 사용을 규제하는 획기적인 유럽 연합 규칙에 대한 잠정 합의에 도달했습니다.

 

이 정치적 합의를 통해 EU는 AI를 규제하는 법률을 제정하는 최초의 주요 세계 강국으로 나아가고 있습니다. 금요일 유럽 국가와 유럽 의회 간의 합의는 거의 24시간 동안의 토론이 이어진 이후 15시간 가까운 협상 끝에 이루어졌습니다.

 

양측은 향후 몇 일 안에 세부 사항을 논의할 예정이며, 이는 최종 법안의 형태를 바꿀 수 있습니다.

 

티에리 브르통 유럽연합 집행의원은 기자회견에서 "유럽은 글로벌 표준 설정자로서의 역할의 중요성을 이해하고 선구자로 자리매김했습니다. 저는 이것이 역사적인 날이라고 믿습니다."라고 말했습니다.

 

이 협정은 ChatGTP 및 일반 목적의 AI 시스템(GPAI)과 같은 기초 모델이 시장에 출시되기 전에 투명성 의무를 즌스하도록 요구합니다. 여기에는 기술 문서 작성, EU 저작권법 준수, 교육용 콘텐츠에 대한 자세한 요약 배포 등이 포함됩니다.

 

시스템적 위험이 있는 영향력이 큰 기반 모델은 모델 평가를 수행하고, 시스템적 위험을 평가 및 완화하고, 적대적 테스트를 수행하고, 심각한 사고에 대해 유럽 위원회에 보고하고, 사이버 보안을 보장하고, 에너지 효율성에 대해 보고해야 합니다.

 

시스템적 위험이 있는 GPAI는 새로운 규정을 준수하기 위해 실천 강령에 의존할 수 있습니다.

정부는 살인, 성범죄, 인신매매 등 특정 범죄 피해자의 경우, 테러 공격과 같은 실제적이고 현재 또는 예측 가능한 위협을 예방하기 위한 경우, 가장 심각한 범죄로 기소된 사람을 수색하기 위한 경우 등 공공 장소에서 실시간 인식 감시를 사용할 수 있습니다.

 

이 합의는 정치적, 종교적, 철학적 신념, 성적 취행 및 인종을 추론하기 위해 인지 행동 조작, 인터넷이나 CCTV 영상에서 얼굴 이미지를 의도적으로 스크랩하는 것, 사회적 점수 매기기 및 생체 인식 분류 시스템을 금지합니다.

 

소비자는 불만을 제기하고 합리적인 설명을 받을 권리가 있으며 위반 시 벌금은 약810만 달러 또는 매출액의 1.5% 도는 글로벌 매출액의 7%에 이릅니다.

 

비즈니스 그룹인 디지털유럽(DigitalEurope)은 최근 제정된 다른 법안과 더불어 기업에 또 다른 부담이 될 것이라는 이유로 이 규정을 비판했습니다.

 

"우리는 합의를 했지만, 그 대가는 무었이 있습니까? 우리는 기술 자체가 아니라 AI 사용을 기반으로 한 위험 기반 접근 방식을 전적으로 지원했지만, 기초 모델을 규제하려는 마지막 순간의 시도가 이를 뒤집어놓았습니다." 세실리아 본넬펠드달 사무총장은 이렇게 말했습니다.

 

개인 정보 보호 권리 그룹인 유럽 디지털 권리(European Digital Right)도 마찬가지로 이 규정에 비판적이었습니다.

EU의 수석 정책 고문인 엘리 자쿠보브스카(Ella Jakubowska)는 "EU에서 처음으로 전 지역에서 공공 얼굴 인식을 합법화하는 법안을 통과시킨 만큼 이에 대한 기쁨을 표하기는 어렵습니다." 라고 의회 수석 정책 자문위원 엘라 야쿠보프스카는 말했습니다.

 

"의회는 피해를 최소화하기 위해 노력했지만, 생체 인식 감시 및 프로파일링에 대한 전반적인 패키지는 미온적입니다." 

 

이 법안은 양측이 공식적으로 비준하는 즉시 내년 초에 발효될 예정이며, 2년 후에 적용될 예정입니다.

 

전세계 정부들은 인간과 같은 대화를 나눌 수 있고 질문에 답변하며 컴퓨터 코드를 작성할 수 있는 기술의 장점과 보호 장치를 마련해야 할 필요성 사이의 균형을 맞추고자 합니다.

 

유럽의 야심 찬 AI규정은 마이크로소프트가 투자한 OpenAI와 같은 회사들이 새로운 기술 사용법을 계속 발견하면서 찬사와 우려를 모두 불러일으키고 있습니다.

 

Google은 OpenAI에 대응하기 위해 목요일에 Gemini라는 새로운 AI모델을 출시했습니다.

EU 법은 다른 정부의 청사진이 될 수 있으며, 미국과 중국의 가벼운 규제 접근 방식과 중간 규칙에 대한 대안이 될 수 있습니다.