범용 AI를 포함한 EU 인공지능법에 담긴 의미 2024.10.7.

[칼럼] 범용 AI 포함한 EU 인공지능법에 담긴 의미 < 칼럼 < 오피니언 < 기사본문 - 굿모닝경제 (goodkyung.com)

 

 

유럽연합(EU)의 인공지능법(AI Act)이 2024년 8월 1일 발효되었다. 이 법은 2021년 4월에 처음 제안되어 2023년 12월에 유럽의회와 이사회에서 최종 합의된 것으로 모든 EU 국가에 통일된 규제 프레임워크를 제공한다. 핵심은 AI의 책임 있는 개발과 배포를 촉진하고 시민의 권리와 안전에 미치는 영향을 최소화하며, 투명성과 책임성을 강화하는 데 있다. 인공지능법은 위험 기반 접근법을 사용하여 AI 시스템을 네 가지 위험 수준으로 분류한다. 첫째, 최소한의 위험(Minimal Risk)으로 스팸 필터, AI 비디오 게임 등 대부분의 AI 시스템이 여기에 속한다. 의무 사항이 없으나 기업은 자발적으로 추가 행동 강령을 채택할 수 있다. 둘째, 특정 투명성 위험(Specific Transparency Risk)으로 챗봇과 같은 AI 시스템은 사용자에게 AI와 상호작용하고 있음을 명확하게 알려야 하며, AI가 생성한 콘텐츠에는 라벨을 붙여야 한다. 셋째, 고위험(High Risk) AI로 의료 소프트웨어, 금융 서비스, 채용 시스템 등 고위험 AI는 엄격한 규제를 준수해야 한다. 여기에는 고품질의 데이터 세트 사용, 위험 완화 시스템 구축, 사용자 정보의 투명성, 인적 감독 등이 포함된다. 이러한 AI 시스템은 출시 전과 출시 후 지속적인 평가를 받아야만 한다. 넷째, 용납할 수 없는 위험(Unacceptable Risk) AI는 사람들의 기본권을 위협하는 사회적 점수화 AI 시스템, 실시간 원격 생체 인식 등의 시스템은 금지된다.

 

EU는 범용 AI( GPAI: General-Purpose Artificial Intelligence)에 관한 규정도 마련하여 2025년까지 실무 강령을 확정할 예정이다. GPAI는 다양한 응용 분야에서 사용할 수 있는 범용 AI 시스템을 일컫는다. 이는 특정한 목적이나 작업에 국한되지 않고 언어 모델, 이미지 생성, 데이터 분석 등 여러 기능을 수행할 수 있는 AI를 포함한다. 대표적인 예로 챗봇과 대화형 AI 모델이 있으며, 이러한 범용 AI는 여러 산업과 일상생활에 적용될 수 있어 큰 영향력을 가지고 있다. EU는 2025년까지 GPAI에 대한 실무 강령을 확정할 예정이며, 투명성, 저작권, 위험 관리 등 중요한 부분을 다룰 계획이다. GPAI 제공업체와 시민사회, 학계의 의견을 수렴해 최종안을 작성하며, GPAI 규제는 윤리적이고 안전한 AI 사용을 보장하기 위한 것이다. 규제가 적용되면 기업과 연구 기관은 AI 모델 개발 및 배포 시 규제 준수 사항을 반드시 고려해야 하며, 이는 AI 기술의 발전과 적용 방식에 큰 변화를 가져올 수 있다.

 

EU가 인공지능법을 발효함에 따라 유럽 시장에서 AI를 활용하는 기업들은 이 규제에 맞춰 시스템을 설계해야 한다. 규정을 위반할 경우 최대 매출의 6%에 해당하는 벌금이 부과될 수 있다. EU의 인공지능법은 AI 분야에서의 글로벌 규범을 추구하고, 이 규제는 국제적으로 AI 사용에 대한 표준을 수립할 가능성이 높다. EU가 AI 규제에 있어 선도적인 역할을 함에 따라 다른 국가들도 AI 규제에 대한 관심이 높아질 것이며, 이는 글로벌 AI 산업의 미래 방향에 결정적인 영향을 줄 수 있다. 이는 한국 기업이 유럽 시장에 진출하려면 EU의 규제에 부합하는 제품과 서비스를 개발해야 한다는 의미이다. 특히 고위험 AI 시스템에 대한 엄격한 기준이 수립되어 있어 한국 기업들은 기술 개발과 데이터 관리 방식에 변화를 줄 필요가 있다.

 

출처: The AI Act Explorer | EU Artificial Intelligence Act

 

출처: 5 Things You Must Know Now About the Coming EU AI Regulation | by Lori Witzel | Medium

 

출처: EU AI Act: first regulation on artificial intelligence | Topics | European Parliament (europa.eu)