EU AI 법이란?

EU AI 법은 유럽 연합 내에서 인공 지능 시스템이 개발, 출시 및 사용되는 방법을 관리하는 포괄적인 규제 프레임워크입니다. AI 제공업체와 배포자 모두에게 적용되며 AI 시스템이 개인, 사회 및 기본 권리에 미치는 영향을 기반으로 명확한 법적 의무를 설정합니다. 이 법은 AI 수명 주기 전반에 걸쳐 투명성, 위험 관리, 인적 감독, 데이터 거버넌스 및 사이버 보안에 대한 요구 사항을 설정하여 건강, 안전 및 기본 권리를 보호하면서 혁신을 촉진합니다.

EU AI 법은 AI 시스템이 개인과 사회에 미치는 위험 수준에 따라 규제하는 위험 기반 접근법을 사용합니다. 잠재적 위험이 높을수록 공급자와 배포자에게 부과되는 의무는 더 엄격합니다.

• 금지된 관행
  용납 불가능한 위험을 제기하는 AI 시스템은 완전히 금지됩니다. 여기에는 인지 행동 조작, 공공 기관의 사회적 채점, 얼굴 이미지의 무차별 수집, 정치적 신념 또는 성적 지향과 같은 민감한 속성의 생체 인식 추론이 포함됩니다.
• 고위험 AI 시스템
  고위험 시스템은 중요 인프라, 고용 및 HR, 신용도 평가, 교육, 의료, 법 집행, 국경 통제 및 사법 관리와 같은 민감하거나 규제되는 영역에서 사용되는 시스템입니다. 이러한 시스템은 시장에 출시되기 전에 위험 관리 프로세스, 고품질 교육 데이터, 기술 문서, 인적 감독, 사이버 보안 보호 및 CE 표시를 포함한 엄격한 요구 사항을 충족해야 합니다.
• 범용 AI 모델(GPAI)
  이 범주에는 대형 언어 모델(LLM)과 같은 대규모 모델이 포함됩니다. 제공업체는 투명성 의무를 준수하고 저작권 규칙을 준수하며 교육 관행을 문서화하고 특히 더 유능하거나 광범위하게 배포한 모델에 대해 시스템 위험을 해결하기 위한 조치를 도입해야 합니다.
• 제한적 위험 AI 시스템
  이러한 시스템에는 주로 투명성 의무가 적용됩니다. 사용자는 예외가 적용되지 않는 한 챗봇 또는 딥페이크와 같은 AI 생성 콘텐츠와 상호 작용할 때 알림을 받아야 합니다.
• 최소 또는 무위험 AI 시스템
  AI 지원 비디오 게임 또는 스팸 필터와 같이 위험이 거의 또는 전혀 없는 AI 애플리케이션은 AI 법에 따른 규제에서 크게 면제됩니다.

AI법을 위반하면 최대 3,500만 유로 또는 전 세계 연간 매출액의 7% 중 높은 금액의 벌금이 부과될 수 있습니다.

2025년 2월 2일부터 제공업체와 배포자는 직원 간에 충분한 AI 활용성을 보장해야 합니다. 교육이 권장되지만 필수는 아닙니다.

주요 고려 사항에는 회사의 역할, AI에 대한 일반적인 이해, 관련 위험 및 기술적 지식과 맥락을 기반으로 한 맞춤형 문해력 조치가 포함됩니다.

EU AI 법의 이행은 조직이 규제 의무를 운영 통제로 전환하도록 요구합니다. 감사는 기업들이 AI 시스템의 사용 방법, 위험 존재 위치 및 필요한 규정 준수 조치를 이해하도록 지원함으로써 이 프로세스에서 중요한 역할을 합니다.

이러한 감사의 목적은 다음과 같습니다.

• 법의 위험 범주에 따라 AI 시스템 식별 및 분류
• 조직이 공급자, 배포자 또는 둘 다로 활동하는지 여부를 결정합니다.
• AI 시스템이 데이터를 처리하고 출력을 생성하는 방법 평가
• 투명성, 인적 감독, 사이버 보안 및 위험 관리의 격차 파악
• 개선 계획, 거버넌스 구조 및 규정 준수에 필요한 내부 통제에 대한 정보 제공

실제로 이러한 평가는 AI 거버넌스 프로그램의 토대를 형성하며 조직이 위험 및 규제 노출을 기반으로 규정 준수 노력의 우선순위를 정할 수 있도록 합니다.