EU AI Act와 제품안전관리 제도 연계 분석

EU AI Act와 우리나라 제품안전관리제도와 비교 연계 분석

• 분석에 사용된 EU AI Act 관련 자료는 지난 2024년 1월에 EU에서 발간된 AI Act Consolidated text를 참고

위험 수준	AI Act 규제 방법	AI 사례	제품안전관리 제도와의 연계
허용 불가 위험	- 전면 금지 - 시장 출시 및 사용 금지 - 예외적 허용 가능(공공 안전 등)	- 사회적 점수 시스템 - 실시간 원격 생체인식 시스템	- 위험 제품 출시(수입) 금지
고위험	- 사전 적합성 평가 - EU 데이터베이스 등록 - 지속적인 위험 관리 및 모니터링 - 인간 감독 - 로깅 기능	- 중요 인프라 AI - 교육 및 직업 훈련 AI - 고용, 근로자 관리 AI - 법 집행 AI	- 제3자 인증 - 시장 출시 전 사전 인증 - 안전성 조사 등으로 시장모니터링
특정 투명성 의무	- 투명성 의무 준수 - AI 사용 고지 - 딥페이크 콘텐츠 라벨링	- 챗봇 - 감정 인식 시스템 - 딥페이크	- 제조업체의 자가 평가 - 사용자 정보 제공 의무
최소 위험	- 자발적 행동 강령 권장 - 규제 없음 - 자율 규제	- AI 기반 게임 - 스팸 필터	- 규제 대상에서 제외

EU AI 사무소 (AI Office)

• EU AI Act는 규제의 효과적인 이행을 위해 ‘EU AI 사무소’의 설립을 규정. AI 시스템의 규제와 감독을 위한 중추적인 역할을 담당
  1. AI 기술과 규제에 대한 전문 지식 제공
  2. 국가 감독 기관들 간 협력 조정
  3. 고위험 AI 시스템 EU 데이터베이스 관리
  4. AI 시스템 시장 동향 모니터링
  5. AI Act 이행을 위한 가이드라인 개발
• 주요특징
  • 독립성: EU 집행위원회 산하이지만 독립적으로 운영
  • 인력 구성: AI 기술, 법률, 윤리 등 다양한 분야의 전문가로 구성
  • 자문 그룹: 산업계, 학계, 시민사회 대표로 구성된 자문 그룹 운영

결론

• EU AI Act는 AI 시스템의 위험 수준에 따라 차별화된 규제를 적용하여 AI 기술의 안전성을 확보
  • AI 사무소의 설립은 이러한 규제의 효과적인 이행과 일관된 적용을 보장하기 위한 중요한 조치
• 제품안전관리 제도와 유사하게, 고위험 시스템은 엄격한 사전 규제와 지속적인 모니터링을 통해 관리, 저위험 시스템에 대해서는 상대적으로 유연한 사후관리 등 접근법
• 국내 AI가 탑재된 제품/서비스에 대한 국내 규제 체계를 수립할 경우, EU AI Act의 위험 기반 접근 방식과 제품안전관리 제도를 참고하여 효과적이고 균형 잡힌 규제 프레임워크의 구축이 필요