EU AI Act와 제품안전관리 제도 연계 분석

EU AI Act와 우리나라 제품안전관리제도와 비교 연계 분석

• 분석에 사용된 EU AI Act 관련 자료는 지난 2024년 1월에 EU에서 발간된 AI Act Consolidated text{:target=“_blank”}를 참고

위험 수준	AI Act 규제 방법	AI 사례	제품안전관리 제도와의 연계
허용 불가 위험	- 전면 금지 - 시장 출시 및 사용 금지 - 예외적 허용 가능(공공 안전 등)	- 사회적 점수 시스템 - 실시간 원격 생체인식 시스템	- 위험 제품 출시(수입) 금지
고위험	- 사전 적합성 평가 - EU 데이터베이스 등록 - 지속적인 위험 관리 및 모니터링 - 인간 감독 - 로깅 기능	- 중요 인프라 AI - 교육 및 직업 훈련 AI - 고용, 근로자 관리 AI - 법 집행 AI	- 제3자 인증 - 시장 출시 전 사전 인증 - 안전성 조사 등으로 시장모니터링
특정 투명성 의무	- 투명성 의무 준수 - AI 사용 고지 - 딥페이크 콘텐츠 라벨링	- 챗봇 - 감정 인식 시스템 - 딥페이크	- 제조업체의 자가 평가 - 사용자 정보 제공 의무
최소 위험	- 자발적 행동 강령 권장 - 규제 없음 - 자율 규제	- AI 기반 게임 - 스팸 필터	- 규제 대상에서 제외

EU AI 사무소 (AI Office)

• EU AI Act는 규제의 효과적인 이행을 위해 ‘EU AI 사무소’의 설립을 규정. AI 시스템의 규제와 감독을 위한 중추적인 역할을 담당
  1. AI 기술과 규제에 대한 전문 지식 제공
  2. 국가 감독 기관들 간 협력 조정
  3. 고위험 AI 시스템 EU 데이터베이스 관리
  4. AI 시스템 시장 동향 모니터링
  5. AI Act 이행을 위한 가이드라인 개발
• 주요특징
  • 독립성: EU 집행위원회 산하이지만 독립적으로 운영
  • 인력 구성: AI 기술, 법률, 윤리 등 다양한 분야의 전문가로 구성
  • 자문 그룹: 산업계, 학계, 시민사회 대표로 구성된 자문 그룹 운영

결론

• EU AI Act는 AI 시스템의 위험 수준에 따라 차별화된 규제를 적용하여 AI 기술의 안전성을 확보
  • AI 사무소의 설립은 이러한 규제의 효과적인 이행과 일관된 적용을 보장하기 위한 중요한 조치
• 제품안전관리 제도와 유사하게, 고위험 시스템은 엄격한 사전 규제와 지속적인 모니터링을 통해 관리, 저위험 시스템에 대해서는 상대적으로 유연한 사후관리 등 접근법
• 국내 AI가 탑재된 제품/서비스에 대한 국내 규제 체계를 수립할 경우, EU AI Act의 위험 기반 접근 방식과 제품안전관리 제도를 참고하여 효과적이고 균형 잡힌 규제 프레임워크의 구축이 필요