5 분 소요

Series E. 두 개의 AI법: 인공지능기본법 vs EU AI Act : E-2

이전 글: E-1 두 법은 다른 질문에서 태어났다

함께 읽기: B-2 ‘고위험 AI’란 무엇인가

다음 글: E-3 EU는 10개를 금지했고, 한국은 0개다

사전을 찾아본다

번역이 필요한 순간이 있다.

한국 AI 스타트업이 EU 진출 보고서를 쓴다고 하자. “우리 제품은 한국에서 고영향 인공지능이 아닙니다”라는 문장을 영어로 옮겨야 한다. 사전을 찾는다. “고영향”은 high-impact, “고위험”은 high-risk. 그런데 실무자 상당수는 이 문장을 이렇게 옮긴다.

“Our product is not classified as high-risk AI.”

틀린 번역은 아니다. 그러나 이 한 문장이 딛고 선 전제는 틀렸다. “한국에서 고영향이 아니면 EU에서도 고위험이 아닐 것”이라는 전제다.

두 단어가 정말 같은 것을 가리키는지, 먼저 확인해야 한다.

한 줄로 나열한 목록

한국 AI 기본법 제2조제4호는 “고영향 인공지능”을 이렇게 정의한다.

“사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템”

그리고 가목부터 차목까지, 10개 영역을 한 줄로 나열한다.[^1]

  1. 에너지 공급
  2. 먹는물 생산 공정
  3. 보건의료 제공·이용체계
  4. 의료기기 및 디지털의료기기
  5. 원자력시설 관리·운영
  6. 범죄수사·체포용 생체인식정보 분석·활용
  7. 채용·대출심사 등 개인 권리·의무에 중대 영향
  8. 교통수단·시설·체계
  9. 국가기관등 의사결정
  10. 유아·초중등교육 학생 평가

열 개의 항목이 같은 층에, 같은 형식으로 나란히 앉아 있다. 나열 방식에 위계가 없다.

두 갈래로 갈라지는 나무

EU AI Act는 다르다. “고위험 AI”라는 단일 카테고리 안에 완전히 다른 두 개의 판정 경로를 심어 놓았다.[^2]

고위험 AI인가?
       │
       ├── 경로 A (Article 6(1))
       │   Annex I 제품(기계·완구·의료기기 등
       │   기존 EU 제품안전법 적용 대상)의
       │   "안전부품"이거나 그 제품 자체이며,
       │   그 제품법상 제3자 적합성평가가
       │   요구되는 경우
       │
       └── 경로 B (Article 6(2))
           Annex III 열거된 8대 사용 영역에
           해당하는 독립형 AI 시스템
           (생체인식·핵심인프라·교육·고용·
           필수서비스·법집행·이민·사법)

경로 A는 몸을 가진 AI다. 이미 다른 법(예: 의료기기규정 MDR)이 있고, AI Act는 거기에 올라탄다. 경로 B는 몸이 없는 AI다. 독립된 소프트웨어·시스템 그 자체가 판정 대상이다.

이 구조는 낯설지 않다. A 시리즈에서 본 NLF(조화 제품안전법)와 GPSR(일반 제품안전규정)의 이원 구조, D 시리즈에서 본 “몸이 있는 AI”와 “몸이 없는 AI”의 갈림길과 같은 문법이다. EU는 AI 하나를 판정할 때도 이 오래된 두 갈래 습관을 그대로 반복한다.

같은 칸에 넣으면 안 되는 것

한국의 목록과 EU의 나무를 억지로 겹쳐 보면, 어긋나는 지점이 바로 드러난다.

한국 목록의 4번(의료기기·디지털의료기기)을 보자. 이것은 EU Annex III 8대 영역 어디에도 없다. 대신 EU에서 의료기기에 내장된 AI는 경로 A — Annex I 제품(MDR·IVDR)의 안전부품 — 로 분류된다. 같은 “의료 AI”를 놓고, 한국은 하나의 목록 칸에 담았고 EU는 완전히 다른 판정 나무의 다른 가지에 심어 놓은 것이다.

한국 목록의 8번(교통수단·시설·체계)도 마찬가지다. 자동차에 실린 AI는 EU에서 Annex III가 아니라 Annex I(경로 A) — 그것도 D-6에서 확인했듯, NLF조차 아닌 별도의 Section B(자동차 형식승인) 경량체제로 흘러간다.[^3]

한국 목록을 EU의 두 갈래 나무에 다시 심으면 대략 이렇게 갈린다.

  1. EU Annex III(경로 B)에 대응: 채용·대출심사(7번) → 고용·필수서비스, 범죄수사 생체인식(6번) → 생체인식·법집행, 국가기관 의사결정(9번) → 공공서비스·이민·사법, 교육(10번) → 교육
  2. EU Annex I(경로 A)에 대응: 의료기기(4번) → MDR/IVDR 안전부품, 교통(8번) → 자동차·기계류 안전부품, 원자력(5번)·에너지(1번) → 핵심 인프라 관련 제품법
  3. EU 어느 쪽에도 직접 대응이 약한 것: 먹는물(2번), 보건의료 제공체계 자체(3번, 개별 의료기기가 아니라 “체계”)

한국의 “고영향”은 EU의 “고위험” 중 절반은 Annex III와, 나머지 절반은 전혀 다른 법 트랙인 Annex I와 겹친다. 하나의 한국어 단어가 EU의 서로 다른 두 세계에 걸쳐 있다.

확인하는 방식도 다르다

분류만 다른 게 아니다. “내가 고영향/고위험에 해당하는지 어떻게 아는가”를 확인하는 절차 자체가 다르다.

한국 법 제33조는 사업자가 스스로 검토하고, 판단이 애매하면 과기정통부장관에게 확인을 요청할 수 있다고 정한다. 요청은 재량이다. 신청하지 않아도 법 위반은 아니다.[^4]

EU는 다르다. Annex III에 해당하면 원칙적으로 고위험이 자동 확정된다. 예외를 인정받으려면(Art.6(3) — 좁은 절차작업·이미 끝난 인적 활동 개선·패턴 편차 탐지·예비 준비작업 중 하나) 그 판단 근거를 문서화해 보관해야 하고, 프로파일링이 조금이라도 포함되면 이 예외 자체가 무효가 된다.[^5] 그리고 고위험으로 확정되면, 시장에 내놓기 전에 EU 데이터베이스에 공개 등록해야 한다(Article 49, Article 71). 등록하지 않은 고위험 AI는 애초에 시장에 나갈 수 없다.

한국은 “물어볼 수 있는 창구”가 있고, EU는 “등록하지 않으면 문이 열리지 않는 관문”이 있다.

[필자 분석] 단어가 다른 이유

“영향”과 “위험”이라는 단어 선택은 우연이 아니다.

위험(risk)은 A 시리즈에서부터 추적해온 개념이다. 확률×심각도라는 계산 가능한 크기다. 이 계산 가능성이 있기에 EU는 강제 등록·제3자 평가·CE 마킹이라는 사전 관문을 세울 수 있었다. 영향(impact)은 계산의 언어가 아니라 결과의 언어다. “기본권에 중대한 영향을 미칠 우려”라는 문구는 확률을 계산하라고 요구하지 않는다. 결과가 클 수 있다는 사실만 확인하면 된다.

이 단어 선택은 E-1에서 확인한 두 법의 출생증명서와 정확히 맞물린다. EU는 “시장에 내놓아도 안전한가”를 묻는 법이었기에 계산 가능한 위험 개념과 강제 관문이 필요했다. 한국은 “이 기술을 어떻게 키울 것인가”를 묻는 법이었기에, 사업자의 자기 판단에 기대는 영향 개념과 재량적 확인 절차로 충분했다. 목록의 항목 수가 10개냐 8개냐는 껍데기의 차이다. 진짜 차이는 목록 뒤에 무엇이 기다리고 있는가다 — 한국에서는 문의 창구가, EU에서는 등록하지 않으면 열리지 않는 관문이 기다린다.

여기서 실무적 경고 하나가 나온다. “우리 AI가 한국에서 고영향이 아니니 EU에서도 안전하겠지”라는 판단은, 서로 다른 나무의 서로 다른 가지를 같은 가지로 착각하는 것과 같다. 반대의 착각도 똑같이 위험하다 — “EU Annex III에 없으니 한국에서도 고영향이 아니겠지”라는 판단은, 그 시스템이 실은 EU의 다른 나무(Annex I)에 걸려 있을 가능성을 놓친다.

마무리: 목록 앞에서 멈추지 않는 것들

10개, 8개. 숫자로만 보면 두 목록은 비슷한 크기다.

그러나 한국의 목록에는 아예 없는 것이 EU에는 있다. 고위험이 되기도 전에, 목록에 오를 자격조차 주지 않는 항목들이다. 사회적 평점, 특정 취약계층을 겨냥한 조작, 무차별 얼굴 인식 데이터베이스 — 이것들은 “고위험으로 분류해서 관리할 대상”이 아니라 “애초에 시장에 존재해서는 안 되는 대상”으로 분류된다.

한줄 코멘트. “고영향”과 “고위험”은 같은 자리에 있는 두 개의 이름이 아니라, 서로 다른 나무에서 각자 자란 단어다. 번역이 아니라 대조가 필요한 이유가 여기 있다.

두 목록 앞에서 질문이 하나 남는다. 목록에 오르는 것보다 더 근본적인 판정이 있다면 — “이건 아예 만들면 안 된다”는 판정 — 그 선은 누가, 어디에 긋는가.

← 이전 글: E-1 두 법은 다른 질문에서 태어났다

함께 읽기: B-2 ‘고위험 AI’란 무엇인가

→ 다음 글: E-3 EU는 10개를 금지했고, 한국은 0개다

주석 : [^1]: 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제2조제4호(가~차). 카목은 대통령령 위임(현재 시행령에 추가 지정 없음). 상세는 [[한국-AI기본법-법률21311호]] 참조. [^2]: EU AI Act(Regulation (EU) 2024/1689) Article 6(1)(경로 A, Annex I 제품 안전부품)·Article 6(2)(경로 B, Annex III). 상세는 [[regulation-2024-1689-ai-act]] Chapter III 참조. [^3]: AI Act Annex I Section B(자동차 형식승인 2018/858·일반안전 2019/2144 등 비-NLF 9개 법령) 및 Article 2(2). 상세는 D-6 참조. [^4]: 인공지능기본법 제33조(고영향 인공지능의 확인) — 사업자 사전 검토 의무 + 과기정통부장관 확인 요청은 재량. 상세는 [[한국AI기본법-EU-AI-Act-조문대응]] §2 참조. [^5]: AI Act Article 6(3)(비고위험 예외 4유형: 좁은 절차작업·완료된 인적활동 개선·패턴편차탐지·예비준비작업) 및 동항 후단(프로파일링 수행 시 예외 무효). Article 49(EU 데이터베이스 등록)·Article 71(등록 대상 DB).

참고