4 분 소요

Series E. 두 개의 AI법: 인공지능기본법 vs EU AI Act : E-3

이전 글: E-2 ‘고영향’과 ‘고위험’은 같은 말인가

함께 읽기: B-2-1 EU가 선을 그은 8가지

다음 글: E-4 AI가 만든 것임을 밝히는 두 가지 방식

숫자가 바뀌었다

이 블로그의 B-2-1은 “EU가 선을 그은 8가지”라는 제목을 달고 있다. 2026년 4월에 쓴 글이다.

그 글을 다시 열어 세어보면, 지금은 숫자가 틀렸다.

여덟이 아니라 열이다.

EU AI Act Article 5의 금지 AI 목록에, 2026년 5월 7일 잠정 합의된 Digital Omnibus(Omnibus VII)가 두 항목을 새로 끼워 넣었다.[^1] 법 조문 하나가 협상 테이블 위에서 몇 달 만에 두 줄 늘어난 것이다.

무엇이 늘었는지, 그리고 그 옆에서 한국은 여전히 몇 개인지 — 이번 글의 질문이다.

원래 있던 여덟, 새로 온 둘

원래의 여덟 가지 — 잠재의식 조작, 취약성 악용, 사회적 평점, 개인 범죄 리스크 예측, 무차별 얼굴 DB 구축, 직장·학교 감정인식, 민감 특성 생체분류, 공공장소 실시간 생체인식 — 은 이미 B-2-1에서 하나씩 해부했다. 여기서는 되풀이하지 않는다.

새로 추가된 두 항목은 이렇다.[^2]

  1. CSAM 생성 AI 금지 — 아동 성적 학대 소재를 생성하는 AI.
  2. NCII 생성 AI 금지 — 비동의 친밀 이미지(“누디파이어” 앱 포함)를 생성하는 AI.

두 항목 모두 원래 AI Act(2024년 관보 게재본)에는 없었다. Omnibus VII 협상 과정에서 신설된 조문(Art.5(1)(ba)·(bb))이다.[^3] 적용 예정일은 2026년 12월 2일.

무제한 금지가 아니다

여기서 흥미로운 점 하나. 이 두 금지는 “그런 이미지를 생성할 수 있는 AI는 전부 불법”이라는 무차별 금지가 아니다. 조건부 이원 테스트를 통과해야 금지에 해당한다.[^4]

공급자(모델을 만든 쪽) 기준으로는, 다음 둘 중 하나여야 한다.

  1. 그런 생성·조작이 시스템의 의도된 목적인 경우, 또는
  2. 설계·훈련상 그런 결과가 합리적으로 예견 가능한데도 적절한 안전조치가 없는 경우.

범용 이미지 생성 AI가 이론적으로 악용될 수 있다는 사실만으로는 금지 대상이 되지 않는다. 관건은 세이프가드의 유무다. 배포자(그 AI를 실제로 쓰는 쪽) 기준으로는 더 단순하다 — 실제로 그 목적으로 사용한 경우만 해당하고, 우연한 생성이나 다른 합법적 목적의 사용은 제외된다.

정교한 설계다. “이런 것을 만들 수 있는 기술 자체를 없애라”가 아니라 “안전장치 없이 방치하지 마라, 그리고 실제로 악용하지 마라”는 이중의 조건문이다.

한국의 숫자는 그대로 0이다

한국 AI 기본법에는 이런 조문 자체가 없다. 여덟에서 열이 되는 동안, 한국의 숫자는 계속 0이었고 지금도 0이다.

다만 여기서 성급한 결론을 하나 걷어내야 한다. “한국은 0개다”는 문장이 “그러니 한국에서 CSAM·NCII 생성이 합법이다”를 뜻하지는 않는다. AI 기본법 바깥의 일반 형사법이 이런 콘텐츠의 제작·유포를 별도로 처벌할 가능성이 높다.[^5]

그러나 이 “바깥에 있다”는 사실 자체가 중요하다. EU는 이 금지를 AI 규제법 안에 넣었다. AI Act 위반이므로 AI Office·시장감시당국이 감독하고, 매출 7% 과징금이라는 AI Act의 집행 도구가 그대로 작동한다. 플랫폼·모델 공급자에게 사전 안전조치 의무까지 얹었다. 한국이 (만약 규율한다면) 이 문제를 다루는 곳은 형법 계통의 일반 형사법이다. 사후 처벌은 가능해도, “안전조치를 갖추지 않은 AI 시스템 자체”를 사전에 겨냥하는 도구는 아니다.

같은 목적을 다른 층에서 다룬다. 그 층의 차이가 실효성의 차이로 이어진다.

[필자 분석] 금지는 진흥법의 문법이 아니다

B-2-1은 이 공백을 두고 “의도적 선택인가, 논의의 부재인가”라는 질문을 열어 둔 채 끝났다. E 시리즈를 여기까지 따라온 지금, 더 정확한 답을 낼 수 있다.

E-1에서 확인했다. 한국 AI 기본법은 “이 기술을 어떻게 키울 것인가”라는 질문에서 태어났다. E-2에서 확인했다. 그 질문은 계산 가능한 “위험(risk)”이 아니라 결과 중심의 “영향(impact)”이라는 언어를 낳았다.

금지(prohibition)라는 규제 수단은 이 언어 위에서 애초에 어색하다. 금지는 “이것은 시장에 존재해서는 안 된다”고 선언하는 문법이다. 진흥법의 기본 동사는 지원하다·조성하다·육성하다다. 그 동사들 사이에 “금지한다”를 끼워 넣는 순간, 법 전체의 정체성이 흔들린다. 산업 육성을 다루는 제3장(14개조) 옆에, “다음은 만들면 안 된다”는 조항 하나가 들어설 자리는 원래 좁다.

반대로 EU AI Act는 제품안전법의 계보 위에 있다. GPSD·GPSR이 이미 “위험한 제품은 시장에서 배제한다”는 문법을 40년 넘게 써 왔다(A-4-3 참조). Article 5는 그 오래된 배제의 문법을 AI에 그대로 적용한 것뿐이다. EU에게 금지는 낯선 도구가 아니라 원래 있던 도구다.

그러니 이것은 “논의의 부재”만은 아니다. 법의 몸통이 산업 육성법이면, 금지 조항은 애초에 이질적인 장기다. 한국이 이 공백을 메우려면 두 가지 길이 있다 — AI 기본법 안에 이질적인 규제 장기를 이식하거나, 아니면 형법 계통의 개별 입법으로 사안별 대응을 이어가거나. 지금까지의 선택은 후자였다. 그리고 후자를 선택한 대가는, 이미 만들어진 것을 처벌할 수는 있어도 만들어지기 전에 막을 도구는 갖지 못한다는 것이다.

마무리: 숫자 뒤의 질문

여덟에서 열로. 숫자는 계속 움직인다.

그러나 이 시리즈에서 정말 중요한 것은 숫자가 아니다. 어떤 법 형식이 금지라는 도구를 자연스럽게 품고, 어떤 법 형식이 그 도구를 이질적으로 느끼는가다.

한줄 코멘트. 금지 목록의 격차는 논의 부족의 증거가 아니라, 진흥법이라는 법 형식이 처음부터 지니고 있던 한계다. 숫자를 늘리기 전에 물어야 할 것은 법의 몸통이다.

만드는 것 자체를 막는 문제가 이렇다면, 만들어진 것이 무엇인지 밝히는 문제는 어떨까. 다음 글에서 두 법이 “이것은 AI가 만들었다”는 사실을 알리는 방식을 나란히 놓는다.

← 이전 글: E-2 ‘고영향’과 ‘고위험’은 같은 말인가

함께 읽기: B-2-1 EU가 선을 그은 8가지

→ 다음 글: E-4 AI가 만든 것임을 밝히는 두 가지 방식

주석 : [^1]: Digital Omnibus on AI(P10_TA(2026)0198, 유럽의회 1차독회 채택본, 2026.6.16 — 이사회 공식 채택·관보 게재 전). 잠정 합의 시점은 2026.5.7. 상세는 [[Digital-Omnibus-Omnibus-VII]] 참조. [^2]: Digital Omnibus, Art.5(1)(ba)·(bb) 신설 — CSAM(아동 성적 학대 소재) 생성 AI·NCII(비동의 친밀 이미지, “누디파이어 앱” 포함) 생성 AI 금지. 적용일 2026.12.2. [^3]: [[Digital-Omnibus-Omnibus-VII]] — 세미나 발표자료([[tbt-ai-cybersecurity-seminar-2026]]·[[tbt-ai-regulatory-trends-2026]]) 모두에서 이 조항이 누락되었으나, 원문(Digital Omnibus 채택본) 직접 대조로 확인된 사항. [^4]: Digital Omnibus, Art.5(1a) 신설 — 이원 테스트(공급자: 의도된 목적 또는 예견 가능+안전조치 부재 / 배포자: 실제 목적 사용). 단순 보정(밝기·배경 조정 등 노출도를 늘리지 않는 조작)은 “조작”에 해당하지 않음. [^5]: [검토 필요] 한국 형사법 계통(예: 성폭력범죄 관련 특별법·아동·청소년 보호 관련 법령)의 딥페이크·아동성착취물 생성물 처벌 조항과의 정확한 대응 관계는 본 시리즈에서 원문 조문 대조를 거치지 않았다. 여기서는 “AI 기본법 안에 금지 조항이 없다”는 사실과 “일반 형사법의 규율 가능성”을 구조적으로만 구분했으며, 구체적 조문·처벌 범위는 별도 확인이 필요하다.

참고