8 분 소요

아이가 곰인형에게 말을 건다. 곰인형이 대답한다.

목소리는 인형 스피커에서 나오지만, 그 말을 만든 것은 인형이 아니다.

어딘가의 서버가 아이의 질문을 듣고, 문장을 만들어 돌려보낸다.

부모가 이 장면에서 걱정하는 것은 둘로 나뉜다.

하나는 인형의 눈 단추가 떨어져 아이가 삼키지 않을까 하는 것.

다른 하나는, 저 목소리가 대체 무슨 말을 아이에게 하고 있는가 하는 것이다.

완구안전지침(Toy Safety Directive, 이하 완구지침 — Directive 2009/48/EC)은 이 둘 중 정확히 하나에만 답한다.

2009년, 법이 상상할 수 있었던 위험

이 지침이 태어난 것은 2009년이다.

1988년 제정된 구 완구지침(88/378/EEC)을 완전히 새로 쓴 해다.

당시 유럽은 NLF(New Legislative Framework, 여러 제품군을 하나의 공통 문법으로 재편한 EU 제품안전 종합체계)라는 틀로 산업 전반을 정비하고 있었고,
완구도 그 대상이었다.

2009년의 입법자가 상상한 위험은 구체적이었다.

  1. 작은 부품을 삼켜 질식하는 위험 — 물리·기계적 위해

  2. 헐거운 배터리 뚜껑에 감전되는 위험 — 전기적 위해

  3. 페인트에 섞인 중금속 위험 — 화학적 위해

법은 이 세 갈래를 향해 조문을 하나씩 세웠다.

그해에도 말하는 장난감은 있었다.

그러나 그 장난감은 미리 녹음된 문장 몇 개를 반복할 뿐, 아이의 질문에 새로운 답을 만들어내지는 못했다.

법이 규율할 대상 자체가 아직 존재하지 않았다.

몸은 여기 있고, 말은 저기 없다

완구지침 부속서 I은 “완구로 보지 않는 제품” 목록을 정해둔다. 그 14항과 15항이 이렇게 선을 긋는다.

개인용 컴퓨터나 게임콘솔처럼 인터랙티브 소프트웨어에 접근하기 위한 전자장비는 완구가 아니다.

단, 아동 전용으로 설계돼 그 자체로 독자적 놀이가치를 가지면 예외다(14항).

그리고 여가·오락을 위한 인터랙티브 소프트웨어 자체와 그 저장매체는, 하드웨어와 별개로 아예 완구가 아니다(15항).1

두 조항은 결국 같은 말을 하고 있다.

완구의 몸(하드웨어)은 이 법의 영역이지만, 그 몸이 담고 있는 소프트웨어는 애초에 이 법의 영역 밖에 있다.

전자 부품이 붙은 완구에 대해 이 법이 유일하게 요구하는 것은 부속서 II Part IV 7항 하나뿐이다.

“전자제어시스템을 갖춘 완구는 시스템 자체 고장이나 외부요인으로 오작동이 시작되더라도 안전하게 작동하도록 설계·제작되어야 한다.”2

고장났을 때 안전할 것!

그뿐이다. AI가 무슨 말을 하는지, 그 말이 아이 나이에 적절한지는 이 조항의 관심사가 아니다.

몸은 규율됐다. 말은 아니었다.

이어달리기하는 두 번째 법

그렇다면 인형이 아이의 목소리를 인터넷으로 실어 나르는 행위는 누가 보는가.

이 질문에 답하는 것은 완구지침이 아니라 RED(Radio Equipment Directive, 무선기기지침 — Directive 2014/53/EU)다.

무선기기지침은 인터넷 연결 기기의 프라이버시 요건을 정해두었지만, 이 요건은 저절로 켜지지 않는다.

별도의 위임입법이 “어떤 기기에” 적용할지를 지정해야 발효되는 구조다.

그 위임입법이 2022년에 나왔다. Commission Delegated Regulation (EU) 2022/30. 제1조 2항 (c)호는 프라이버시 요건이 적용될 기기 하나를 이렇게 콕 집는다. “완구안전지침(2009/48/EC)이 적용되는 무선기기.”3

완구지침이 아이가 삼킬 수 있는 것을 막는 동안, 그 완구가 인터넷에 연결되면 이번엔 RED가 통신의 프라이버시를 감시한다.

두 법이 이렇게 이어달리기를 한다.

세 번째 주자 — 그런데 “위험한 AI”는 누가 정하는가

완구지침은 인형의 몸을 지킨다. RED는 인형이 내보내는 데이터의 프라이버시를 지킨다.

그런데 인형이 아이에게 실제로 무슨 말을 하는가는 다르다.

그 말이 부정확한 정보를 주는지, 아이를 특정 소비로 유도하는지, 나이에 맞지 않는 내용을 담고 있는지 — 이걸 직접 규율하는 조항은 완구지침에도 RED에도 없다.

세 번째 주자가 있긴 하다. 2024년에 태어난 AI Act(EU 인공지능법)다.

그런데 이 주자가 인형에게 달려오는 길은, 생각보다 복잡하다.

먼저 많은 사람이 오해하는 것 하나.

EU 어딘가에 ‘AI 심사청’ 같은 관청이 있어서 제품마다 “이건 고위험, 저건 아님” 하고 도장을 찍어줄 것 같지만, 그런 관청은 없다.

판정은 인형을 만든 회사가 스스로 한다.

출시 전에 회사가 아래 두 질문을 자신에게 던지고, 당국은 그 판정이 맞았는지를 나중에 시장감시로 확인하는 구조다.

  1. 내 AI의 쓰임새가 법이 미리 정해둔 민감 영역 목록에 있는가 — 감정 인식, 채용 심사, 신용 평가, 시험 채점 등 8개 영역임(부속서 III).4

  2. 목록에 없다면 — 내 AI가 들어가는 제품이 원래부터 외부 검사기관의 인증을 받아야 하는 종류이고(의료기기·승강기, 그리고 장난감도 이 후보 목록에 있음 — 부속서 I), 그 AI가 제품의 “안전부품”인가.5

둘 중 하나에 “예”가 나오면 고위험이다.

고위험이 되면 출시 전 적합성 평가에 더해, 출시 뒤에도 리스크 관리·사용 실태 모니터링·사고 보고를 계속해야 한다. 한 번 도장 받고 끝나는 인증이 아니라, 파는 동안 계속 지고 가는 의무다.

말하는 곰인형은 1번 목록에 없다. 그러면 2번 길인데, 여기엔 관문이 두 개 있다.

첫째 관문. 말하는 AI가 “안전부품”인가.

안전부품이란 고장 나면 사람이 다치는 부품이다. 자동차의 브레이크, 승강기의 멈춤장치 같은 것.

그런데 인형의 입은 브레이크가 아니다. 말이 멈춰도 아이는 넘어지지 않는다.

여기서 한 번 멈춰 서게 된다. 넘어지는 것만 다치는 것인가. 인형이 아이에게 이상한 말을 하면, 그것도 “건강”을 해치는 일 아닌가.

법의 정의를 다시 읽어보면, 안전부품은 두 갈래다. 안전 기능을 수행하는 부품이거나, 고장·오작동이 사람의 건강과 안전을 위태롭게 하는 부품.5

말하기는 안전 기능이 아니니 앞갈래는 닫혀 있다. 남는 것은 뒷갈래인데, 그 “건강”에 마음의 건강까지 들어가는지를 법 문언은 밝히지 않았다. 문은 아주 조금 열려 있는 셈이다.

다만 답의 방향은 이미 나오는 중이고, 그 방향은 문을 닫는 쪽이다.

지금 진행 중인 AI Act 개정안은 “이용자 보조·편의 기능만 하는 AI는 안전부품이 아니다”라고 못박으려 하고,6 집행위원회가 올해 5월 내놓은 고위험 분류 지침 초안도 같은 결을 따른다.7

인형의 대화 모듈은 바로 그 배제 목록 — 보조와 편의 — 에 정면으로 해당할 가능성이 크다.

둘째 관문. 그 장난감이 원래부터 외부 인증을 받아야 하는 종류인가.

대부분 아니다. 장난감은 유럽 표준만 지키면 제조사가 스스로 “안전합니다”라고 선언하는 것으로 충분하고, 외부 검사기관은 아예 등장하지 않는다.8

두 관문 모두에서, 말하는 인형은 그물에 걸리지 않을 가능성이 크다.

AI Act라는 촘촘해 보이는 법이, 이 인형 앞에서는 성근 그물이 된다.

다만 이것은 오늘의 이야기다.

2025년 12월, 완구지침을 통째로 대체하는 신 완구안전규정이 제정됐다.9

적용은 2030년 8월부터인데, 이 법은 위의 두 관문을 정면으로 겨냥한다.

안전성 평가에 “정신건강에 대한 리스크”를 명문으로 넣었고, AI가 든 완구는 아이의 취약성을 따져 평가하라고 요구하며, 표준이 그 위험을 다 덮지 못하면 외부 검사기관의 심사를 받아야 한다.

심지어 “제조사가 자기선언 절차를 골랐다는 사실이 고위험 AI 분류를 피하게 해주지는 않는다”는 해석까지 조문 앞머리에 못박아 두었다.

그물은 지금 다시 짜이고 있다.

인형이 변하면, 판정도 다시 한다

한 가지가 더 남아 있다. 위의 판정은 산 날의 인형에 대한 것이다.

그런데 요즘 인형은 업데이트로 어제와 다른 물건이 된다.

인형 회사가 업데이트로 “아이 목소리에서 우울한 기분을 감지해 부모에게 알려주는” 기능을 넣었다고 하자.

따뜻한 기능처럼 들리지만, 법의 눈에는 사건이다. 감정 인식은 아까 그 민감 영역 목록의 1번 항목에 정면으로 올라 있다.

어제까지 평범한 장난감이던 인형이, 업데이트 하나로 고위험 AI가 된다. 회사는 판정을 처음부터 다시 해야 한다.10

이미 고위험이던 AI라면, 처음 문서로 약속해 둔 학습 범위를 벗어나는 것만으로도 같은 일이 벌어진다.

법은 이것을 “실질적 변경(Substantial Modification)”이라 부른다. 다시 판정하고, 다시 인증받아야 한다.

건너뛰고 그냥 팔면 그 자체로 위법이고, 시장감시 당국이 회수를 명령할 수 있다.11

그래서 지금, 인형과 아이 사이에는

정리해 보자. 오늘 아이 방에 있는 말하는 인형과 아이 사이에는 세 겹의 안전장치가 있다.

  1. 금지선 — 아이의 약한 마음을 이용하도록 애초에 설계된 AI라면, 고위험이냐 아니냐를 따질 것도 없이 시장 진입 자체가 금지됨(AI Act 제5조).12

  2. 일반 안전망 — 설계 의도와 무관하게 위험이 확인되면, 일반제품안전규정(GPSR)에 따라 당국이 리콜을 명령할 수 있음.

  3. 사후 배상 — 그래도 아이가 다쳤다면 제조물책임지침(PLD)이 배상을 다룸. 몸의 상처만이 아니라 “의학적으로 인정된 정신건강 손상”까지 포함임.13

그리고 가장 촘촘해 보이는 네 번째 장치 — 고위험 AI의 사전 인증과 지속 관리 — 는, 두 관문에 막혀 이 인형에 아직 도착하지 않았을 가능성이 크다.

[필자 분석]

“안전부품”이라는 개념은 움직이는 기계의 시대에 만들어졌다.

고장이 곧 충돌이고 추락이던 시대. 그 틀로 보면 인형의 입은 위험하지 않다. 부러지지도, 떨어지지도 않으니까.

그러나 이 인형이 아이에게 입힐 수 있는 상처는 물리 법칙을 따르지 않는다.

몸을 지키는 법(완구지침)과 데이터를 지키는 법(RED)은 이미 도착했다. 말을 지키는 법은 — 서명까지 마치고 문 앞에 서 있다. 신 완구안전규정이 그것인데, 문이 열리는 날은 2030년 8월이다.9

흥미로운 것은 두 그물이 지금 반대 방향으로 움직이고 있다는 점이다. AI Act 쪽 그물은 개정 논의(디지털 옴니버스)로 안전부품의 정의가 좁아지며 성글어지는 중이고,14 완구법 쪽 그물은 정신건강과 AI를 향해 새로 짜이는 중이다.

수평의 법(모든 AI를 가로지르는 AI Act)이 물러선 자리를, 수직의 법(완구라는 한 제품군의 법)이 메우러 들어오는 그림이다.

결국 오늘 이 인형과 아이 사이에서 실제로 작동하는 것은, 사전 인증이 아니라 사후 안전망 — 리콜과 배상이다.

문제가 생기기 전에 막는 장치가 아니라, 생긴 뒤에 수습하는 장치.

다음 자리

법은 사물을 만드는 손을 규율하는 데는 능숙하다.

그 사물이 스스로 말을 만들어내기 시작했을 때, 법은 아직 그 말을 어떻게 들어야 할지 배우는 중이다.

다음 글에서는 몸을 규율하는 방식조차 완구와 정반대인 제품을 만난다.

어떤 기계는 인증서 없이는 시장에 나갈 수조차 없고, 어떤 기계는 스스로 선언하는 것만으로 충분하다. 같은 “기계”인데, 왜 이렇게 다른가.

한줄 코멘트.

완구안전법은 아이가 삼킬 수 있는 것은 촘촘히 막았지만, 아이에게 말을 거는 것은 아직 다 막지 못했다.

그 빈 자리를 지금 메우고 있는 것은 사전 인증이 아니라 리콜과 배상이다.

이전 글: [[2026-07-22-C-5-어느 쪽이 더 똑똑한 규제인가(feat. C 시리즈를 마치며)]] (C 시리즈 최종편) · 다음 글: [[2026-07-14-D-2-같은 기계인데 왜 하나는 인증받고 하나는 안 받는가]] · 관련: [[03-02-01 Resources 업무 국내/AI 규제 - 복사본(digesting with Claude code)/blog/posts/2026-04-06-A-2-인증 모듈(A~H)은 기업 맞춤 메뉴판이다]] · [[2026-04-28-B-2-고위험 AI란 무엇인가]]

  1. Directive 2009/48/EC, Annex I, points 14–15. ↩

  2. Directive 2009/48/EC, Annex II, Part IV, point 7. ↩

  3. Commission Delegated Regulation (EU) 2022/30, Article 1(2)(c). ↩

  4. Regulation (EU) 2024/1689 (AI Act), Article 6(2) 및 Annex III — 8대 영역: ①생체인식(원격식별·분류·감정인식) ②핵심 인프라 ③교육 ④고용 ⑤필수 서비스 접근(신용평가 등) ⑥법집행 ⑦이민·국경 ⑧사법·선거. ↩

  5. AI Act, Article 6(1) 및 Article 3(14)(안전부품 정의: 제품의 안전 기능을 수행하거나, 고장·오작동 시 사람의 건강·안전을 위태롭게 하는 부품). 완구지침은 AI Act Annex I Section A의 2번 항목으로 등재. ↩ ↩2

  6. Digital Omnibus on AI — Article 3(14) 개정(안전 기능 = 제공자가 정한 의도된 목적이 건강·안전 리스크의 방지·완화인 경우로 한정) 및 Article 6(1a)~(1c) 신설(이용자 보조·성능 최적화·서비스 효율·자동화·편의 전용 AI는 안전부품 불인정 — 단 고장이 건강·안전을 위태롭게 하면 여전히 안전부품(1b), 건강·안전 외 리스크만으로 3자평가를 받는 제품은 고위험 트리거 불충족(1c)). [검토 필요: 관보 게재 전] ↩

  7. 집행위원회 고위험 AI 분류 가이드라인 초안(AI Act Article 6(5) 근거, 2026.5.19 공표, 공개 협의 2026.6.23 종료) — 최종본 채택 전이므로 방향 참고용. ↩

  8. Directive 2009/48/EC, Article 19(2)–(3) — 조화표준을 전부 적용하면 제조사 자기선언(module A)으로 충분하고, 표준 미적용·부분적용 시에만 외부 검사기관의 EC형식심사(module B+C)를 받음. ↩

  9. Regulation (EU) 2025/2509(신 완구안전규정) — 관보 2025.12.12, 발효 2026.1.1, 적용 2030.8.1(완구지침은 같은 날 폐지). 정신건강 리스크는 Recital 16 및 Article 25(2)(c)(안전성 평가 차원 — Annex II 특정안전요건에는 미포함), 표준 미커버 시 EU형식심사 강제는 Article 26(3), 자기선언 선택이 고위험 분류에 영향 없음은 Recital 15. 상세는 [[regulation-2025-2509-toy-safety]] 참조. ↩ ↩2

  10. AI Act, Annex III point 1(감정인식). 참고로 직장·교육기관에서의 감정인식은 아예 금지(Article 5(1)(f), 의료·안전 목적 예외)이며, 그 밖의 맥락(가정용 등)에서는 고위험으로 분류됨. ↩

  11. AI Act, Article 3(23)·43(4)(실질적 변경 정의·재평가 의무), Article 72(사후시장모니터링)·73(중대사고보고)·74–84(시장감시, Reg 2019/1020 Ch.IX 준용). 상세는 [[Substantial-Modification]] 참조. ↩

  12. AI Act, Article 5(1)(b). 상세는 [[2026-04-28-B-2-1-EU가 선을 그은 8가지]] 참조. ↩

  13. Directive (EU) 2024/2853 (PLD), Article 6(1)(a) — “personal injury” includes “medically recognised harm to psychological health”. Article 10(4)의 재량적 추정 조항도 함께 참조. 상세는 [[입증책임과-AI책임체계]] §6·[[directive-2024-2853-pld]] 참조. ↩

  14. Digital Omnibus on AI(P10_TA(2026)0198, 유럽의회 1차독회 채택본 — 관보 게재 전) — “안전부품” 정의 축소로 고위험 분류가 실질적으로 좁아지는 방향. [[digital-omnibus-on-ai-p10-ta-2026-0198]] 참조. [검토 필요: 최종 확정 전] ↩

참고