한국법제연구원 KLRI

Ⅰ. 배경 및 목적

▶ 논의의 배경

○ 최근 AI 기술은 기존의 완전 연결신경망과 합성곱신경망, 순환신경망 등의 신경망 구조의 딥러닝 모델 구현을 뛰어넘어, 치명적 단점을 보완한 변형적 형태의 트랜스포머(transformer) 모델의 등장으로 혁신적인 변화가 진행되고 있음

- 특히 트랜스포머 모델은 망각 현상을 통해 과거 정보가 소실되어 새로운 출력에 영향을 미치지 못하는 문제와 병렬처리가 불가능한 문제를 어느 정도 극복함으로써 다양한 분야에서 널리 활용되고 있음

○ 그러나, AI의 긍정적인 전망에도 불구하고, AI는 고도의 자율성, 예측불가능성, 설명불가능성, 편향적 위험성, 불투명성 등 여러 층위의 위험적 요소도 상존하므로 부정적 이면도 동시에 가짐

- 이에 따라 인간에 대한 권리나 이익 침해에 대응하여 적절한 통제와 제한을 가하기 위한 규범 형성에 대한 노력도 각국에서 시도되고 있음

○ EU는 지속적으로 규제입법에 대한 논의를 전개해오던 끝에, 2024년 5월 12일 EU Artificial Intelligence Act를 전격적으로 제정·발효

- 우리나라는 지난 몇 년간 국회에 계류되었던 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 “인공지능기본법”이라 함)이 최근 2024년 12월 26일자로 가결되어 공포되면서 내년 2026년 1월부로 시행을 앞두고 있는 상황

- 우리 인공지능기본법은 EU와 같이 세부적인 리스크 수준을 구분하고 있지는 않지만, 고영향 인공지능에 해당하는 사업자에 대해 강한 규제를 적용하도록 하고 있어, 리스크 기반 규제의 틀과 형식은 갖추고 있으나, 법률 단위에서의 개념적 모호성과 수범 주체와 행위 의무사항의 불명확성 등이 지적되고 있음

▶ 본 연구의 목표

○ 본 연구는 다음의 두 가지를 목표로 연구를 진행하였음

○ 먼저, 인공지능기본법의 법적 명확성 확보와 합리적 규율을 위한 개선방안을 제시하였음

- 우리 인공지능기본법이 기술·산업의 진흥체계 구축을 지원하면서도 규제대상과 금지행위 등을 명확히 규정함으로써 안전과 신뢰 기반의 인공지능의 발전에 기여하도록 하기 위한 합리적 개선방안을 강구하는 것은 매우 중요한 과제

- 이에 본 연구는 포괄적 입법을 도입한 국내법 상황에서 향후 효과적이고 합리적인 규율이 이루어질 수 있도록 하기 위한 후속적인 대응방향을 제시

○ 다음으로는 인공지능기본법과 개별법 간의 체계정합성을 제고시키기 위한 방안에 대해 연구하였음

- 인공지능기본법이 법체계상 기본법의 형태로 도입됨에 따라 이러한 특성이 잘 반영되어 있는지를 점검하고, 향후 개별법과의 체계정합성 제고를 위해 유의할 점에 대해 제언

- 각 개별법에서 인공지능기본법상의 규제조항을 어떻게 해석하고 받아들여 입법을 추진해야 할지에 대한 입법방향에 대해 고민하고 그와 관련한 고려사항 및 대안을 제시하였음

Ⅱ. 주요 내용

▶ 쟁점 1: 고위험 및 고영향 개념의 명시적 구분 위한 정의규정 보완 필요성

○ 첫째, 고영향 인공지능 개념이 명확하지 않아 규제의 불확실성을 높인다는 점이 문제됨

- 영향과 위험을 병렬적으로 규정하는 것이나 안전과 기본권을 ‘및’이라는 연결어로 연결하는 방식도 그러함

- 이로 인해 유럽연합 인공지능법이 규정하는 고위험 인공지능의 경우보다 불명확성의 정도가 증가함

- 이는 명확성을 출발점으로 삼아야 하는 법적 개념에 어울리지 않아 보여 추후 개선해야 할 필요가 있어 보임

○ 둘째, 안전에 영향을 미치는 경우와 기본권에 영향을 미치는 경우는 질적으로 구별되는데 이를 명확하게 분리하지 않았다는 것인데, 즉 안전 기반 고영향 인공지능과 권리 기반 고영향 인공지능을 구별하지 않았다는 것이 문제됨

- 안전이라는 개념은 자기목적적인 것이 아니라 기본권 주체의 기본권 보호와 밀접한 관련을 맺는다는 것임

- 다만 안전을 개별적 안전과 집단적 안전으로 구별할 때, 개인의 기본권과 직접 연결되는 개별적 안전에 비해 국가안전보장이나 질서 유지와 같은 집단적 안전은 이러한 연결성이 분명하게 보이지 않을 때도 있어 EU AI Act는 “안전 또는 기본권”과 같이 ‘또는’이라는 분리어를 활용한 표현을 사용하는 것이므로 우리법 문언상 명확한 표현 필요

▶ 쟁점 2: 수범주체의 불명확성 문제

○ 인공지능 규제의 수범자, 즉 의무와 책임의 이해관계자를 어떻게 설정할 것인지는 인공지능의 가치사슬(value chain)이나 생애주기(life cycle)를 고려하여 판단할 필요

- 고위험 인공지능 시스템 제공자(provider), 수입업자, 유통업자(distributor), 활용자(deployer)를 규정하는 EU AI Act와 비교하면, 우리 인공지능기본법은 의무와 책임의 이해관계자를 상대적으로 포괄적으로 설정했다고 평가할 수 있음

○ 우리법상 인공지능사업자 개념을 설정하면서 이에 국가기관을 포함하는 방식은 재검토할 필요

○ 나아가 인공지능사업자, 이용자, 영향받는 자라는 이해관계자는 유럽법처럼 좀 더 인공지능의 가치사슬에 적합하게 설정하는 것도 고려할 필요

▶ 쟁점 3: 사실조사 규정 및 법 집행의 방향성

○ 인공지능기본법의 사실조사는 임의조사의 성격을 지니는 것이고, 행정조사기본법이 명확히 적용되는 것이어서 그 자체만으로는 규제적 혹은 침익적 속성이 강하다고 보기는 어렵지만, 사실조사의 대상이 되는 의무 규정 자체가 불명확한 점이 문제임

- 법 위반행위의 구성요건이 불확정적일 수밖에 없고 심지어 인공지능기본법 제32조처럼 조사대상자 해당 여부조차 다툼이 될 수 있는 경우라면 이를 사실조사의 대상으로 삼는 것을 자제하여 사회적 혼란과 법적 분쟁을 방지할 필요가 있음

○ 더불어 인공지능기본법 제34조와 같은 책무 규정을 사실조사의 대상으로 삼는 것은 법체계나 이론상 맞지 않으므로 삭제하는 것이 바람직함

- 인공지능 분야의 발전에 따라 규제의 필요성이 드러나는 영역에 대해 단계적으로 조사와 제재를 가하는 형태의 맞춤형 규제를 도입함으로써 인공지능 기술의 촉진과 남용행위의 방지 간의 균형을 도모하는 것이 타당할 것임

▶ 쟁점 4: 개별법과의 관계 및 체계정합성 확보

○ 인공지능기본법은 인공지능, 인공지능기술, 인공지능산업 및 인공지능사회 등에 걸쳐 꽤 상세한 규제와 진흥에 관한 규율을 포괄적이면서도 구체적으로 아우르고 있음

- 이에 반하여 인공지능을 활용하는 개별 분야에서의 입법은 아직까지 인공지능기본법의 수준만큼 견고하게 구축되어 있다고 보기 어려움

○ 통상적인 기본법의 제정 상황과 달리, 인공지능기본법은 인공지능에 관한 개별 법령상 규율이 본격화되기 전의 시점에서 제정되어 시행될 예정인 일반법이라는 점에서 특별한 위상을 가지고 있음

- 인공지능기본법과 개별 법령 간의 체계정합성 확보에 있어서 이러한 특수한 지점이 고려될 필요

○ 인공지능기본법과 개별 법령 간의 체계정합성 확보와 관련해서는 인공지능기본법상의 규율이 주도권을 가지고 개별 법령상의 규율을 견인해 나갈 가능성이 높다고 할 것인바, 개별 법령 단위에서는 당해 분야의 특수성이 반영된 인공지능의 활용에 필요한 경우 인공지능기본법상의 규율을 완화하거나 적용을 배제하는 특례규정을 두는 방식을 통하여 인공지능기본법과의 체계정합성을 확보하는 방안을 검토하여야 할 것임

Ⅲ. 기대효과

○ 본 연구는 합리적이고 실효적인 개선과제를 발굴하여 제시함으로써 포괄적 입법의 형태로 도입된 국내 인공지능기본법상 문제되는 개념 정의의 타당성, 규제 수준의 적절성, 수범주체 및 행위규제의 명확성 등의 문제에 있어서의 해결책을 도모

- 다양한 전문가로부터 인공지능기본법에 대한 평가를 구득하고, 구체적인 대응방향을 모색함으로써 본 연구의 결론으로서 문헌 분석에 기초하여 각 쟁점별로 구체적인 해결방향을 도출하여 제시하였음

- 다만, 본 연구를 마무리하는 시점을 기준으로 할 때 인공지능기본법은 법 시행을 3개월 앞두고 있으나, 최종적인 하위 법령 및 연성 규범이 확정되지 않은 관계로 그에 관하여는 구체적으로 다루지 아니하였음

○ 본 연구는 하위법령과 가이드라인 등의 내용을 구성하고, 추후 후속적인 입법 추진과 인공지능기본법의 발전적인 규율에 있어서 참고가 될 수 있는 연구로서 의미를 찾을 수 있을 것임

요 약 문 1

Abstract 6

제1장

서 론 / 15

제1절 연구의 배경 및 필요성 17

제2절 연구의 목적 및 방법 20

제2장

인공지능 분야 수평적 규제체계 도입의 의의 및 시사점 / 23

제1절 규제방식으로서 수평적 규제체계 25

1. 수평적 규제체계의 개념 및 인공지능 분야 도입의 의의 25

2. 타 분야의 수평적 규제체계 적용 사례와 시사점 27

제2절 인공지능 분야에의 수평적 규제체계 적용의 타당성 검토 37

1. 인공지능 규제에 있어 수평적 규제체계 도입의 배경 37

2. 인공지능 분야의 수평적 규제체계 적용 가능성 검토 42

제3절 소결: 수평적 규제의 법적 규율 방향 50

제3장

인공지능기본법의 합리적 규율을 위한 법률 쟁점과 발전방안 / 53

제1절 기본법의 법규범으로서의 특징 55

1. 포괄적 규제방식 55

2. 기본법 형식 56

3. 영향 기반 접근법 57

4. 타율 규제와 자율 규제의 결합 58

5. 행위 중심적 규제 59

제2절 기본법의 포괄적 접근의 타당성 검토 60

1. 인공지능기본법의 입법 태도에 관한 논란 60

2. 포괄적 규제 방식에 대한 비판 61

3. 포괄적 규제 방식의 타당성 검토 63

제3절 수범자 의무와 책임 규정의 해석 70

1. 의무와 책임의 출발점으로서 고영향 인공지능 70

2. 의무와 책임의 이해관계자 74

3. 기본원칙 및 국가 등의 책무 76

4. 인공지능 투명성 확보 의무 79

5. 인공지능 안전성 확보 의무 84

6. 고영향 인공지능과 관련한 사업자의 책무 87

7. 고영향 인공지능 확인 90

8. 고영향 인공지능 영향평가 92

9. 국내대리인 지정제도 93

10. 인공지능사업자의 책임 93

제4절 법집행상의 쟁점 : 사실조사와 제재규정 95

1. 국내법상 사실조사 제도에 대한 분석 95

2. 인공지능기본법상 사실조사 및 제재규정에 대한 평가 104

3. 법집행 효율화를 위한 향후 입법과제 115

제4장

기본법-개별법간 체계정합성 확보방안 / 117

제1절 체계정합성 검토의 필요성 119

1. 기본법의 법적 위상 및 의의 119

2. 체계정합성 원칙 관점에서의 검토 필요성 121

제2절 인공지능기본법과 개별 법령 간 체계정합성 분석 123

1. 인공지능기본법과 개별 법령 간 체계정합성 관련 국내 규율 현황 123

2. 법령 간 체계정합성 관련 해외 입법례의 규율 현황 140

3. 체계정합성 확보 관점에서 현행 법체계의 한계 및 법적 고려사항 142

제3절 체계정합성 확보를 위한 향후 입법과제 148

1. 인공지능기본법상 총칙 규정에 다른 법령간 규율 관계를 구체적으로 명시하는 방안 148

2. 인공지능기본법상 개별 규정에 다른 법령간 규율 관계를 명시하는 방안 150

3. 개별 법령에 인공지능기본법상 규율 적용을 명시하는 방안 152

4. 개별 법령에 인공지능기본법상 규율 배제를 명시하는 방안 157

제5장

결 론 / 161

참고문헌 167