한국법제연구원 KLRI

Ⅰ. 배경 및 목적

▶ 지난 수년간 국제사회는 AI 윤리 권고 및 윤리원칙 등을 발표하면서 인공지능 사회에서 고려해야 할 윤리적 규범에 대한 논의를 진행해 왔으며, 최근에는 이러한 AI 윤리 이슈에서 특히 강조되고 준수해야 할 사항에 대해 법제화하려는 움직임이 출현함

○ 예를 들어 미국의 2019년 “알고리즘 책임법안(Algorithmic Accountability Act)”, EU 집행위원회의 “AI Regulation Proposal”, 캐나다의 2021년 “자동의사결정에 관한 지침(Directive on Automated Decision-Making)이 대표적임

▶ 이와 같은 외국의 동향은 그 동안 주로 윤리적 차원에서 논의되어 왔던 AI 관련 이슈들이 점차 법제도화 되고 있음을 보여준다는 점에서 외국의 입법동향에 대해 조사, 분석하여 AI의 개발 및 이용을 둘러싼 우리나라의 정책 및 법제 수립에 참고할 필요가 있음

▶ 이에 본 연구에서는 지금까지 국제적으로 다양한 단체 또는 기관에서 배포한 AI 윤리 원칙에 대한 비교분석을 통해 향후 우리나라의 AI 관련 윤리 이슈의 법제화 방안 제시하고자 함

 

Ⅱ. 주요 내용

▶ 국내외 주요 인공지능 윤리모델(헌장, 가이드라인 등) 비교 분석

○ 인공지능 윤리 모델 배포 주체별 비교분석

- 그 결과 국제적 흐름에 발맞춰 이를 적극적으로 지원하고 지속적인 연구와 전문가 논의를 통해 가이드라인 제작에서 더 나아가 특정한 영역이나 고위험 인공지능의 경우에는 강제성 있는 인공지능 윤리에 대한 법제화에 대해 필요가 있다고 판단

▶ 강제적인 법제보다 자율규제 수준의 소프트로(softlaw) 적극 활용

○ 국내외에서 민간뿐만 아니라 국가 차원에서도 강제적인 법제보다는 자율규제나 ‘기준’, ‘지침’ 등의 소프트로(softlaw)가 적극 활용되고 있고, 인공지능의 발전의 초기단계에 있고 다양한 분야에서 다양한 수준의 인공지능 개발이 선행되어야 함을 고려하면 자율적인 규제 수단이나 비강제적 규범을 통하여 자발적으로 인공지능 윤리가 확보되도록 하는 것이 바람직할 것

- 모든 수준의 인공지능과 모든 영역에서 활용 가능한 인공지능 전체를 동일한 규제수준으로 입법을 추진하는 것은 바람직하지 않으며, 특히 높은 수준의 규제를 도입하는 경우에는 더욱 바람직하지 않다고 판단

▶ 인공지능 윤리 관련 입법 추진 방향 및 방법 제시

○ 인공지능 법제에서는 인간 중심 핵심 가치를 보장하는 것을 기본 원칙으로 설정하여야 하며, 그로부터 윤리에 대한 접근 시행

○ 인간의 자유와 권리를 보장하고, 고위험 인공지능 중심의 규제를 제한적으로 도입하는 것이 바람직하며, 인공지능의 발전에 따라 단계적으로 확대

○ 구체적인 윤리 기준보다는 윤리 원칙 설정과 함께 윤리를 확보할 수 있는 절차를 마련하는 방향으로 법제를 추진

○ 인공지능 입법을 추진하는 경우에 인센티브 부여나 자율규제에 일정한 효과 부여

○ 인공지능 및 관련 산업의 촉진을 위한 법제를 마련하면서 인공지능 윤리나 핵심 원칙 등을 규정하는 방식도 가능

- 기존의 “지능정보화 기본법”과 같이 인공지능을 규율하는 기본법을 개정하여 인공지능 윤리에 대한 사항을 추가하는 것도 가능

- 이와는 별도로 인공지능 윤리의 핵심 요소 중의 하나인 ‘차별’에 대하여는 향후 차별 금지에 관현 일반법이 제정된다면, 그러한 일반법으로서의 차별금지법 속에 인공지능 관련 규정을 추가하는 방안도 고려해보는 방안

 

Ⅲ. 기대효과

○ AI 윤리 이슈의 법제화의 방향성 및 방안 제시함으로써 향후 국내의 관련 입법과정에서 참고할 수 있는 기초자료를 제공할 것으로 기대됨

○ 또한 AI 윤리와 법에 대한 산관학 전문가들의 논의와 관심을 제고하고 후속연구를 촉진하는데 기여할 것으로 기대됨

요 약 문 5

 

Abstract 9

 

제1장 서 론 / 21

  제1절 연구의 배경 및 목적 23

  제2절 연구의 범위와 방법 25

 

제2장 AI 윤리 이슈 관련 현행 국내법 현황 및 문제점 / 31

  제1절 국내 관련 법률과 법안 추진 현황 33

    1. 관련 법률 33

    2. 제출된 법률안 38

  제2절 국내 정책 동향 49

    1. 주요 정책문서 49

    2. 기타 정책 동향 57

  제3절 시사점 61

    1. 개요 61

    2. 인공지능에 대한 규제 접근방식 62

    3. 소결 65

 

제3장 국내외 AI 윤리원칙 / 67

  제1절 민간 자율모델 – 기업 69

    1. 개요 69

    2. 국외 70

    3. 국내 86

  제2절 민간 자율규제 모델 – 협회, 단체 88

    1. 국외 88

    2. 국내 125

  제3절 정부 비강제 모델 – AI 가이드라인 127

    1. 국외 127

    3. 국내 166

  제4절 법적 규제모델 168

    1. 미국 168

    2. EU 177

 

제4장 AI 윤리 관련 국내 법제화를 위한 제언 / 187

  제1절 국내 법제 분석 189

    1. 관련 법 및 법안 189

    2. 국내 가이드라인 및 정책 191

  제2절 AI윤리원칙 비교 분석 196

    1. 국내․외 주요 AI윤리원칙 특징 비교 196

    2. 주요 AI윤리 원칙간 비교 204

    3. 소결 219

  제3절 AI윤리와 입법론 225

    1. 국내․외 주요 AI윤리 입법의 시사점 225

    2. 국내 AI윤리 입법방향 226

 

제5장 결론 / 229

 

참고문헌 233