한국인터넷진흥원

요약

1. 제목

  o 인공지능 환경의 프라이버시 보호 방안 연구

2. 연구의 목적 및 중요성

  o 본 연구는 지능정보서비스 관련 산업‧정책 동향 및 개인정보 활용 현황을 파악함으로써 프라이버시 보호 방안 및 원칙을 도출하는 데 목적이 있음

3. 연구의 내용 및 범위
  o (조사 분석) AI 개념 및 활용현황 파악, AI 역기능 및 윤리문제 이슈 조사
    - AI의 개념 및 메커니즘과 주요 알고리즘에 따른 적용 사례 조사
    - AI의 역기능 및 윤리 문제 이슈 조사
    - 국내외 정부의 AI 윤리 문제 관련 정책과 기업의 대응 조치 현황 파악
  o (프로세스 분석) AI서비스의 개인정보 활용 현황 및 프로세스별 침해위협 분석
    - AI 서비스의 산업 분야별 개인정보 활용 현황 조사
    - 머신러닝 워크플로우 단계별 개인정보처리 흐름 및 개인정보 침해 발생 시나리오 도출
  o (법적쟁점 분석) AI 환경의 정보주체 권리보장, 개인정보보호 관련 법적 쟁점 분석
    - AI 환경의 정보주체 권리 보장 현황 검토
    - AI 기반 서비스의 개인정보보호 관련 법적 쟁점 분석
  o (수칙 개발) 개발자/사업자/이용자 대상 AI 환경의 개인정보보호 수칙 도출
    - AI의 안전한 적용을 위해 지켜야 할 행동 수칙 3종(개발자‧사업자‧이용자 대상) 도출
  o (대응방안 제시) AI 환경의 프라이버시 보호방안 및 향후 고려사항 도출

4. 연구결과

  o AI 개념을 파악하고, AI 알고리즘의 활용 사례를 분석하였으며 국내외 기업별 AI 활용현황을 조사함. 뿐만 아니라 프라이버시(Privacy), 안전과 보안(Safety and Security), 투명성과 설명 가능성(Transparency and Explainability), 공정성과 차별 금지(Fairness and Non-discrimination), 책임(Accountability), 인간의 기술 통제(Human control of Technology), 전문가 책임(Professional Responsibility), 인간 가치 증진(Promotion of Human Values) 관점에서 AI 역기능 및 윤리문제 이슈를 조사함
  o 산업별 AI 서비스의 개인정보 활용 현황을 파악하고, 특히 AI 음성서비스와 얼굴인식 서비스의 개인정보 활용 현황을 분석함. 머신러닝 워크플로우(Machine Learning Workflow) 단계를 파악하고, 워크플로우 단계별 개인정보 침해 시나리오 분석 뿐만 아니라 AI 서비스에서 개인정보 침해예방을 위해 고려할 사항을 도출함
  o 국내외 국가에서 논의되고 있는 AI 환경의 정보주체 권리보장 내용을 분석하고, 개인정보보호 관련 법적 쟁점을 분석함. 이를 통해 AI 환경에서 개인정보보호를 위한 접근 방식을 도출함
  o AI 환경의 개인정보보호 수칙을 도출하기 위한 원칙과 Framework을 개발함. 이러한 프레임워크에 따라 AI 서비스 개발자를 위한 개인정보보호 수칙, AI 서비스 제공자를 위한 개인정보보호 수칙, AI 서비스 이용자를 위한 개인정보보호 수칙을 도출함
  o AI 환경의 프라이버시 보호방안으로 프로파일링에 대한 적절한 권리 보장, AI 서비스에서의 Privacy by Design 적용, 외부감사제도와 알고리즘에 대한 투명성 리포트 등을 제시하였고, 이와 관련하여 향후 연구 방향을 제시함

5. 기대효과 및 활용에 대한 건의 
  o 본 연구에서는 AI의 개념, AI의 메커니즘과 주요 알고리즘에 따른 적용 사례, AI의 역기능 및 윤리 문제 이슈, 국내외 AI 윤리 문제 관련 정책과 기업의 대응 조치 현황 파악 등을 조사하였음. 뿐만 아니라 AI 서비스의 산업 분야별 개인정보 활용 현황 조사, 머신러닝 워크플로우 단계별 개인정보처리 흐름 및 개인정보 침해 발생 시나리오 등 도출하였음
  o 특히, 본 연구에서는 AI 서비스 개발자·제공자·이용자를 위한 개인정보보호 수칙(안)도 마련하였음. AI의 윤리적 측면 보다는 개인정보보호 관점에서 접근하였다는 점, 현행 법률의 관련 조문을 설명하기 보다는 AI 서비스 이해관계자가 실질적으로 개인정보보호 실천에 도움이 되는 내용으로 구성하였다는 점, 그리고 지능정보기술의 복합적 특성으로 인해 공공성, 책무성, 통제성, 투명성 등 ‘지능정보사회 윤리 가이드라인’(2018. 4)과의 연계성을 유지하면서 개인정보보호 수칙을 개발한 것에 의미가 있음
  o 본 연구결과는 AI 산업의 활성화와 개인정보보호의 균형점을 찾기 위한 제도개선 뿐만 아니라, AI 서비스 개발자‧사업자‧이용자들이 AI환경에서 스스로 프라이버시를 보호하고 실천하는 데 활용될 수 있을 것으로 기대됨

목차

제 1 장. 서 론 1
1. 연구 목적 1
2. 연구 범위 1

제 2 장. AI의 개념 및 활용 현황 분석 2
1. 인공지능의 개념 2
2. AI와 기존 분석기술과의 차이 4
3. 인공지능 기술과 알고리즘 5
4. AI 알고리즘의 활용 사례 10
5. 국내외 기업별 AI 활용 현황 조사 16

제 3 장. AI의 역기능 및 윤리 문제 이슈 조사 23
제1절. AI 시스템의 윤리적 문제와 역기능 사례 23
1. 개요 23
2. 프라이버시(Privacy) 24
3. 안전과 보안(Safety and Security) 25
4. 투명성과 설명 가능성(Transparency and Explainability) 27
5. 공정성과 차별 금지(Fairness and Non-discrimination) 29
6. 책임(Accountability) 31
7. 인간의 기술 통제(Human control of Technology) 33
8. 전문가 책임(Professional Responsibility) 35
9. 인간 가치 증진(Promotion of Human Values) 38

제2절. AI 윤리 문제 해결을 위한 국내외 정책 현황 41
1. 개요 41
2. 해외 AI 정책 동향 42
3. 주요 기업의 AI 윤리 대응 조치 61

제 4 장. 산업별 AI서비스의 개인정보 활용 및 프로세스별 침해 위협 분석 67
제1절. 산업별 AI 서비스의 개인정보 활용 현황 67
1. 개요 67
2. AI 서비스 분야별 개인정보 활용 현황 67
3. AI 음성서비스와 얼굴인식 서비스의 개인정보 활용 현황 86

제2절. 머신러닝 워크플로우 단계별 개인정보 침해 시나리오 109
1. 머신러닝 워크플로우(Machine Learning Workflow) 단계 109
2. 워크플로우 단계별 개인정보 침해 시나리오 112
3. AI 서비스에서 개인정보 침해예방을 위해 고려할 사항 125

제 5 장. AI 환경의 개인정보보호 수칙 126
제1절. 수칙개발 원칙과 Framework 126
1. 수칙 개발 기준 126
2. 수칙 개발 Framework 128

제2절. AI 서비스 개발자를 위한 개인정보보호 수칙 133
1. 기획·설계 단계 133
2. 데이터 수집과 정제 단계 134
3. Modeling / Training 단계 136
4. Testing 단계 138
5. 적용·운영 단계 139

제3절. AI 서비스 제공자를 위한 개인정보보호 수칙 141
1. 수집 단계 141
2. 이용·제공 단계 143
3. 저장·관리 단계 144
4. 파기 단계 147
5. 피해구제 148

제4절. AI 서비스 이용자를 위한 개인정보보호 수칙 149
1. 인지(Awareness), 선택(Choice)/동의(Consent) 149
2. 접근(Access)·참가(Participation) 153
3. 권리 행사 153
4. 주기적 관리 154

제 6 장. AI 환경의 정보주체 권리 보장 및 개인정보보호 관련 법적 쟁점 158
제1절. AI 환경에서의 정보주체 권리 보장 158
1. EU GDPR 158
2. 유럽인권이사회 160
3. 미국 162
4. 일본 163
5. 우리나라 163

제2절. AI 서비스의 개인정보보호 관련 법적 쟁점 166

제3절. AI 환경에서 개인정보보호를 위한 접근 방식 169

제4절. AI 환경에서 프라이버시 보호 방안과 향후 고려사항 172
1. 개요 172
2. AI 환경에서의 프라이버시 보호 방안과 향후 과제 172

제 7장. 결론 177

참고문헌 181