한국인터넷진흥원

[1] EU: AI 모델의 암기(memorization) 규제 쟁점

1. 개요
(1) AI 모델 암기 문제 부상과 GDPR 규율 맥락
(2) EDPB 의견서에 따른 개인정보 감독기관 대응

2. EDPB 의견서(28/2024) 주요 내용 및 암기 관련 쟁점
(1) AI 모델의 익명성 판단과 암기 평가 기준
(2) AI 모델 개발·배포 단계에서의 암기 위험 관리
(3) 위법한 학습·암기 데이터의 후속 영향
(4) 암기 위험과 정당한 이익의 관계

3. 독일 BfDI 공개 의견 수렴
(1) 추진 배경 및 목적
(2) 질문지 구성 및 의의

4. EU 감독기관 및 전문가 커뮤니티의 암기 관련 동향
(1) EDPB LLM 위험·완화 보고서의 암기 접근
(2) 프랑스 CNIL의 AI 권고 및 기술 도구 개발


[2] EDPS, EU기관 개인정보 영향평가 수행 실태 조사 결과 발표

1. 조사 개요
(1) 조사 배경
(2) 조사 방법
(3) 조사 범위 및 자료 특성

2. 임계값 평가와 DPIA 수행 현황
(1) 임계값 평가
(2) 임계값 평가 수행 빈도와 관행
(3) DPIA 수행 건수 및 사전 상담 저조 현상
(4) DPIA 공개 정책 및 책임성 관행

3. DPIA 방법론·템플릿 및 실행 품질
(1) EDPS 가이드라인과 서면 절차의 활용
(2) DPIA 템플릿 및 외부 모범사례 활용
(3) 처리 설명 및 개인정보 흐름도 작성 수준
(4) 필요성·비례성 평가 및 위험 분석의 한계
(5) 위험 평가 방식·잔여위험 판단 및 DPO·EDPS 관여 문서화

4. 인공지능(AI) 관련 처리 및 DPIA 동향
(1) AI·생성형 AI 활용 현황
(2) AI 관련 DPIA 수행 및 전용 템플릿 개발
(3) AI 법제와 DPIA의 상호작용에 대한 기관들의 문제 제기
(4) 공급업체 주장에 대한 비판적 접근과 위험 판단

5. 결론 및 권고사항
(1) DPIA·임계값 평가 수행에 관한 정량적 결론
(2) DPIA 내용·형식상 주요 결함과 권고
(3) DPO 관여·협의 및 모범사례 공유에 관한 권고
(4) EDPS 향후 조치: 가이드라인·템플릿·결정 개정 계획